Copilot Studio se tourne vers des flux de travail basés sur l'IA

La dernière fois que j'ai regardé Copilot Studio, c'était un moyen d'étendre les outils Power Virtual Agents d'origine pour incorporer l'IA générative et prendre en charge des interactions conversationnelles plus générales. En utilisant les outils Azure OpenAI pour travailler avec des sources de données supplémentaires, Copilot Studio est devenu un outil beaucoup plus flexible avec des capacités améliorées de compréhension du langage.

Lors de la Build 2024, Microsoft a tracé une nouvelle voie pour les capacités d'IA de Power Platform, en les alignant sur les outils de développement low code et sans code de la plateforme et en ajoutant la prise en charge des flux et connecteurs Power Automate. Il s'agit d'un changement important pour la Power Platform, mais qui tire parti de l'adoption par Microsoft de l'IA générative comme outil de création et d'exécution d'agents autonomes.

La nouvelle version de Copilot Studio équivaut ainsi à une refactorisation complète de la stratégie d'IA de Power Platform, évoluant au-delà des chatbots vers des workflows orchestrés par l'IA. Bien que les chatbots soient toujours pris en charge, il y a désormais beaucoup plus à intégrer dans le canevas de développement Web et sans code de Copilot Studio.

Mettre le robot en RPA

Au cœur du nouveau Copilot Studio se trouve une meilleure compréhension de la manière dont des modèles tels que GPT 4.0 peuvent fonctionner avec des descriptions d'interface structurées, comme celles utilisées par OpenAPI pour générer dynamiquement des requêtes et pour analyser et formater les réponses en langage naturel. Ici, au lieu d'utiliser OpenAPI, l'IA générative est utilisée pour orchestrer les connecteurs Power Platform existants et nouveaux, vous permettant de converser avec votre agent et de voir ses réponses dans n'importe quel client de discussion pris en charge.

Il y a beaucoup à aimer dans cette approche. Travailler avec des transactions longues a toujours été un problème, et les outils de mémoire sémantique au cœur des flux de travail basés sur l'IA sont une solution prometteuse, en particulier lorsqu'ils sont utilisés pour tenir l'humain au courant.

L’aspect le plus important de cette refonte est la possibilité prévue d’utiliser un déclencheur pour exécuter un flux qui englobe une série de différentes tâches pilotées par l’IA. Au lieu d'être des outils de chat ponctuels, ils constituent désormais un moyen de gérer les transactions de longue durée, en modifiant les étapes en fonction du dernier ensemble de résultats.

Comment cela fonctionne est simple. Disons que vous déclenchez un ensemble d'actions basées sur un e-mail entrant. Vous pouvez utiliser Copilot Studio pour tracer un flux de travail, lancé par un événement dans Microsoft Graph. Cela peut impliquer d'extraire les détails de l'expéditeur à partir de Dynamics 365, de générer automatiquement une réponse basée sur le courrier entrant et l'historique des interactions CRM de l'expéditeur, et d'envoyer un message à Teams, détaillant les actions entreprises et répertoriant les suivis possibles qui nécessitent une intervention humaine. intervention.

Il s'agit d'un ensemble d'actions très différent de celles gérées par la première génération de l'assistant IA de Power Platform. C'est désormais une façon de travailler avec ces flux de travail de longue durée, presque ad hoc, qui nécessitent de gérer des informations entre les opérations ainsi qu'un mélange d'actions automatisées et manuelles. En utilisant un agent pour gérer cela, nous pouvons non seulement envoyer des réponses en langage naturel basées sur les données de l'application, mais nous pouvons également acheminer les notifications et les interactions vers la bonne personne.

Agents de construction dans Copilot Studio

Cela nécessite une intégration avec les différents cloud de Microsoft, notamment Microsoft Graph et le Dataverse de Power Platform. En conséquence, la dernière génération de Copilot Studio s’appuie sur la métaphore de la conception de flux de Power Automate. Au lieu de créer des applications de chat (ou plutôt de créer des applications de chat), nous utilisons désormais l'IA pour gérer et contrôler les flux de travail. En fait, nous utilisons Copilot Studio avec les flux Power Automate existants, afin que vous puissiez intégrer l'IA dans les processus métier existants.

Les flux sont traités comme l'une des actions disponibles parmi un ensemble d'actions : conversationnelles, connecteurs, flux et invites. Les actions conversationnelles sont l'une des nouvelles fonctionnalités les plus intéressantes, fonctionnant comme les plug-ins ChatGPT ou les compétences dans Semantic Kernel. Ils se comportent comme un sujet Copilot Studio, mais au lieu de se connecter au contenu, ils permettent à votre agent Copilot Studio d'accéder aux API et aux données externes. Vous pouvez même les connecter à du code personnalisé et à une logique métier, en mélangeant les techniques traditionnelles de développement de logiciels d'entreprise avec l'IA sans code.

Mise à la terre avec connecteurs et données réelles

L'une des nouvelles fonctionnalités les plus importantes est le connecteur Copilot. Tout comme les connecteurs utilisés dans Power Apps et Power Automate, ceux-ci relient votre application à des données et des API externes. Des outils comme celui-ci sont plus importants dans une application basée sur l’IA, en particulier celle utilisant l’IA générative, car ils fournissent les bases nécessaires pour réduire le risque de sorties incontrôlables.

Utilement, Copilot Studio peut utiliser les connecteurs Power Platform existants, étendant ainsi ce que Microsoft décrit comme ses « connaissances ». Il s'agit d'un ensemble de sources d'informations qui incluent les outils de chatbot existants et les sources d'informations Microsoft telles que Dataverse et Fabric, ainsi que l'utilisation de Dataverse comme moyen de préparer des données provenant d'autres sources d'entreprise pour une utilisation dans les sorties pilotées par RAG (génération augmentée de récupération). . Il y a des limites à ce que vous pouvez utiliser, avec seulement deux sources Dataverse par application (et seulement quinze tables dans chaque source). Les données personnalisées des applications métier sont importées au format JSON, prêtes à l'emploi.

Cela peut sembler peu de données, mais vous n'utilisez pas Copilot Studio pour créer et exécuter des applications autonomes à grande échelle ; ceux-ci nécessitent vraiment de travailler avec des frameworks comme Prompt Flow d'Azure AI Studio.

Ajouter un connecteur à un agent dans Copilot Studio est assez simple. Commencez par ajouter des connaissances à votre application, en ajoutant une connexion d'entreprise. Ces connexions héritent des autorisations de l'utilisateur, garantissant ainsi que les utilisateurs obtiennent des résultats sans briser les limites de sécurité. Cette approche est essentielle si vous créez des applications d'IA pour des secteurs réglementés.

Flux de travail basé sur l'IA avec actions conversationnelles

Les choses deviennent plus intéressantes lorsque vous commencez à utiliser des actions conversationnelles dans vos applications. C'est là que l'agent sous-jacent commence à présenter des comportements autonomes, en analysant la demande d'un utilisateur et en l'utilisant pour construire une orchestration sur un ensemble connu d'actions, de connexions et de composants, avant d'utiliser l'IA générative pour assembler une réponse en langage naturel.

Ici, la demande de l'utilisateur est une invite d'orchestration utilisée pour démarrer l'interaction. Dans une prochaine version, le système sous-jacent utilisera sa connaissance des API qu'il utilise pour demander des informations supplémentaires, si nécessaire. Pour l'instant, cependant, vous êtes limité à un moyen utile, bien que basique, d'ajouter une extension en langage naturel à une application d'IA existante que vous avez déjà créée et testée dans Copilot Studio.

Il vous suffit de modifier votre application, d'ajouter une extension ou une action, de choisir une action conversationnelle. Vous devrez ensuite définir quelques configurations de base avant de modifier l'action. Un déclencheur est une invite qui définit l’action, décrivant à quoi elle sert. Ceci est utilisé pour déterminer quand et comment cette action est invoquée.

Une fois le déclencheur en place, vous pouvez alors créer l’action. Il s’agit d’un flux de processus sans interface utilisateur. L'outil d'édition de Microsoft n'affichera aucun composant d'interaction utilisateur, garantissant ainsi que le processus s'exécute dans votre copilote et n'interrompt pas son flux. Une fois publiée, vous pouvez ajouter l'action au catalogue Microsoft 365 Copilot, où elle est traitée comme un plugin et activée dans le cadre d'une conversation utilisateur avec le copilote.

Le coût du Copilot Studio mis à niveau est étonnamment bas. Comme il s'agit d'un service d'arrière-plan, il n'est pas sous licence par utilisateur, mais utilise une tarification par message, avec 25 000 messages pour 200 $ par mois. Un message est une requête qui déclenche une réponse, un message nécessitant des opérations d’IA générative comptant pour deux messages standards. On ne sait pas encore comment acheter de la capacité supplémentaire. Il existe une option alternative de 30 $ par utilisateur à utiliser uniquement avec Microsoft 365.

La version initiale de Copilot Studio nous a offert un moyen simple de créer des chatbots, en insufflant aux technologies existantes une IA générative. Cette nouvelle mise à jour, désormais en avant-première, va beaucoup plus loin, reliant les outils d'IA modernes à l'automatisation des processus, offrant la promesse d'un développement sans code d'agents autonomes. Le mélange de techniques familières avec une orchestration basée sur l'IA permet à la génération actuelle d'outils d'IA de faire ce qu'ils font le mieux : travailler avec des API bien définies et sémantiquement riches et fournir des résultats dans un format convivial.