Les microservices du DAPR prennent désormais en charge les agents d'IA

En 2019, Microsoft Open-Opening DAPR, un nouvel temps d'exécution pour faciliter la construction d'applications basées sur des microservices distribuées. À l'époque, personne ne parlait encore d'agents de l'IA, mais en fin de compte, DAPR avait certains des éléments constitutifs fondamentaux pour soutenir les agents de l'IA intégrés dès le départ. En effet, l'une des principales caractéristiques de DAPR est un concept d'acteurs virtuels, qui peuvent recevoir et traiter des messages, indépendamment de tous les autres acteurs du système.

Aujourd'hui, l'équipe DAPR lance des agents du DAPR, son entretien pour aider les développeurs à construire des agents d'IA en leur fournissant beaucoup de blocs de construction pour le faire.

«Les agents sont un très bon cas d'utilisation pour le DAPR», a expliqué le co-créateur et le responsable du DAPR, Yaron Schneider. «D'un point de vue technique, vous pouvez utiliser les acteurs comme un moyen très léger d'exécuter ces agents et vraiment de les exécuter à grande échelle avec un état – et d'être économes en ressources. Tout cela est génial, mais alors, il y a encore beaucoup de logique commerciale que vous devez écrire. L'état et son orchestration ne sont qu'une partie. Et beaucoup de gens, ils pourraient choisir un moteur de workflow ou un cadre d'acteur, mais il y a encore beaucoup de travail à faire pour réellement écrire la logique de l'agent de l'autre côté. Il y a beaucoup de cadres d'agent, mais ils n'ont pas le même niveau d'orchestration et d'état que DAPR. »

Les agents du DAPR sont originaires de Floki, un projet populaire open source qui a étendu le DAPR pour ce cas d'utilisation de l'agent AI. En discutant avec les responsables du projet, notamment le chercheur de Microsoft AI, Roberto Rodriguez, les deux équipes ont décidé de mettre le projet sous le parapluie DAPR pour assurer la continuité du nouveau cadre d'agent.

«À bien des égards, nous voyons des systèmes agentiques et toute la terminologie autour de celle comme un autre terme pour les« systèmes distribués », a déclaré le co-créateur et mainteneur du DAPR, Mark Fussell. «(…) Plutôt que de les appeler des microservices, vous pouvez les appeler des agents maintenant, principalement parce que vous pouvez mettre de grands modèles de langage parmi eux tous.»

Pour coordonner efficacement ces agents, vous avez besoin d'un moteur d'orchestration et d'une état de l'état, soutient l'équipe – ce qui est exactement ce que DAPR propose. Cela est en partie parce que les acteurs de DAPR sont censés être extrêmement efficaces et capables de tourner en millisecondes lorsqu'un message arrive (et ferme, avec leur état conservé, lorsque leur travail est terminé).

À l'heure actuelle, les agents DAPR peuvent parler à la plupart des fournisseurs de modèles populaires hors de la boîte. Il s'agit notamment du socle AWS, Openai, Anthropic, Mistral et Embring Face. La prise en charge des LLM locales arrivera très bientôt.

En plus d'interagir avec ces modèles, puisque les agents DAPR étendent le cadre DAPR existant, les développeurs ont également la possibilité de définir une liste d'outils que l'agent peut ensuite utiliser pour accomplir une tâche donnée.

Actuellement, les agents DAPR prennent en charge Python, avec le support .NET qui lance bientôt. Java, Javascript et Go suivront bientôt.