Comment gérer les programmes d’IA générative – gouvernance, éducation, réglementation

La police du CdE : leadership, application et automatisation

Le contrôle des initiatives liées aux nouvelles technologies implique la création d’un petit ensemble de normes communes qui devraient régir toutes les équipes participantes. Pour les projets d’IA générative, cela pourrait inclure la création d’approches cohérentes pour gérer les recettes d’invite, le développement et les tests d’agents, ainsi que l’accès aux outils et intégrations des développeurs. Ces règles doivent être légères, afin que leur conformité soit facile à réaliser, mais elles doivent également être appliquées. Au fil du temps, cette approche réduit tout écart par rapport aux normes conçues et réduit les frais généraux de gestion et la dette technique.

Par exemple, ces règles sont nécessaires pour gérer l’utilisation des données dans les projets. De nombreux projets d’IA générative impliqueront la gestion et le déploiement de données client, alors comment cela doit-il être mis en œuvre dans la pratique ? En ce qui concerne les informations personnelles identifiables (PII) des clients et la propriété intellectuelle (IP) de l'entreprise, ces données doivent être conservées en sécurité et séparées de tout modèle de langage étendu (LLM) sous-jacent, tout en permettant leur utilisation dans le cadre de projets. Les informations personnelles et IP peuvent être déployées et fournir un contexte supplémentaire précieux via une ingénierie rapide, mais elles ne doivent pas être disponibles pour que le LLM puisse les utiliser dans le cadre d'une formation de recyclage ou de rétention.

La meilleure approche en matière de gouvernance est d’être pragmatique. Cela peut impliquer de choisir soigneusement vos batailles, car une application sévère ou excessive des règles peut nuire à vos équipes et à leur fonctionnement, tout en augmentant les coûts associés à la conformité. Dans le même temps, il y aura des cas où votre travail sera nécessaire et impliquera la fermeture d'expériences où elles mettent en danger la vie privée ou l'utilisation éthique des données, ou coûtent trop cher au fil du temps. L’objectif général est d’éviter d’imposer des normes lourdes ou d’étouffer l’enthousiasme, et de se concentrer sur la manière d’encourager les meilleures pratiques en tant que normes.