On dit que la moitié de l’argent dépensé en publicité est gaspillée, mais le problème est de savoir quelle moitié. Si cela est vrai, le problème est sans doute pire pour l’IA. Parlez à des gens profondément impliqués dans l’IA et ils vous diront que plus de 90 % de l’argent dépensé pour l’IA est du gaspillage, et que des montagnes d’argent courent après ces 10 % insaisissables parce que le gain potentiel est si bon. Accenture, par exemple, a réservé 2 milliards de dollars cette année pour aider ses clients à comprendre l’IA. Nvidia et les nuages continuent également d’engranger des dizaines de milliards supplémentaires.
Il est clair que l’IA rapporte beaucoup d’argent. La question qui se pose à la plupart des entreprises doit être la suivante : quels investissements fonctionnent et lesquels devraient être abandonnés ?
Bien qu’il n’y ait pas de réponse évidente à cette question, une nouvelle classe de logiciels est en cours de conception pour apporter des réponses. Tout comme la science des données nous a apporté la gouvernance des données, des entreprises comme Holistic AI assurent la gouvernance de l’IA. De nouveaux efforts ont tenté de traiter la gouvernance de l'IA comme une extension de la gouvernance des données, de l'informatique ou du cloud, alors qu'elle nécessite en réalité sa propre approche unique et distincte, compte tenu de la nécessité d'aller bien au-delà de l'évaluation des risques standard pour inclure également des facteurs tels que les biais, l'efficacité. , et l'explicabilité.
Si cela ne semble pas être la catégorie de logiciels la plus sexy, pensez-y de cette façon : si cela aide les entreprises à améliorer leur taux de réussite en matière d'IA, c'est incroyablement sexy.
Les enjeux sont élevés pour l’IA
Oui, notre industrie a sa part de battage médiatique exagéré pour les « tendances » technologiques qui se révèlent être des modes vaporeuses (par exemple, Web3, quoi que ce soit). Mais l’IA est différente. Non pas parce que je veux que ce soit le cas, ou parce que les fournisseurs d'IA espèrent que ce sera le cas, mais parce que même si nous y faisons des trous (hallucinations, etc.), il est toujours là. Bien que l’IA générative soit une version relativement nouvelle de l’IA, la technologie elle-même constitue un marché relativement mature et beaucoup plus vaste qui inclut des éléments tels que l’apprentissage automatique. Les entreprises se sont peut-être montrées plus évidentes dans leur attitude autour de l’IA au cours des deux dernières années, mais ne vous laissez pas dérouter. Cette semaine encore, j'ai parlé avec une entreprise qui exploite un grand nombre d'applications d'IA, chacune coûtant près d'un million de dollars chaque année.
Il est clair que cette entreprise Fortune 500 voit de la valeur dans l’IA. Malheureusement, il n'est pas toujours clair laquelle de leurs applications coûteuses tient ses promesses et lesquelles introduisent plus de risques que de récompenses.
Lorsqu'une entreprise choisit de créer une application d'IA, elle accorde une grande confiance aux grands modèles de langage (LLM) ou à d'autres outils sans beaucoup (voire aucune) visibilité sur la manière dont les modèles produisent des résultats. Cela peut être catastrophique pour une entreprise s’il s’avère que ses algorithmes sont constamment préjudiciables à une classe protégée (minorités ethniques, etc.), qu’ils évaluent mal les produits ou qu’ils provoquent d’autres incidents. Les régulateurs et les conseils d’administration accordent donc davantage d’attention à ce que l’on appelle la « conduite des algorithmes » pour garantir que l’IA génère un essor et non un effondrement.
De la marchandise à la vélocité
Il est déjà devenu fastidieux d’examiner les derniers LLM. Presque quotidiennement, Meta surpasse OpenAI, qui surpasse Google et toute entreprise ayant la capacité d'investir des milliards en infrastructure et en R&D sur les performances des modèles. Et le lendemain, ils changent tous pour savoir quelle entreprise prétend être la plus rapide ce jour-là. Qui s'en soucie? Dans l'ensemble, cela est important parce que les entreprises obtiennent de meilleures performances à moindre coût, mais cela n'a aucune importance si ces mêmes entreprises ne peuvent pas s'appuyer sur les modèles en toute confiance.
Pour gagner en rapidité commerciale grâce à l’IA, les entreprises ont besoin d’une visibilité et d’un contrôle complets sur tous les projets d’IA. L’IA holistique, par exemple, s’intègre de manière transparente à tous les systèmes de données et d’IA courants. Mieux encore, il découvre automatiquement les projets d'IA dans toute l'organisation, rationalise la gestion des stocks et offre un tableau de bord unifié afin que les dirigeants aient une vue d'ensemble de leurs actifs d'IA et puissent agir en conséquence. Par exemple, le logiciel Holistic AI fait apparaître les risques réglementaires et techniques potentiels dans une application particulière, alertant l'équipe afin que l'entreprise puisse résoudre le problème avant qu'il ne devienne embarrassant ou coûteux (ou les deux).
Cela n’a rien à voir avec les outils de gouvernance du cloud, ne serait-ce que parce que les enjeux sont bien plus importants. Vous pouvez considérer le cloud comme un moyen intrinsèquement meilleur et plus flexible de gérer les actifs matériels ou logiciels, mais cela ne change pas nécessairement fondamentalement notre façon de penser ces concepts (même si le sans serveur, par exemple, remet en question la réflexion autour de la fourniture d'infrastructures pour soutenir une candidature). Il y a une raison pour laquelle nous appelons en plaisantant le cloud « l'ordinateur de quelqu'un d'autre ». Ce n’est pas le cas de l’IA, qui change fondamentalement ce qui est possible avec les logiciels et les données, bien que souvent d’une manière que nous ne pouvons pas expliquer. C'est pourquoi nous avons besoin d'outils de gouvernance de l'IA tels que Holistic AI, qui contribuent à accélérer l'expérimentation et l'adoption efficaces de l'IA en minimisant le risque que nous utilisions l'IA d'une manière qui nuira plus qu'aidera.
Plus nous voulons progresser rapidement en matière d’IA, plus nous avons besoin de garde-fous via des systèmes de gouvernance de l’IA. Encore une fois, il ne s’agit pas de forcer les équipes à ralentir ; c'est un moyen d'accélérer en garantissant que moins de temps est perdu sur des projets d'IA risqués et inefficaces.