Dans un communiqué mardi, Dario Amodei, PDG de la startup AI Anthropic, a qualifié le sommet d'action de l'IA de Paris cette semaine une «occasion manquée» et a exhorté l'industrie de l'IA – et le gouvernement – à «se déplacer plus vite et avec plus de clarté».
« Nous avons été ravis d'assister au sommet de l'action de l'IA à Paris, et nous apprécions les efforts du gouvernement français pour rassembler les entreprises, les chercheurs et les décideurs de l'IA du monde entier », a déclaré Amodei. « Cependant, une concentration et une urgence plus importantes sont nécessaires sur plusieurs sujets étant donné le rythme auquel la technologie progresse. »
La critique d'Amodei à l'égard du sommet de l'action de l'IA, la dernière d'une série de conférences qui ont rassemblé les entreprises et les régulateurs de l'IA pour tenter de parvenir à un consensus sur la gouvernance de l'IA, fait écho à celui de plusieurs universitaires plus tôt cette semaine. L'un d'eux a déclaré à Transformer que les engagements de la conférence, que les États-Unis et le Royaume-Uni ont refusé de signer, ont déclaré «en fait rien à l'exception des platitudes».
Dans les commentaires de la conférence, le vice-président américain JD Vance a adopté une position entièrement différente et a dénoncé ce qu'il a qualifié de réglementation «massive» et raide sur l'IA défendue par l'Europe. Vance a également contesté la modération du contenu, faisant allusion au libellé «durable» et «inclusif» dans les engagements de la conférence, qu'il a rejeté comme «censure autoritaire».
Amodei a averti dans sa déclaration que l'IA est rapidement de plus en plus sophistiquée et que le fait de ne pas le réglementer pourrait entraîner des conséquences désastreuses.
« Les capacités des systèmes d'IA seront mieux considérées comme apparentées à un tout nouvel État peuplé de personnes très intelligentes apparaissant sur la scène mondiale », a déclaré Amodei. «L'IA avancée présente des dangers de sécurité mondiaux importants, allant de l'utilisation abusive des systèmes d'IA par des acteurs non étatiques… nous devons nous assurer que les sociétés démocratiques dirigent dans l'IA, et que les pays autoritaires ne l'utilisent pas pour établir la domination militaire mondiale.»
Amodei a exhorté les gouvernements à déployer leurs ressources pour mesurer la façon dont l'IA est utilisée et à adopter une politique axée sur «la garantie que tout le monde partage dans l'économie (augmentation) d'une IA très puissante». Il a également plaidé pour une plus grande transparence du gouvernement en ce qui concerne la sécurité et la sécurité de l'IA, ainsi que des plans pour évaluer les risques de l'IA.
L'évaluation par Amodei de la procédure du sommet de l'IA de Paris contraste à celle d'Openai, qui a déclaré dans un communiqué ce week-end qu'il était convaincu que la conférence serait «une autre étape importante envers le développement responsable et bénéfique de l'IA pour tout le monde».
Anthropic a généralement montré une ouverture davantage à la régulation de l'IA dans le passé. En effet, Amodei a déjà fait des déclarations similaires, avertissant que l'IA sans entraves pourrait avoir des implications économiques, sociétales et de sécurité profondément négatives. Anthropic a été l'une des rares sociétés d'IA à approuver tacitement le SB 1047 de la Californie, un projet de loi réglementaire complet – et très débattu – de l'IA. Openai s'est opposé au projet de loi, qui a été opposé au gouverneur Gary Newsom l'automne dernier.
Cela ne suggère pas que les motivations d'Anthropic soient purement philanthropiques. Comme le PDG d'Openai, Sam Altman, dans son récent essai, Amodei n'offre aucune recommandation concrète pour garantir les avantages d'une IA puissante, si elle émerge dans un avenir proche, sont largement et uniformément distribués.
Lisez notre couverture complète du sommet de l'action de l'intelligence artificielle à Paris.
GIPHY App Key not set. Please check settings