Des chercheurs affirment qu'il y a 5 % de chances que l'IA provoque l'extinction de l'humanité

UN enquête auprès des principaux scientifiques de l’IA dit qu'il y a 5 % de chances que l'IA devienne incontrôlable et anéantir l'humanité. À court terme, les chercheurs estiment que l’IA deviendra beaucoup plus avancée, capable de créer une chanson pop du Top 40 et d’écrire un best-seller du New York Times avant 2030. Ainsi, au moins nos seigneurs de l’IA nous divertiront avant de nous tuer.

« Même si les prédictions des experts en IA ne doivent pas être considérées comme un guide fiable de la vérité objective, elles peuvent fournir une pièce importante du puzzle », ont déclaré des chercheurs de Berkeley et de l'Université d'Oxford qui ont mené l'étude en décembre. « Leur familiarité avec la technologie et la dynamique de ses progrès passés les place dans une bonne position pour faire des suppositions éclairées sur l’avenir de l’IA. »

L’enquête a interrogé 2 778 scientifiques ayant publié des études sur l’IA évaluées par des pairs sur leurs prédictions pour l’avenir. Le sentiment écrasant ? Incertitude.

Environ 68 % des chercheurs pensent que les bons résultats de l’IA surhumaine sont plus probables que les mauvais, mais environ la moitié de ces optimistes évoquent une possibilité non nulle d’extinction humaine. L'étude met en évidence le danger perçu par les plus grands chercheurs du monde liés à la création d'une intelligence artificielle puissante. Il existe un large consensus sur le fait que la recherche visant à minimiser les risques liés à l’IA devrait bénéficier d’une plus grande priorité, mais les chercheurs sont divisés sur la question de savoir si les progrès de l’IA en général doivent s’accélérer ou ralentir.

Plus de 80 % des chercheurs en IA ont exprimé des inquiétudes « extrêmes » ou « substantielles » quant au fait que l’IA permette la propagation de fausses informations. Une majorité de chercheurs ont exprimé des préoccupations similaires concernant les dirigeants autoritaires utilisant l'IA pour contrôler leur population, les systèmes d'IA aggravant les inégalités économiques et le rôle de l'IA dans la création de virus artificiels. L'enquête semble être la plus vaste du genre à ce jour.

Les principaux constructeurs américains d’IA font référence à la sécurité dans leurs déclarations de mission. En décembre, OpenAI a publié son premier article sur aligner l’IA surhumaine avec des valeurs humaines. Anthropique a un Constitution a mis en place ses systèmes d'IA pour garantir qu'ils agissent conformément aux règles de notre société. Mais ces méthodes fonctionneront-elles vraiment avec des modèles d’IA plus intelligents que les humains ? Cela reste à voir car l’IA actuelle n’est pas si intelligente.

Les chercheurs ont donné leurs meilleures estimations du moment où la société réalisera 39 avancées majeures en matière d’IA. Les experts prévoient que l’IA sera capable d’assembler des LEGO, de traduire de nouvelles langues et de créer des jeux vidéo avant 2033. D’ici 2063, les chercheurs estiment que l’IA pourrait faire le travail d’un chirurgien ou même d’un chercheur en IA.