7 fois que des gens intelligents ont dit que l’IA deviendrait incontrôlable

Une récente enquête menée auprès de chercheurs en IA du monde entier a montré que plus d’un tiers d’entre eux craignaient que l’IA ne conduise à terme à une «catastrophe mondiale» comparable à une guerre nucléaire. Le rapport AI Index, publié par le Stanford Institute for Human-Centered Artificial Intelligence, montre que les chercheurs sont assez préoccupés par ce qui pourrait arriver avec cette technologie si elle n’est pas régie par une réglementation appropriée. « Ces systèmes démontrent des capacités de réponse aux questions et de génération de texte, d’image et de code inimaginables il y a dix ans, et ils surpassent l’état de l’art sur de nombreux points de repère, anciens et nouveaux », a déclaré le le rapport dit. « Cependant, ils sont sujets aux hallucinations, systématiquement biaisés et peuvent être amenés à servir des objectifs néfastes, soulignant les défis éthiques complexes associés à leur déploiement. »