Pour l’amour de Dieu, arrêtez de fabriquer des horloges apocalyptiques impénétrables

Une école de commerce suisse soutenue par l’Arabie Saoudite a lancé une horloge apocalyptique pour avertir le monde des méfaits de « l’intelligence artificielle générale incontrôlée », ce qu’elle appelle une IA « semblable à Dieu ». Imaginez si les gens qui vendaient des bureaux sur des feuilles de calcul Excel dans les années 1980 essayaient de dire aux travailleurs que le logiciel était un moyen de donner naissance à un dieu et utilisaient une Rolex à tic-tac pour le faire, et vous aurez une idée de ce à quoi nous avons affaire ici.

Michael Wade, le créateur de l'horloge et professeur TONOMUS de stratégie et de numérique à l'IMD Business School de Lausanne, en Suisse, et directeur du TONOMUS Global Center for Digital and AI Transformation (bon Dieu), a dévoilé l'horloge dans un récent éditorial pour TEMPS.

Une horloge qui indique minuit est une métaphore autrefois puissante et désormais obsolète de l’ère atomique. C'est une image si ancienne et restée qu'elle vient de fêter son 75ème anniversaire. Après que l'Amérique ait largué des armes nucléaires sur le Japon, certains chercheurs et scientifiques qui avaient travaillé au développement de cette arme ont formé le Bulletin of the Atomic Scientists.

Leur projet a été d’avertir le monde de sa destruction imminente. L'horloge de la fin du monde est l'un des moyens utilisés pour y parvenir. Chaque année, des experts dans divers domaines – des armes nucléaires au changement climatique en passant par l’intelligence artificielle – se réunissent et discutent de la situation du monde. Ensuite, ils ont réglé l'horloge. Plus minuit approche, plus l’humanité se rapproche de sa perte. Il est actuellement minuit moins 90 secondes, le réglage le plus proche jamais enregistré.

Wade et IMD n’ont aucun rapport avec le Bulletin of the Atomic Scientists et l’horloge apocalyptique est sa propre affaire. La création de Wade est l'horloge de sécurité AI. « La lecture actuelle de l'horloge – 29 minutes avant minuit – indique à quel point nous sommes proches du point de basculement critique où l'AGI incontrôlée pourrait entraîner des risques existentiels », a-t-il déclaré dans son article du Time. « Bien qu’aucun dommage catastrophique ne se soit encore produit, la vitesse vertigineuse du développement de l’IA et la complexité de la réglementation signifient que toutes les parties prenantes doivent rester vigilantes et engagées. »

Les plus fervents partisans de l’IA de la Silicon Valley adorent s’appuyer sur la métaphore nucléaire. Le PDG d'OpenAI, Sam Altman, a comparé le travail de son entreprise au projet Manhattan. Le sénateur Edward J. Markey (Démocrate-MA) a écrit que la précipitation de l'Amérique à adopter l'IA est similaire à la quête d'Oppenheimer de la bombe atomique. Une partie de cette peur et de cette inquiétude est peut-être réelle, mais en fin de compte, il ne s'agit que de marketing.

Nous sommes au milieu d’un cycle de battage médiatique autour de l’IA. Les entreprises promettent que cela peut générer des rendements sans précédent et détruire les coûts de main-d’œuvre. Les machines, disent-ils, feront bientôt tout à notre place. La réalité est que l’IA est utile, mais elle déplace également principalement les coûts de main-d’œuvre et de production vers d’autres parties de la chaîne où l’utilisateur final ne les voit pas.

La crainte que l’IA devienne si avancée qu’elle anéantisse l’humanité n’est qu’un autre type de battage médiatique. Le catastrophisme autour des calculateurs de mots et des systèmes de modélisation prédictive n’est qu’un autre moyen d’enthousiasmer les gens quant aux possibilités de cette technologie et de masquer les véritables dommages qu’elle crée.

Lors d’un récent événement Tesla, des robots barmans ont servi des boissons aux participants. Selon toute apparence, ils étaient contrôlés à distance par des humains. Les LLM consomment une tonne d’eau et d’électricité pour trouver des réponses et s’appuient souvent sur l’attention subtile et constante de « formateurs » humains qui travaillent dans les pays pauvres et travaillent pour une somme dérisoire. Les humains utilisent la technologie pour inonder Internet d’images nues d’autres humains créées de manière non consensuelle. Ce ne sont là que quelques-uns des dommages réels déjà causés par l’adoption rapide de l’IA par le silicium.

Et tant que vous avez peur que Skynet prenne vie et anéantisse l’humanité dans le futur, vous ne prêtez pas attention aux problèmes qui se présentent à vous. L'horloge apocalyptique du Bulletin est peut-être impénétrable en surface, mais derrière cette métaphore se cache une armée d'esprits impressionnants qui travaillent chaque jour sur les risques réels des armes nucléaires et des nouvelles technologies.

En septembre, le Bulletin a publié une photo d’Altman dans un article démystifiant les affirmations hyperboliques sur la manière dont l’IA pourrait être utilisée pour concevoir de nouvelles armes biologiques. « Malgré toutes ces prédictions catastrophiques, il existe en réalité de nombreuses incertitudes quant à la manière dont l'IA affectera les armes biologiques et le domaine plus large de la biosécurité », indique l'article.

Il a également souligné que parler de scénarios extrêmes autour de l’IA aide les gens à éviter d’avoir des conversations plus difficiles. « Le défi, comme cela a été le cas depuis plus de deux décennies, est d'éviter l'apathie et les hyperboles à propos des développements scientifiques et technologiques qui ont un impact sur le désarmement biologique et les efforts visant à maintenir les armes biologiques à l'écart des plans de guerre et des arsenaux des acteurs violents », indique le Bulletin. . « Les débats sur l’IA absorbent l’attention de haut niveau et de la communauté et… ils risquent de se focaliser sur les menaces de manière trop étroite et de perdre de vue d’autres risques et opportunités. »

Il existe des dizaines d’articles comme celui-ci publiés chaque année par les personnes qui dirigent l’horloge de la fin du monde. L’horloge suisse de l’IA ne dispose pas d’un tel soutien scientifique, même si elle prétend surveiller ces articles dans sa FAQ.

Ce qu’il possède, en revanche, c’est de l’argent provenant d’Arabie Saoudite. Le poste de Wade à l'école est possible grâce au financement de TONOMUS, une filiale de NEOM. NEOM est la ville du futur très médiatisée de l'Arabie Saoudite, qu'elle tente de construire dans le désert. Parmi les autres promesses de NEOM figurent des robots dinosaures, des voitures volantes et une lune artificielle géante.

Vous me pardonnerez si je ne prends pas Wade ou l'IA Safety Clock au sérieux.