Sam Altman a un nouveau nom mignon pour la singularité

OpenAI a propulsé une fusée alimentée par le battage médiatique vers la direction d’une entreprise au cours de l’année dernière. Le PDG Sam Altman a réussi à envelopper une technologie vieille de plusieurs années sous un aspect convivial et à capter l’attention du monde entier. Et maintenant, pour le meilleur ou pour le pire, OpenAI est mieux placé que quiconque pour créer les outils qui sauveront ou détruiront le monde. L’Intelligence Générale Artificielle (AGI) est la récompense, ce qu’Altman a récemment appelé « l’intelligence magique dans le ciel ». Si jamais nous y arrivons, ce sera peut-être le conseil d’administration composé de six membres d’OpenAI qui décidera si nous avons atteint la singularité.

La société a publié un article de blog en juin dernier, récemment souligné par EntrepriseBeat. Définir l’intelligence est une question philosophique et non technique. ChatGPT est-il intelligent ? Cela dépend à qui vous demandez. En ce qui concerne l’AGI, qu’OpenAI décrit comme un « système qui surpasse les humains dans le travail le plus économiquement rentable », le symposium de l’entreprise vient principalement du monde des affaires. « Le conseil d’administration détermine quand nous avons atteint l’AGI », explique la société.

En tête de liste, bien sûr, se trouve Altman, une star de la société d’investissement Y Combinator de la Silicon Valley. Le conseil d’administration d’OpenAI comprend également le président de la société, Greg Brockman, et le scientifique en chef Ilya Sutskever. Ensuite, il y a Adam D’Angelo, PDG de Quora, et Tasha McCauley, une entrepreneure en technologie et experte en robotique qui est peut-être mieux connue pour être l’épouse de l’acteur Joseph Gordon-Levitt (même si cela ne devrait pas nuire à son travail plus sérieux). Le membre du conseil d’administration qui se rapproche le plus d’un penseur professionnel est Helen Toner, directrice du Centre pour la sécurité et les technologies émergentes de Georgetown.

Ce que la plupart de ces personnes ont en commun, ce sont leurs liens avec le mouvement « Altruisme efficace ». L’altruisme efficace postule que la solution aux problèmes de l’humanité réside dans le fait que les personnes ayant de bonnes intentions deviennent extrêmement riches et donnent ensuite leur argent à de bonnes causes. Contrairement au mauvais riches qui ont rendu le monde désagréable, les altruistes efficaces visent à être bien les gens riches, et ce sont eux qui savent le mieux comment dépenser les ressources mondiales. L’altruiste efficace le plus célèbre est le criminel Sam Bankman-Fried, ancien directeur de FTX, qui faisait du commerce de fraude et parfois de crypto-monnaie.

Après FTX, nombreux sont ceux qui ont tenté de se distancier du mouvement. OpenAI a déclaré à VentureBeat : « Aucun des membres de notre conseil d’administration n’est un altruiste efficace. » Il est donc étrange que Toner ait publié un Blog sur le site Web Effective Altruism en 2020, expliquant comment rester motivé sous la pression de savoir que vous, personnellement, êtes responsable de tous les problèmes du monde. Ou, par exemple, si aucun membre du conseil d’administration n’est un altruiste efficace, vous pourriez vous demander comment McCauley s’est retrouvé au conseil d’administration d’Effective Ventures, qui finance le Center for Effective Altruism. Il faut également ignorer tous les résultats Google pour les mots « Sam Altman Effective Altruism » datés d’avant 2022 ; sinon, vous pourriez être confus. OpenAI n’a pas immédiatement répondu à une demande de commentaire.

Il est dans l’intérêt d’OpenAI que vous croyiez que l’AGI approche à grands pas et que ce sont ses ingénieurs qui la lanceront sur le monde. Certains appellent également à un bon verre froid de scepticisme.

D’une part, les transformateurs génératifs pré-entraînés, ou GPT, ne sont pas une invention OpenAI. Ils ne sont pas non plus nouveaux. Les GPT ont été inventés chez Google en 2017. L’innovation majeure d’OpenAI a été de créer une interface conviviale et de la rendre publique. Il y a peu de raisons de supposer que l’AGI viendra d’OpenAI, mis à part le fait que l’entreprise reçoit actuellement beaucoup d’investissements, en particulier parce que les dizaines de milliards de dollars que les gens lui donnent sont loin d’être suffisants.

« Il y a un long chemin à parcourir et beaucoup de calcul à développer entre ici et AGI », a déclaré Altman dans une nouvelle interview avec le Temps Financier. « Les dépenses de formation sont tout simplement énormes. »

Mais même si vous aviez tout l’argent du monde, il ne serait pas nécessairement fort à parier que nous soyons plus proches d’AGI que nous ne l’étions à l’époque où les gens de d’autres entreprises a créé les GPT il y a presque 7 ans. ChatGPT est incroyable, mais il ne se rapproche même pas d’un outil meilleur que les humains dans la plupart des tâches. Il est possible, voire probable, qu’il existe une limite technique stricte aux capacités des GPT. Notre génération actuelle de grands modèles de langage peut être une impasse si l’objectif est l’AGI.

Oubliez AGI, OpenAI ne peut même pas vous dire quand il publiera sa prochaine mise à jour logicielle majeure. Altman a déclaré au Financial Times qu’OpenAI travaillait sur ChatGPT-5, mais « il ne s’est pas engagé sur un calendrier pour sa sortie ». Il ne pouvait même pas dire à quoi ChatGPT-5 serait utile. « Je ne peux pas vous dire ‘voici exactement ce que ça va faire' », a déclaré Altman. « C’est comme un jeu de devinettes amusant pour nous. » Jusqu’à présent, la procédure opérationnelle de l’entreprise consiste à remplir ses modèles de données et à déterminer à quoi ils servent plus tard. Jusqu’à présent, ChatGPT est très doué pour écrire des limericks et raconter des mensonges.

Cependant, quand AGI sera là, sans aucun doute grâce au leadership de Sam Altman, il est convaincu que ce sera très bon pour les affaires. « La valeur commerciale qui découlera de la possibilité de faire cela dans chaque catégorie, je pense, est plutôt bonne », a-t-il déclaré. Malheureusement, ce n’est peut-être pas si génial pour vous, du moins pas à court terme, mais Altman a également un plan pour cela.

Dans une interview depuis son ranch plus tôt cette année, Altman a déclaré au New York Times que son plan est qu’OpenAI « capture une grande partie de la richesse mondiale grâce à la création d’AGI, puis redistribue cette richesse au peuple ». Sérieusement. Il n’a cependant pas pu articuler un plan sur la manière dont il allait réellement redistribuer tout cet argent merveilleux.

Comme la plupart des plans d’Altman, il est encore en train de comprendre celui-là. Mais ne vous inquiétez pas, les dirigeants d’OpenAI, qui ne sont certainement pas des altruistes efficaces, promettent de prendre soin de vous.