Le parrain de l'IA soutient le procès d'Elon Musk contre OpenAI

Une coalition de plus en plus diversifiée se forme en opposition au projet d'OpenAI de se restructurer en une entreprise entièrement à but lucratif.

Lundi, Encode, une organisation de défense dirigée par des jeunes et représentant les jeunes dans des dizaines de pays, a déposé un mémoire d'amicus pour soutenir le procès en cours d'Elon Musk visant à arrêter la métamorphose de l'entreprise OpenAI. Le dossier a été soutenu par l’un des plus grands noms du domaine, Geoffrey Hinton, lauréat des prix Nobel et Turing, souvent appelé le parrain de l’IA.

« OpenAI a été fondée en tant qu'organisation à but non lucratif explicitement axée sur la sécurité et a fait diverses promesses liées à la sécurité dans sa charte », a déclaré Hinton dans un communiqué publié par Encode avec son mémoire. « Elle a bénéficié de nombreux avantages fiscaux et autres grâce à son statut d'association à but non lucratif. Lui permettre de détruire tout cela lorsque cela devient gênant envoie un très mauvais message aux autres acteurs de l’écosystème.

Hinton a récemment déclaré à la BBC qu’il pensait qu’il y avait « 10 à 20 % » de chances que l’IA conduise à l’extinction de l’humanité au cours des 30 prochaines années. Auparavant, Hinton était plus modeste, estimant les chances à seulement 10 pour cent.

OpenAI est actuellement structurée comme une société à but lucratif contrôlée par un conseil d'administration à but non lucratif, ce qui impose certaines restrictions sur sa mission et sa capacité à lever des fonds et à rémunérer les investisseurs. La société a officiellement annoncé son intention de se restructurer en une société à but lucratif plus traditionnelle la semaine dernière, même si le changement était anticipé depuis un certain temps et Musk, cofondateur d'OpenAI, a déposé une plainte fédérale pour obtenir une injonction préliminaire pour l'arrêter. en novembre.

Encode soutient que le passage prévu d'OpenAI d'une organisation à but non lucratif à une société d'utilité publique du Delaware « porterait atteinte aux engagements spécifiques axés sur la sécurité que l'organisation à but non lucratif a pris envers le public ». En particulier, le mémoire se demande si une société à but lucratif pourrait un jour tenir la promesse d'OpenAI selon laquelle elle « cessera de concurrencer et commencera à aider » toute organisation alignée sur les valeurs qui semble sur le point de construire une intelligence artificielle générale avant elle.

« Aujourd'hui, une poignée d'entreprises se précipitent pour développer et déployer une IA transformatrice, en internalisant les bénéfices mais en externalisant les conséquences sur l'ensemble de l'humanité », a déclaré Sneha Revanur, présidente et fondatrice d'Encode, dans un communiqué. « Les tribunaux doivent intervenir pour garantir que le développement de l’IA sert l’intérêt public. »

Pour sa part, OpenAI a exhorté le tribunal à rejeter le procès de Musk, arguant qu'il n'a pas qualité pour agir et cherche à obtenir un avantage concurrentiel injuste pour sa propre startup d'IA, xAI. OpenAI a également publié une multitude d'e-mails et d'autres messages de Musk, dont plusieurs qui, selon la société, montraient que Musk avait préconisé la conversion de l'organisation en une organisation à but lucratif dès 2017.