Plus de 350 cadres, chercheurs et leaders de l’industrie de l’IA ont signé un avertissement d’une phrase publié mardi, disant que nous devrions essayer d’empêcher leur technologie de détruire le monde.
« Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire », lit-on dans la déclaration publiée par le Center for AI Safety. Les signataires dont Sam Altman, PDG de OpenAIDemis Hassabis, PDG de Google DeepMindDario Amodei, PDG de Anthropiqueet Geoffrey Hinton, le soi-disant « parrain de l’IA » qui a récemment a quitté Google par crainte du travail de sa vie.
Alors que la conversation publique sur l’IA est passée de l’émerveillement à la dystopie au cours de l’année dernière, un nombre croissant de défenseurs, de législateurs et même Les dirigeants de l’IA unis autour d’un même message : l’IA pourrait détruire le monde et nous devrions faire quelque chose à ce sujet. Ce que ce quelque chose devrait être, en particulier, est entièrement incertain, et il y a peu de consensus sur la nature ou la probabilité de ces risques existentiels.
Il ne fait aucun doute que l’IA est sur le point de inonder le monde de désinformationet un un grand nombre d’emplois seront probablement être automatisé dans l’oubli. La question est de savoir jusqu’où ces problèmes iront, et quand ou s’ils démantèleront l’ordre de notre société.
Généralement, les dirigeants de la technologie vous disent de ne pas vous inquiéter des menaces de leur travail, mais le secteur de l’IA adopte la tactique opposée. OpenAI Sam Altman a témoigné devant le Comité judiciaire du Sénat ce mois-ci, faisant appel à Ccréation d’une agence de réglementation de l’IA. La société a publié un article de blog arguant que les entreprises devraient avoir besoin d’une licence si elles veulent travailler sur la « super intelligence » de l’IA. Altman et les chefs de Anthropique et Google DeepMind a récemment rencontré le président Biden à la Maison Blanche pour une discussion sur la réglementation de l’IA.
Cependant, les choses se décomposent en ce qui concerne les détails, ce qui explique la longueur de la déclaration de mardi. Dan Hendrycks, directeur exécutif du Center for AI Safety, a déclaré au New York Times ils ont été brefs parce que les experts ne s’entendent pas sur les détails des risques ou sur ce qu’il faut faire exactement pour y faire face. « Nous ne voulions pas pousser pour un très grand menu de 30 interventions potentielles », a déclaré Hendrycks. « Lorsque cela se produit, cela dilue le message. »
Il peut sembler étrange que les entreprises d’IA demandent au gouvernement de les réglementer, ce qui les gênerait ostensiblement. Il est possible que contrairement aux dirigeants d’autres entreprises technologiques, les dirigeants de l’IA se soucient vraiment de la société. Cependant, il y a de nombreuses raisons de penser que tout cela est un peu plus cynique qu’il n’y paraît. À bien des égards, des règles souples seraient bonnes pour les affaires. Ce n’est pas nouveau : certains des plus grands défenseurs d’un loi nationale sur la protection de la vie privéepar exemple, incluent Google, Meta et Microsoft.
D’une part, la réglementation donne aux entreprises une excuse lorsque les critiques commencent à faire des histoires. C’est quelque chose que nous voyons dans l’industrie pétrolière et gazière, où les entreprises baissent les bras et disent : « Eh bien, nous respectons la loi. Que veux-tu de plus? » Soudain, le problème, ce sont les régulateurs incompétents, pas les pauvres sociétés.
La réglementation rend également l’exploitation beaucoup plus coûteuse, ce qui peut être un avantage pour les entreprises établies lorsqu’elle entrave les petites start-up qui pourraient autrement être compétitives. C’est particulièrement pertinent dans les entreprises d’IA, où c’est toujours le jeu de n’importe qui et où les petits développeurs pourraient constituer une menace pour les grands. Avec le bon type de réglementation, des entreprises comme OpenAI et Google pourraient essentiellement gravir les échelons derrière elles. En plus de tout cela, des lois nationales faibles gênent les législateurs embêtants des États, qui poussent souvent plus fort le secteur de la technologie.
Et n’oublions pas que la réglementation que réclament les hommes d’affaires de l’IA concerne des problèmes hypothétiques qui pourraient survenir plus tard, et non des problèmes réels qui se produisent maintenant. Des outils comme ChatGPT inventer des mensongesils ont cuit-dans le racismeet ils sont aide déjà les entreprises supprimer des emplois. Dans les appels d’OpenAI à réglementer la super intelligence – une technologie qui ne existent — l’entreprise fait une référence unique, en agitant la main, aux problèmes réels auxquels nous sommes déjà confrontés : « Nous devons également atténuer les risques de la technologie d’intelligence artificielle d’aujourd’hui. »
Jusqu’à présent, cependant, OpenAI ne semble pas vraiment aimer que les gens essaient d’atténuer ces risques. L’Union européenne a pris des mesures pour faire quelque chose à propos de ces problèmes, en proposant des règles spéciales pour les systèmes d’IA dansdes domaines à risque comme les élections et la santé, et Altman a menacé de retirer son entreprise de l’UE opérations tout à fait. Plus tard, il a repris la déclaration et a dit OpenAI n’a pas l’intention de quitter l’Europe, au moins pas encore.
Vous voulez en savoir plus sur l’IA, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits et Tout ce que nous savons sur le ChatGPT d’OpenAI.