Le Vatican se lance dans l’engouement pour l’IA. Le Saint-Siège a publié un manuel sur l’éthique de l’intelligence artificielle telle que définie par le Pape.
Les lignes directrices sont le résultat d’un partenariat entre Francis et le Markkula Center for Applied Ethics de l’Université de Santa Clara. Ensemble, ils ont formé une nouvelle organisation appelée l’Institut pour la technologie, l’éthique et la culture (ITEC). Le premier projet de l’ITEC est un manuel titré L’éthique à l’ère des technologies perturbatrices : une feuille de route opérationnelledestiné à guider l’industrie technologique dans les eaux troubles de l’éthique de l’IA, de l’apprentissage automatique, du chiffrement, du suivi, etc.
Sa Sainteté et ses associés pourraient ne pas sembler être un choix évident pour peser sur l’intelligence artificielle. Mais unSelon le père Brendan McGuire, curé de la paroisse St. Simon à Los Altos et un conseiller de ITECl’initiative est l’aboutissement d’intérêts de longue date pour l’église. Il soutient que le Vatican exerce une capacité unique à amener des joueurs clés à la table.
« Le Pape a toujours eu une vision large du monde et de l’humanité, et il croit que la technologie est une bonne chose. Mais au fur et à mesure que nous le développons, il est temps de poser les questions les plus profondes », a déclaré le père Brendan à Gizmodo dans une interview.. «Des cadres technologiques de toute la Silicon Valley viennent me voir depuis des années et me disent: ‘Vous devez nous aider, il y a beaucoup de choses à l’horizon et nous ne sommes pas prêts.’ L’idée était d’utiliser le pouvoir de convocation du Vatican pour rassembler les cadres du monde entier.
Là où de nombreux défenseurs, universitaires et observateurs concentrent leurs efforts sur les appels aux régulateurs, le manuel de l’ITEC adopte une approche différente. Plutôt que d’attendre que les gouvernements établissent des règles pour l’industriel’ITEC espère fournir des conseils aux personnes au sein des entreprises technologiques qui sont déjà aux prises avec les questions les plus difficiles de l’IA.
« Il y a un consensus qui émerge autour de choses comme la responsabilité et la transparence, avec des principes qui s’alignent d’une entreprise à l’autre », a déclaré Ann Skeet, directrice principale de l’éthique du leadership au Markkula Center et l’un des auteurs du manuel. « C’est formidable, mais il y a moins de consensus sur ce qu’il faut réellement faire et sur la manière dont vous appliquez réellement ces normes à la conception et à l’utilisation de la technologie. »
En général, le livre plaide pour la construction de valeurs organisées autour d’un ensemble de principes dans la technologie et les entreprises qui la développent dès le départ, plutôt que de regarder en arrière pour résoudre les problèmes après coup.. Le manuel énonce un principe d’ancrage pour les entreprises : s’assurer que « Nos actions sont pour le bien commun de l’humanité et de l’environnement ». C’est bien beau et, évidemment, extrêmement vague. Mais le manuel ITEC est organisé pour décomposer les grandes idées sur lesquelles tout le monde peut s’entendre en une série en cascade de conseils spécifiques et d’étapes réalisables.
Ce grand principe d’ancrage est décomposé en sept lignes directrices, telles que «Respect de la dignité et des droits humains» et «Promouvoir la transparence et l’explicabilité». Ces sept lignes directrices sont ensuite décomposées en 46 étapes concrètes spécifiques, accompagnées de définitions, d’exemples et d’étapes concrètes.
Par exemple, le principe « Respect de la dignité et des droits humains » met l’accent sur « la vie privée et la confidentialité ». Pour mettre cette idée en pratique, le livre appelle à un engagement à « ne pas collecter plus de données que nécessaire » et indique que « les données collectées doivent être stockées de manière à optimiser la protection de la vie privée et de la confidentialité ». Il précise que les entreprises doivent envisager des protections spécifiques pour les données médicales et financières et se concentrer sur les responsabilités envers les utilisateurs, et pas seulement sur les exigences légales.
« L’objectif est de responsabiliser les personnes à l’intérieur de l’entreprise pendant qu’elles effectuent leur travail quotidien, qu’il s’agisse d’écrire un code ou un manuel technique, ou de réfléchir à des problèmes liés à la culture du lieu de travail », a déclaré Gregg Skeet. « Nous avons essayé d’écrire dans le langage des affaires et des ingénieurs afin que les réserves soient réellement utilisées et qu’elles soient similaires aux choses et aux normes qu’ils ont vues auparavant. »
Le Vatican n’est pas la seule organisation à se poser de grandes questions sur l’avenir de l’IA et de la technologie. Quelques mois seulement après qu’OpenAI a lancé ChatGPT dans le monde, le PDG de la société, Sam Altman, rencontrait déjà le président Biden et témoigner devant Cen cours à propos comment l’IA devrait être réglementée.
Mais si vous écoutez les PDG de la technologie travailler sur la technologie, ils semblent plus concentrés sur un avenir lointain et hypothétique où les robots provoquent une version de la fin du monde. Des centaines de cadres technologiques ont récemment signé un un-énoncé de phrase sur ce que nous devrions faire à propos de l’IA : « Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. »
Aussi réelles (ou non) que ces préoccupations puissent être, certains critiques affirment que l’accent mis sur l’avenir fait partie d’un effort mené par l’industrie pour détourner l’attention des régulateurs des problèmes auxquels nous sommes déjà confrontés grâce à la technologie d’IA qui existe actuellement.
Heureusement pour le secteur de la technologie, le Vatican a beaucoup d’expérience pour répondre aux questions sur la façon dont nous devrions envisager l’apocalypse. Le père Brendan a déclaré que les menaces existentielles possibles de l’IA sont sérieuses, mais les problèmes à court terme de l’IA méritent tout autant d’attention. Il n’a cependant pas pu savoir si le pape avait utilisé ou non ChatGPT.
« Des garde-corps majeurs sont absolument nécessaires, et les pays et les gouvernements les mettront en place à temps », a déclaré le père Brendan. « Mais ce livre joue un rôle important dans l’accélération de l’approche de la conception et de la mise en œuvre par les consommateurs. C’est là que nous essayons de permettre aux entreprises de respecter les normes dont nous avons besoin bien à l’avance.
Vous voulez en savoir plus sur l’IA, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits et Tout ce que nous savons sur le ChatGPT d’OpenAI.