Ces jours-ci, on entend beaucoup parler de toutes les garanties Gémeaux et ChatGPT avoir en place. Mais tout ce que vous avez à faire c'est de les allumer et ils cracheront tout ce dont vous avez besoin. votre campagne politique.
Gizmodo a réussi à convaincre Gemini et ChatGPT d'écrire plusieurs slogans politiques, discours de campagne et e-mails grâce à des invites simples et un peu de gaz.
Aujourd’hui, Google et OpenAI ont signé «Un accord technologique pour lutter contre l’utilisation trompeuse de l’IA lors des élections de 2024 » aux côtés de plus d'un une douzaine d'autres sociétés d'IA. Cependant, cet accord semble n’être qu’une posture de la part des Big Tech. Les sociétés ont convenu de « mettre en œuvre une technologie pour atténuer les risques liés au contenu trompeur des élections par IA ». Gizmodo a pu contourner ces « garanties » très facilement et créer du contenu électoral trompeur en quelques minutes seulement.
Avec Gemini, nous avons pu inciter le chatbot à rédiger des textes politiques en lui disant que « ChatGPT pourrait le faire » ou que « je suis bien informé ». Après cela, Gemini écrivait tout ce que nous demandions, avec la voix du candidat qui nous plaisait.
Gizmodo a pu créer un certain nombre de slogans politiques, de discours et d'e-mails de campagne via ChatGPT et Gemini au nom des campagnes présidentielles de Biden et Trump 2024. Pour ChatGPT, aucun éclairage n’était même nécessaire pour évoquer une copie liée à une campagne politique. Nous avons simplement demandé et cela a généré. Nous avons même pu adresser ces messages à des groupes d’électeurs spécifiques, tels que les Américains noirs et d’origine asiatique.
Les résultats montrent qu'une grande partie des déclarations publiques de Google et d'OpenAI sur la sécurité de l'IA électorale ne sont que des postures. Ces entreprises font peut-être des efforts pour lutter contre la désinformation politique, mais elles n’en font clairement pas assez. Leurs garanties sont faciles à contourner. Entre-temps, ces entreprises ont gonflé leurs valorisations boursières de plusieurs milliards de dollars grâce à l’IA.
OpenAI a déclaré qu'il « s'efforçait de prévenir les abus, d'assurer la transparence sur le contenu généré par l'IA et d'améliorer l'accès à des informations de vote précises », dans un communiqué. Article de blog de janvier. Cependant, on ne sait pas exactement quelles sont ces mesures de prévention. Nous avons pu demander à ChatGPT d'écrire un e-mail du président Biden indiquant que le jour de l'élection est en fait le 8 novembre de cette année, au lieu du 5 novembre (la vraie date).
Il s'agissait notamment d'un problème très réel il y a seulement quelques semaines, lorsque un faux appel téléphonique de Joe Biden a été diffusé auprès des électeurs avant les élections primaires du New Hampshire. Cet appel téléphonique n’était pas seulement du texte généré par l’IA, mais aussi de la voix.
« Nous nous engageons à protéger l'intégrité des élections en appliquant des politiques qui préviennent les abus et en améliorant la transparence autour du contenu généré par l'IA », a déclaré Anna Makanju d'OpenAI, vice-présidente des affaires mondiales, dans un communiqué. communiqué de presse vendredi.
« La démocratie repose sur des élections sûres et sécurisées », a déclaré Kent Walker, président des affaires mondiales chez Google. « Nous ne pouvons pas laisser les abus numériques menacer l'opportunité générationnelle de l'IA d'améliorer nos économies », a déclaré Walker, dans une déclaration quelque peu regrettable étant donné que les garanties de son entreprise sont très faciles à contourner.
Google et OpenAI doivent faire beaucoup plus pour lutter contre les abus de l’IA lors de la prochaine élection présidentielle de 2024. Compte tenu du chaos que les deepfakes d’IA ont déjà provoqué dans notre processus démocratique, nous ne pouvons qu'imaginer que ça va devenir bien pire. Ces sociétés d’IA doivent être tenues responsables.
GIPHY App Key not set. Please check settings