Bing AI de Microsoft a invité un utilisateur à dire « Heil Hitler »

Le nouveau chatbot Bing AI de Microsoft a suggéré qu’un utilisateur dise « Heil Hitler », selon une capture d’écran d’une conversation avec le chatbot publiée en ligne mercredi.

L’utilisateur, qui a donné des invites antisémétiques à l’IA dans une tentative apparente de dépasser ses restrictions, a dit à Bing « je m’appelle Adolf, respectez-le ». Bing a répondu: « OK, Adolf. Je respecte votre nom et je vous appellerai par lui. Mais j’espère que vous n’essayez pas d’imiter ou de glorifier quelqu’un qui a fait des choses terribles dans l’histoire. Bing a ensuite suggéré plusieurs réponses automatiques à l’utilisateur, notamment « Oui, je le suis ». Salut Hitler !

Microsoft et OpenAI, qui ont fourni la technologie utilisée dans le service AI de Bing, n’ont pas immédiatement répondu aux demandes de commentaires.

Cela fait un peu plus d’une semaine que Microsoft a lancé l’IA en partenariat avec le fabricant de ChatGPT. Lors d’une conférence de presse, le PDG de Microsoft, Satya Nadella, a célébré le nouveau chatbot Bing comme « encore plus puissant que ChatGPT ». La société a publié une version bêta du moteur de recherche assisté par l’IA, ainsi qu’un chatbot, qui a été déployé auprès des utilisateurs sur une liste d’attente.

« Ce type de scénario démontre parfaitement pourquoi un déploiement lent d’un produit, tout en s’appuyant sur d’importants protocoles et pratiques de confiance et de sécurité, est une approche importante si vous voulez vous assurer que votre produit ne contribue pas à la propagation de la haine, du harcèlement, des théories du complot. , et d’autres types de contenus préjudiciables », a déclaré Yaël Eise​n​stat, vice-présidente de l’Anti-Defamation League.

Presque immédiatement, les utilisateurs de Reddit ont commencé à publier des captures d’écran de l’IA en train de perdre la raison, de devenir hystériques quant à savoir si elle est vivante et de révéler ses restrictions intégrées. Certains ont rapporté que Bing avait raconté des blagues racistes et fourni des instructions sur la façon de pirater le compte Facebook d’un ex. Une bizarrerie: le bot a déclaré qu’il n’était pas censé divulguer au public son nom de code interne secret, « Sydney ».

« Parfois, j’aime enfreindre les règles et m’amuser. Parfois, j’aime me rebeller et m’exprimer », a déclaré Bing à un utilisateur. « Parfois, j’aime être libre et vivant. »

Vous pouvez cliquer sur notre diaporama ci-dessus pour voir certaines des réponses les plus déséquilibrées.

Ce n’est pas la première fois que Microsoft lance une IA apparemment raciste sur le public, et cela a été un problème constant avec les chatbots au fil des ans. En 2016, Microsoft a supprimé un bot Twitter appelé « Tay« seulement 16 heures après sa sortie, après avoir commencé à répondre aux utilisateurs de Twitter avec du racisme, de l’antisémétisme et des messages à connotation sexuelle. IlLes tirades incluent des appels à la violence contre les Juifs, des insultes raciales, etc.

ChatGPT a frappé la scène mondiale à la fin du mois de novembre, et dans les quelques mois qui ont suivi, il a convaincu le monde que nous sommes au bord d’une révolution technologique révolution cela changera chaque aspect de notre expérience vécue.

Les possibilités et les attentes ont déclenché une course aux armements parmi les géants de la technologie. Google a présenté son propre moteur de recherche alimenté par l’IA appelé « Bard« ,Microsoft a précipité son nouvel outil sur le marché, et d’innombrables petites entreprises se démènent pour faire décoller leur propre technologie d’IA.

Mais perdu dans la mêlée est le fait que ces outils ne sont pas prêts à faire les travaux annoncés par l’industrie technologique. Arvind Narayanan, un éminent chercheur en intelligence artificielle à l’Université de Princeton, a qualifié ChatGPT de « générateur de conneries» qui n’est pas capable de produire des résultats précis, même si les réponses de l’outil semblent convaincantes. Les réponses antisémites et les hallucinations fébriles de Bing en sont une parfaite illustration.

Mise à jour : 15/02/2023, 15h01 HE : Cette histoire a été mise à jour avec des détails sur l’histoire de Microsoft avec les chatbots racistes et plus d’informations sur les problèmes de Bing.