in

Google s'excuse d'avoir blessé les sentiments des Blancs

Google s'est excusé vendredi en affirmant que son équipe « s'était trompée » avec une nouvelle fonctionnalité de génération d'images pour son Chatbot IA Gemini après que diverses images créées sans personnes blanches soient devenues virales. Un dirigeant de l’entreprise a fermement nié avoir délibérément voulu que Gemini refuse de créer des images d’un groupe particulier de personnes.

« Ce n'était pas ce que nous avions prévu. Nous ne voulions pas que les Gémeaux refusent de créer des images d'un groupe particulier. Et nous ne voulions pas que cela crée des images historiques ou autres inexactes », a déclaré Prabhakar Raghavan, vice-président senior de Google.

Dans un article de blogRaghavan, qui supervise les domaines de l'entreprise qui rapportent la plupart de son argent, notamment Recherche Google et son activité publicitaire– a clairement admis que le générateur d'images de Gemini « s'était trompé » et que l'entreprise essaierait de faire mieux. De nombreuses personnes ont été indignées par les images historiquement inexactes de Gemini. Soldats nazis noirs et Vikings noirs ainsi que son apparent refus de générer des images de Blancsque certains ont jugé raciste.

Selon Raghavan, tout cela s'est produit parce que Google ne voulait pas que Gemini commette les mêmes erreurs que d'autres générateurs d'images avaient commises dans le passé, comme créer des images violentes, des images sexuellement explicites et des représentations de personnes réelles.

« Alors, qu’est-ce qui n’a pas fonctionné ? Bref, deux choses. Premièrement, notre réglage pour garantir que Gemini montre un éventail de personnes n'a pas pris en compte les cas qui devraient clairement pas montrer une gamme », a écrit Raghavan, en soulignant le sien. « Et deuxièmement, au fil du temps, le modèle est devenu beaucoup plus prudent que prévu et a refusé de répondre entièrement à certaines invites, interprétant à tort certaines invites très anodines comme sensibles. »

Le vice-président de Google a poursuivi en disant que ces deux facteurs ont amené Gemini à surcompenser dans certains cas et à être trop conservateur dans d'autres. Dans l’ensemble, cela a conduit à la création d’images « embarrassantes et fausses ».

Google a désactivé jeudi la capacité de Gemini à générer des images de personnes et a annoncé qu'il publierait bientôt une version améliorée. Cependant, Raghavan a semblé mettre en doute la partie «bientôt», affirmant que la société travaillerait à améliorer considérablement la fonctionnalité grâce à des tests approfondis avant de la réactiver.

Raghavan a déclaré qu'il ne pouvait pas promettre que Gemini ne produirait pas de résultats plus embarrassants, inexacts ou offensants à l'avenir, mais a ajouté que Google continuerait d'intervenir pour résoudre le problème.

« Une chose à garder à l'esprit : Gemini est conçu comme un outil de créativité et de productivité, et il n'est pas toujours fiable, en particulier lorsqu'il s'agit de générer des images ou du texte sur l'actualité, l'actualité en évolution ou des sujets d'actualité. Cela fera des erreurs », a déclaré Raghavan.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

GIPHY App Key not set. Please check settings

La star de Los Angeles, Stephen Amell, dit qu'il n'a pas encore vu Suits

Le but venu d’ailleurs de Drogba lors d’un match de charité