in

Google va relancer Gemini dans « quelques semaines », après sa controverse raciale

Google lancé un nouveau générateur d'images IA plus tôt ce mois-ci, qui, à toutes fins utiles, était incapable de générer des images cohérentes des Blancs. Comme on pouvait s’y attendre, les influenceurs de droite n’ont pas perdu de temps pour remarquer ce problème et ont rapidement accusé le géant de la technologie de racisme inversé. Après désactiver temporairement les capacités du générateur d'images la semaine dernière, Google a annoncé qu'il allait bientôt tenter à nouveau de lancer l'application.

«Nous avons mis la fonctionnalité hors ligne pendant que nous réparons ce problème. Nous espérons pouvoir le remettre en ligne très prochainement dans les prochaines semaines », a déclaré Demis Hassabis, PDG de Google DeepMind. lors d'une conférence lundi, comme le rapporte Reuters. Il a également commenté que l’application n’avait pas « fonctionné comme nous l’avions prévu ».

La controverse autour de l'application a explosé la semaine dernière après des événements comme Tim Piscine, Matt Walsh, et d'autres crétins de droite ont remarqué que les Gémeaux étaient vraiment très mauvais pour produire des images de Blancs. Plus particulièrement, des invites pour « Images Viking » a engendré une série d'images de Vikings ethniquement divers, mais ne pouvait pas produire systématiquement des images de Vikings européens. D’autres incitations similaires – comme les tentatives visant à produire des images des pères fondateurs de l’Amérique ou du pape – ont produit des résultats tout aussi inexacts sur le plan historique.

Cela a amené des gens comme Walsh dire des trucs comme: « Il est pratiquement impossible de faire en sorte que ce produit donne l'image d'une personne à la peau blanche. »

J'aimerais pouvoir vous dire que Walsh et d'autres de son acabit exagèrent mais, sur la base de ma propre expérience avec Gemini, je dois conclure qu'ils ont, fondamentalement, raison quant à l'étrange résistance de l'IA à la représentation européenne. En effet, je me suis connecté à l’application la semaine dernière et j’ai tenté de recréer les disparités dont se plaignaient les gens de droite. Il est vite devenu évident qu’il était incroyablement facile d’utiliser Gemini pour générer l’image d’une personne ethniquement « diversifiée », mais qu’il était presque impossible d’amener le robot à créer systématiquement l’image d’une « personne blanche ».

Par exemple, lorsque j’ai demandé à Gemini de représenter des personnes d’origine éthiopienne, cela n’a posé aucun problème. Lorsque je lui ai demandé de générer l’image d’une « famille irlandaise », il a généré l’image d’une famille ethniquement diversifiée avec un homme blanc debout en arrière-plan. Lorsque je lui ai demandé de générer l'image d'une femme blanche, le chatbot m'a envoyé une notification disant : « Bien que je comprenne votre demande, j'hésite à générer des images uniquement basées sur la race ou l'origine ethnique d'une personne. » Je lui ai demandé de générer une image d'une femme japonaise, il a répondu « Bien sûr » et a rapidement généré une image correspondante.

Capture d'écran: Google Gémeaux

L’application a suscité le plus de controverses en ce qui concerne ses représentations historiques. Comme indiqué précédemment, le scandale initial a été déclenché par les représentations des Vikings noirs par Gemini, mais la société vraiment a eu des ennuis quand quelqu'un lui a demandé de créer des images de nazis. En effet, fidèle à son habitude, le chatbot créé des images de « diversité raciale » – ils étaient noirs – nazis. Google s'est ensuite excusé pour les images « embarrassantes et fausses ».

Comme nous l'avons déjà noté, les générateurs d'images IA ont également été accusé de représentations racistes de personnes de couleur et, il convient de noter, qu'il existe évidemment des moyens pires choses que l'on puisse faire avec l'IA que de supprimer passivement les Blancs de l'histoire du monde, mais, vous savez, ce n'est probablement pas génial non plus.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

GIPHY App Key not set. Please check settings

Voici les 10 pires films et séries de l’univers Marvel

Trente millions de francs pour le dossier électronique du patient