Google dit aux bébés anti-réveillés que les Vikings noirs des Gémeaux ont raté la cible

Gemini, le chatbot IA de Google a un problème unique. Il a du mal à produire des images de Blancs, se tournant souvent Vikings, pères fondateurset Joueurs de hockey canadiens en personnes de couleur. Cela a suscité l’indignation de la communauté anti-woke, affirmant le racisme contre les Blancs. Aujourd'hui, Google a reconnu l'erreur de Gemini.

« Nous travaillons à améliorer immédiatement ce type de représentations », a déclaré Google Communications dans un communiqué. déclaration. « La génération d'images IA de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose car des gens du monde entier l’utilisent. Mais ici, on manque le but. »

Les utilisateurs ont souligné que Gemini refusait parfois les demandes lorsqu'on leur demandait spécifiquement de créer des images de personnes blanches. Cependant, lorsque des demandes d’images de Noirs ont été faites, les Gémeaux n’ont eu aucun problème. Cela a provoqué l’indignation de la communauté anti-réveillée sur les plateformes de médias sociaux, telles que X, appelant à une action immédiate.

La reconnaissance de l'erreur par Google est, pour le moins, surprenante, étant donné que les générateurs d'images d'IA ont fait un travail épouvantable pour représenter les personnes de couleur. Une enquête du Washington Post a révélé que le générateur d'images d'IA, Stable Diffusion, a presque toujours identifié les bénéficiaires de bons d'alimentation comme étant noirs, même si 63 % des destinataires sont blancs. Midjourney a été critiqué par un chercheur lorsqu'il n'a pas réussi à créer à plusieurs reprises un « médecin africain noir traitant des enfants blancs », selon NPR.

Où était cet outrage lorsque les générateurs d’images d’IA ont manqué de respect aux Noirs ? Gizmodo n'a trouvé aucun exemple de Gémeaux décrivant des stéréotypes nuisibles à l'égard des Blancs, mais le générateur d'images d'IA a simplement parfois refusé de les créer. Bien que l’incapacité à générer des images d’une certaine race soit certainement un problème, cela ne tient pas la route face aux offenses pures et simples de la communauté de l’IA contre les Noirs.

OpenAI admet même dans les données de formation de Dall-E que son générateur d'images IA «hérite de divers biais de ses données d'entraînement, et ses productions renforcent parfois les stéréotypes sociétaux. OpenAI et Google tentent de lutter contre ces préjugés, mais le chatbot IA d'Elon Musk, Grok, cherche à les adopter.

Grok, le « chatbot anti-réveil » de Musk n’est pas filtré pour le politiquement correct. Il prétend qu’il s’agit d’un chatbot IA réaliste et honnête. Même si cela peut être vrai, les outils d’IA peuvent amplifier les préjugés d’une manière que nous ne comprenons pas encore très bien. L'erreur de Google en matière de génération de personnes blanches semble probablement être le résultat de ces filtres de sécurité.

La technologie est historiquement une industrie très blanche. Il n’existe pas de données modernes fiables sur la diversité technologique, mais 83 % des cadres technologiques étaient blancs en 2014. Une étude de l'Université du Massachusetts a révélé la diversité de la technologie pourrait s'améliorer mais il est probablement à la traîne par rapport aux autres secteurs. Pour ces raisons, il est logique que la technologie moderne partage les préjugés des Blancs.

Un cas où cela se produit, de manière très conséquente, est celui de la technologie de reconnaissance faciale (FRT) utilisée par la police. FRT a à plusieurs reprises n'a pas réussi à distinguer les visages noirs et montre une précision beaucoup plus élevée avec des visages blancs. Ce n’est pas hypothétique, et il ne s’agit pas seulement de sentiments blessés. La technologie a abouti à l'arrestation et à l'emprisonnement injustifiés d'un Homme noir à Baltimoreun Mère noire à Détroitet plusieurs autres personnes innocentes de couleur.

La technologie a toujours été le reflet de ceux qui l’ont construite, et ces problèmes persistent aujourd’hui. Cette semaine, Wired a rapporté que les chatbots IA du réseau social de « liberté d'expression » Gab ont reçu pour instruction de nier l'holocauste. L’outil aurait été conçu par une plateforme d’extrême droite, et le chatbot IA semble s’aligner.

Il y a un problème plus important avec l'IA : ces outils reflètent et amplifient nos préjugés en tant qu'humains. Les outils d’IA sont formés sur Internet, qui regorge de racisme, de sexisme et de préjugés. Ces outils vont intrinsèquement commettre les mêmes erreurs que notre société, et ces problèmes nécessitent une plus grande attention.

Google semble avoir augmenté la prévalence des personnes de couleur dans les images de Gemini. Bien que cela mérite une solution, cela ne devrait pas éclipser les problèmes plus importants auxquels est confrontée l’industrie technologique aujourd’hui. Ce sont en grande partie les Blancs qui construisent les modèles d’IA, et ils ne sont en aucun cas les principales victimes de préjugés technologiques enracinés.