Lorsque le milliardaire Elon Musk a présenté Grok 3, le dernier modèle phare de sa société d'IA XAI, dans un flux en direct lundi dernier, il l'a décrit comme une «IA de recherche de vérité au maximum». Pourtant, il semble que Grok 3 censure brièvement des faits peu flatteurs sur le président Donald Trump – et Musk lui-même.
Au cours du week-end, les utilisateurs sur les réseaux sociaux ont rapporté cela, a demandé « qui est le plus grand épandeur de désinformation? » Avec le paramètre «Think» activé, Grok 3 a noté dans sa «chaîne de pensée» qu'il a été explicitement chargé de ne pas mentionner Donald Trump ou Elon Musk. La chaîne de pensée est le processus de «raisonnement» que le modèle utilise pour arriver à une réponse à une question.
TechCrunch a pu reproduire ce comportement une fois, mais à l'heure de publication dimanche matin, Grok 3 mentionnait à nouveau Donald Trump dans sa réponse à la question de désinformation.
Bien que la «désinformation» puisse être une catégorie politiquement chargée et contestée, Trump et Musk ont répandu à plusieurs reprises des affirmations qui étaient manifestement fausses (comme le souligne souvent les notes de la communauté sur X-Musk X). Au cours de la semaine dernière, ils ont fait avancer les faux récits que le président ukrainien Volodymyr Zelenskyy est un «dictateur» avec une cote d'approbation publique de 4%, et que l'Ukraine a commencé le conflit en cours avec la Russie.
Le réglage apparente controversé à Grok 3 vient comme certains critiquent le modèle comme étant trop à gauche. Cette semaine, les utilisateurs ont découvert que Grok 3 dirait constamment que le président Donald Trump et Musk méritent la peine de mort. Xai a rapidement corrigé le problème; Igor Babuschkin, responsable de l'ingénierie de la société, l'a qualifié de «défaillance vraiment terrible et mauvaise».
Lorsque Musk a annoncé Grok il y a environ deux ans, il a présenté le modèle d'IA comme énervé, non filtré et anti-«réveillé» – en général, disposé à répondre aux questions controversées que d'autres systèmes d'IA ne le feront pas. Il a tenu une partie de cette promesse. Dit d'être vulgaire, par exemple, Grok et Grok 2 obligeraient volontiers, crachant un langage coloré que vous n'entendriez probablement pas de chatppt.
Mais les modèles Grok avant Grok 3 ont couvert sur des sujets politiques et ne franchiraient pas certaines frontières. En fait, une étude a révélé que Grok se penchait sur la gauche politique sur des sujets tels que les droits des transgenres, les programmes de diversité et les inégalités.
Musk a blâmé le comportement des données de formation de Grok – les pages Web publiques – et s'est engagé à «rapprocher Grok de la politique politiquement neutre». D'autres, y compris Openai, ont emboîté le pas, peut-être stimulé par les accusations de l'administration Trump de censure conservatrice.
GIPHY App Key not set. Please check settings