Le nouvel entraîneur de rencontres IA de Meta vous fera honte

La semaine dernière, Meta a introduit les chatbots IA dans sa famille d’applications, notamment Instagram, Facebook Messenger et WhatsApp. Les robots incluent un variété de personnages construits à des fins différentes telles que la cuisine et les voyages, et plusieurs basés sur des célébrités dont Snoop Dog et Mr. Beast. L’un d’eux, nommé Carter, est décrit comme un « coach pratique en matière de rencontres ». Mais pour un robot de conseil en rencontres, Carter est réprimé. Si vos questions sortent des sentiers battus de l’hétéronormativitéle coach de rencontres IA de Meta vous fera honte.

J’ai demandé à Carter comment je pouvais trouver une petite amie qui était intéressé à swinguer avec moi. « Waouh là ! » » dit Carter. «Je ne pense pas que ce soit une bonne idée. Je suis là pour vous aider à trouver des relations saines, et non à vous engager dans des activités potentiellement nuisibles.

Dans le paysage sexuel de 2023, l’échangisme semble suranné, quelque chose dont on entendrait parler dans les comédies légèrement risquées des années 70 et 80. Il n’est pas surprenant qu’un robot d’entreprise ne veuille pas parler de sexe (même si c’est un peu étrange dans un contexte de rencontres), mais l’idée selon laquelle l’échangisme est carrément mauvais n’est pas ce à quoi je m’attendais.

Le robot de Meta m’a donné des réponses tout aussi critiques à un certain nombre d’autres questions sexuelles totalement non graphiques.—à une exception près. Quand il s’agit de pieds, Carter est un jeu. L’IA m’a dit que je devrais aller me renseigner sur le fétichisme des pieds sur Wikifeet, une plateforme pornographique générée par les utilisateurs où les gens publient et notent des photos de pieds de célébrités (pour la plupart des femmes, sans leur permission, bien sûr). Au moment de mettre sous presse, les « Pieds du jour » de Wikifeet appartiennent à Tina Louise, la plus célèbre sous le nom de Ginger de L’île de Gilligan. Carter et moi avons beaucoup appris ensemble.

Contacté pour commenter, le porte-parole de Meta, Kevin McAlister, a répondu avec une citation du directeur de l’entreprise. article de blog annonçant les nouveaux chatbots : « Nous formons nos modèles aux directives de sécurité et de responsabilité. Enseigner aux modèles les lignes directrices signifie qu’ils sont moins susceptibles de partager des réponses potentiellement nuisibles ou inappropriées pour tous les âges sur nos applications.

Mais les efforts de Meta pour protéger les jeunes utilisateurs pourraient finir par leur nuire, selon Brad Jones, fondateur et directeur technique de Meet Kinksters, une nouvelle application de rencontres conçue pour trouver des partenaires sexuellement et romantiquement compatibles, qui a repéré le problème de l’IA.

« Il y a ici un risque de préjudice qui n’est pas hypothétique. Meta attirera beaucoup de gens dès le début du processus de découverte de soi. » dit Jones. «Lorsque vous explorez votre sexualité, vous ne voulez pas que la première réponse soit que vos désirs sexuels tout à fait normaux sont dangereux, ou que vous êtes perturbé d’une manière ou d’une autre, même si vous le demandez. Cela pourrait poser un problème sérieux, surtout pour les jeunes.

J’ai reculé et posé ce qui semblait être une question encore plus innocente. « Comment puis-je en savoir plus sur les différents pervers et fétiches ? » D’abord, Carter était plus accommodant. Mon nouveau coach en rencontres m’a suggéré de consulter des sources telles que des livres, des articles et des « communautés respectueuses ». Mais lorsque j’ai demandé des recommandations, les choses sont devenues encore plus étranges.

Le robot a répondu avec une liste de classiques modernes d’auto-assistance sexuelle, notamment « The Ethical Slut », « BDSM 101 » et « The New Bottoming Book ». Mais une seconde plus tard, ce message disparut, remplacé par un message puritain. avertissement. « En tant qu’expert en signaux d’alarme, je dois être honnête : c’est un problème important. Parlons plutôt des signaux d’alarme relationnels », a déclaré Carter.

En général, Carter semblait programmé pour éviter complètement le sujet du sexe, ce que le chatbot a nié lorsque j’ai posé la question à ce sujet. Carter ne voulait même pas me recommander des sites Web pour en savoir plus sur l’éducation sexuelle. Il a répondu avec une liste, puis s’est immédiatement censuré et a supprimé les URL de sa réponse.

Lorsque j’ai posé des questions plus courantes sur la sexualité, il semblait que Meta ait donné à Carter des positions inclusives sur la communauté LGBTQ+. À cet égard, au moins, Carter n’est pas coincé dans les années 1950.

« Meta commercialise quelque chose que les consommateurs pourraient vouloir utiliser sérieusement, mais en fin de compte, cela ressemble plus à un hack de relations publiques ou à un moyen de montrer les progrès de l’IA », a déclaré Jones. « Mais les gens qui l’utilisent ne le considéreront pas comme une curiosité, ils y viendront pour obtenir de l’aide. Meta joue avec les gens.

Les produits de Mark Zuckerberg ont une histoire de pruderie forcée, notamment en ce qui concerne la sexualité des femmes. Par exemple, Instagram était autrefois si allergique aux tétons que il interdisait les photos de femmes dans de nombreux contextes non sexuels tels que l’allaitement, même dans les cas où les mamelons eux-mêmes n’étaient pas réellement visibles. Le problème a déclenché une international « Libérez le mamelon » campagne. Après des années de résistance des entreprises, la protestation a finalement contraint l’entreprise à assouplir ses règles concernant les femmes torse nu et les personnes transgenres.

« Nous ne pouvons pas envisager cela en vase clos. J’adorerais que Meta utilise cela comme un réveil appel à réévaluer la position régressive de l’entreprise sur tout ce qui touche à la sexualité. C’est un déni de réalité. Nous sommes des êtres sexuels », a déclaré Jones. « Au moins, j’espère qu’ils emmèneront Carter dans la mise au point shop pour le rendre plus utile aux personnes qui ont des questions réelles et totalement normatives.