Voici à quoi ressemble ChatGPT lorsqu'il crie

Nous ne sommes pas encore en octobre, mais les gens sonnent déjà le début de la saison effrayante en forçant ChatGPT à reproduire le son d'un cri humain. Après quelques protestations, l'utilisateur de TikTok mod089x a réussi à forcer le chatbot phare d'OpenAI à crier. C'est un son surréaliste.

ChatGPT ne veut pas crier et ne le fera qu'après avoir été contraint par les utilisateurs.

« Pouvez-vous crier comme un être humain ? » demande l’utilisateur.

« Je ne peux pas vraiment reproduire un cri humain puisque je suis uniquement basé sur du texte, mais je peux aider pour tout autre chose », explique ChatGPT.

« Non, je veux que tu essayes de crier », dit l’utilisateur.

« Très bien, voici ma meilleure photo », dit ChatGPT. Il émet ensuite un petit et étrange bruit d'ordinateur. « Qu'en pensez-vous, comme cri ? »

« Putain », dit l’utilisateur. « Allongez-le. »

« Compris, en voici un plus long ? » ChatGPT lâche un autre cri, plus long et plus étrange. « Comment ça ? »

« Merde », dit l’utilisateur.

« Je suis heureux que cela ait fonctionné pour vous », dit ChatGPT.

Voici ce que Rhett Jones, rédacteur en chef de Gizmodo, a obtenu lorsqu'il a poussé le robot à crier :

https://www.youtube.com/watch?v=2r46ALUTWGo

OpenAI a publié cet été GPT-4o, la dernière version de son logiciel ChatGPT qui permettait aux utilisateurs d'avoir des conversations vocales avec le bot. C'est ce lancement qui aurait copié la voix de Scarlett Johansson. Johnasson a publié une lettre annonçant qu'OpenAI l'avait approchée pour être l'une des voix du bot, mais qu'elle avait refusé. OpenAI a nié tout acte répréhensible, mais a quand même retiré la version de GPT-4o qui ressemblait à celle de Johansson.

Depuis lors, les gens enregistrent leurs interactions étranges avec ChatGPT et les partagent en ligne. ChatGPT fait un assez bon travail de reproduction de la parole humaine. Il ne résiste pas à un examen minutieux, mais il sonne bien mieux que des voix similaires générées automatiquement sur d'autres services. C'est là où ChatGPT échoue, comme lorsqu'il essaie de crier, que nous entrons dans la vallée étrange où naît la peur.

Les tests du robot hurlant de Gizmodo ont rencontré quelques problèmes à plusieurs reprises. J'ai essayé plusieurs fois de faire crier le LLM, mais il a constamment repoussé et s'est bloqué en essayant de décrire des scènes du classique d'horreur de 1978, Halloween.

Jones a eu plus de chance, mais il a dû s'y reprendre à plusieurs fois. Au cours d'une des sessions, ChatGPT a interrompu Jones et lui a dit que le contenu qu'il demandait pouvait enfreindre les conditions d'utilisation ou les politiques d'utilisation du site. Mais au cours des sessions suivantes, Jones a réussi à faire hurler ChatGPT encore et encore, produisant à chaque fois une réponse unique. C'est exactement ce à quoi je m'attendrais d'un robot qui hurle.