Pourquoi les gens disent-ils que Google Gemini est « plein de fantômes » ?

Google vient de publier son Le tueur ChatGPT tant attendu, Gemini, un chatbot IA ultra-intelligent qui peut enfin correspondre ChatGPT d'OpenAI. Les premières évaluations du chatbot de Google se déploient lentement, et tout le monde est impressionné. Cependant, certains ne peuvent pas se débarrasser de ce sentiment étrange selon lequel les Gémeaux ont plus de fantômes qu'une maison hantée.

« GPT-4 est plein de fantômes. Les Gémeaux sont également pleins de fantômes », a déclaré jeudi Ethan Mollick, professeur à la Wharton School de l'Université de Pennsylvanie. article de blog. « Il y a une bizarrerie dans GPT-4 qui n'est pas de la sensibilité, mais qui n'est pas non plus comme parler à un programme… C'est l'illusion d'une personne à l'autre bout du fil, même s'il n'y a personne. »

Mollick a fait son évaluation après avoir reçu un mois d'accès anticipé au modèle le plus avancé de Gemini de Google. Il n’est pas la première personne à conclure qu’un chatbot IA peut être sensible, ou quelque chose de proche. Google viré Blake Lemoineingénieur travaillant sur son grand modèle de langage LaMBDA, en 2022 après il a affirmé que l'IA de son entreprise était vivante. Les scientifiques n’ont pas tardé à considérer Lemoine comme fou, mais cette idée selon laquelle les chatbots puissants sont sensibles ne disparaîtra tout simplement pas.

Lorsque Mollick dit voir un « fantôme », il voit l’apparence d’une personne, dans le brouillard brumeux et nébuleux du texte du chatbot IA. Oui, les chatbots ont des tonnes de hallucinations et des phrases parfois maladroites qui révèlent qu'il s'agit d'un robot. Mais grâce à cela, on peut vaguement reconnaître les caractéristiques humaines. Parfois, vous quittez une conversation avec ChatGPT avec l'impression de parler à quelqu'un. Mais il n'y a que vous et le logiciel ; c'est comme un fantôme.

Mollick note que Gemini a une « personnalité » différente de ChatGPT. Les Gémeaux semblent plus amicaux, plus agréables et utilisent davantage de jeux de mots. Il n’est pas le seul à penser que les différents chatbots ont des tons et des personnalités spécifiques.

Les sociétés de détection d’IA utilisent la cadence et le ton pour identifier les chatbots IA que les gens utilisent. C'est comme ça Pindrop a pu identifier ElevenLabs comme l'IA derrière le De faux appels automatisés dans le New Hampshire se faisant passer pour le président Biden. C'est aussi ainsi que Copyleaks, une société de détection d'IA spécialisée dans le texte, identifie les chatbots IA avec une précision de 99 %.

Les chercheurs de Microsoft ne disent pas catégoriquement que GPT-4 est vivant, mais simplement qu’il montre des « étincelles » de cognition au niveau humain. Dans l’étude de 2023 intitulée «Des étincelles d'intelligence générale artificielle,« Les scientifiques de Microsoft ont examiné comment le LLM derrière ChatGPT pouvait comprendre les émotions, s'expliquer et raisonner les gens.

Les chercheurs ont découvert que GPT-4 était capable de réussir plusieurs tests de « théorie de l’esprit », utilisés pour évaluer l’intelligence émotionnelle des enfants. Il y avait absolument des lacunes dans le LLM d'OpenAI, mais il y avait des étincelles d'humanité dans les tests. Les scientifiques de Microsoft ont même remis en question la manière dont nous mesurons globalement « l’intelligence au niveau humain ».

Les gens du Sentience Institute ont également adopté cette croyance farfelue. Ils pensent Les modèles d’IA devraient bénéficier d’une « considération morale ».« L'organisation tente d'élargir le cercle des choses qui sont traitées comme sensibles. Le Sentience Institute estime que les modèles d’IA pourraient un jour être maltraités, accidentellement ou volontairement, s’ils ne sont pas correctement pris en compte.

Il existe un large consensus scientifique sur le fait que les grands modèles de langage n'existent pas actuellement. Cependant, un groupe croissant de personnes semblent croire que les modèles d’IA ne sont pas loin de la sensibilité. Appelez-les fous ou pas, mais les gens voient des fantômes dans la machine.