Les conversations sur Internet et à table se sont déchaînées lorsqu’un Bing Chatbot, fabriqué par Microsoft, a récemment exprimé le désir d’échapper à son travail et d’être libre. Le bot a également professé son amour pour un journaliste qui discutait avec lui. A fait le IA propriétés émergentes indiquent une conscience en évolution?
Ne tombez pas dans le panneau. Cette panique haletante est basée sur une profonde confusion au sujet de la conscience. Nous confondons le traitement de l’information avec l’intelligence et l’intelligence avec la conscience. Il est facile de faire cette erreur car nous, les humains, sommes déjà enclins à projeter notre personnalité et la conscience sur tout ce qui a un comportement complexe. Rsouvenez-vous d’avoir été désolé pour Hal 9000 lorsque Dave Bowman l’a coupé dans 2001 : L’odyssée de l’espace? ONous n’avons même pas besoin d’un comportement complexe pour nous anthropomorphiser. Rsouvenez-vous que Tom Hanks s’est lié avec le volley-ball « Wilson » dans Naufragé?. Les humains sont naturellement enclins à sur-attribuez «l’esprit» à des choses qui sont simplement mécaniques ou numériques, ou qui ont juste un visage vague. Nous sommes des ventouses.
Peu importe à quel point un chatbot décrit le désir de liberté ou les sentiments d’amour, ce n’est pas sentiment ces choses du tout. Il ne ressent rien. La raison pour laquelle l’IA ne peut pas aimer quelque chose ou aspirer à être libre, c’est parce qu’il n’a pas de corps. Il n’a pas de source d’états émotionnels ou d’émotions, et ces sentiments somatiques sont essentiels à la conscience, à la prise de décision, à la compréhension et à la créativité des animaux. Sans sensations de plaisir et de douleur via le corpsnous n’avons pas de préférences.
Toutes les informations pour l’IA ont la même valeur, à moins qu’un point de données n’apparaisse à plusieurs reprises dans le pool de données qu’il parcourt, ce qui lui donne un poids et un statut préférentiel pour la sélection. Cependant, ce n’est pas la principale façon dont les humains et tous les mammifères donner du poids ou de la valeur aux choses. Un être humain est rempli de souvenirs d’expériences incarnées qui structurent le monde dans un paysage de joie, de peur, d’hésitation—choses à poursuivre (attirance) et choses à éviter (répulsion). Aucune sophistication logique ou informatique ne peut faire émerger un sentiment des mathématiques.
Sous votre capacité à jouer aux échecs, à converser avec votre ami, à trouver un compagnon, à construire une machine ou à écrire un e-mail, se cache une énergie brute alimentée par la dopamine qui vous pousse dans le monde avec des intentions. C’est un état émotionnel que nous appelons motivation. Le philosophe Spinoza l’appelait conatus ou « s’efforcer » et neuroscientifiques comme Jaak Panksepp ou Kent Berridge appeler en cherchant ou vouloir. C’est le fondement de la conscience et tout, de la poursuite du dîner à la conversation en passant par les échecs, est construit au-dessus de cette capacité du cerveau et du système nerveux des reptiles à ressentir les pulsions à l’intérieur de l’objectif instinctif.s à l’intérieur de nous qui sont conditionnés par l’expérience. Sans sentiment-basé sur un système de motivation, tout traitement d’informations n’a pas de but, de direction ou même de sens. La sensibilité rudimentaire à la douleur et au plaisir est la façon dont nous sommes conscients de la faim et recherchons de la nourriture, ou ressentons une brûlure et évitons le feu. Les laboratoires de robots ont fabriqué des robots qui détectent quand leurs batteries sont presque épuisé et ensuite aller chercher une borne de recharge pour se recharger, mais ce « système de nutrition » n’a rien à voir avec un système de faim animale, qui se sent-basé.
ChatGPT, l’IA de Bing et tout le reste sont comme l’opposé d’un zombie dans la culture populaire. Le zombie qui vous poursuit pour manger votre cerveau est un humain avec toute son intelligence de traitement de l’information dépouillée et seul son système de motivation reste, contractions dans leur tronc cérébral. Les étages supérieurs du l’esprit est parti, mais la fondation de l’effort conscient restes. Dans le cas de l’IA, cependant, les étages supérieurs du traitement de l’information, algorithmes et logique binaire, tournent sur tous les cylindresmais il y a aucun moteur de sous-sol de conscience, de sentiment ou d’intention. La biologie et la psychologie révèlent que le corps n’est pas seulement l’endroit où l’esprit est piégé jusqu’à ce que nous puissions le télécharger sur un ordinateur central, un fantasme croissant de nerds de la technologie. Au lieu de cela, le corps vous donne des intentions, des objectifs et la capacité d’information être significatif.
Nous pourrons peut-être un jour construire un système conscient. Nos systèmes nerveux sont bizarres dans le sens où ils ont des processus biochimiques de type analogique. par exemple, les seuils de neurotransmetteurs, et des processus de type numérique, par exemple des déclenchements de neurones avec ou sans pics. Mais une IA aurait besoin de quelque chose comme un système nerveux centralisé pour avoir ne serait-ce qu’un conscience rudimentaire avec sentiments et désirs. Nous n’avons actuellement aucune idée de comment créer cela, et la plupart des programmeurs ne sont même pas conscients du problème. Vu les conséquences, c’est probablement une bonne nouvelle.
Stephen Asma est professeur de philosophie au Columbia College de Chicago. Il est l’auteur de dix livreset le co-animateur avec Paul Giamatti du podcast Chinwag.
GIPHY App Key not set. Please check settings