Le directeur de la Khan Academy veut que l’IA aide les enfants plutôt que de faire le travail à leur place

Sal Khan, le fondateur de l’organisation éducative à but non lucratif Khan Academy, a déclaré qu’au début de développement du modèle de langage populaire GPT-4, le système crachait des calculs inexacts. Khan et son équipe ont eu un premier aperçu du système d’IA de nouvelle génération en cours de développement et essayaient de trouver des solutions de contournement, mais après avoir partagé le problème avec OpenAI, les développeurs de GPT-4 ont découvert que les données de formation du modèle de langage avaient un mauvais étiquetage mathématique.

Le problème a été résolu et Khan a déclaré que GPT-4 est bien meilleur en mathématiques maintenant, même s’il n’a pas de calculatrice programmée en mode natif dans le système. Mais c’est une friandise intéressante sur le développement à huis clos du grand modèle de langage très médiatisé, d’autant plus que peu ont eu accès au développement de et données d’entraînement pour GPT-4. Khan est un sceptique reconnu quant au boom de l’IA technologique, mais il est au cœur de celui-ci, car son organisation à but non lucratif est impliqué dans le cœur battant de la Silicon Valley.

Khan Academy et ses nouvelle plateforme d’apprentissage Khanmigo AI était l’un des rares grands projets qu’OpenAI a vanté avec la sortie de son nouveau LLM. Khan a déclaré que Khanmigo est la première étape pour l’équipe qui essaie de créer une sorte de plate-forme d’apprentissage et de tutorat tout-en-un. Bien que contrairement à tant d’entreprises qui intègrent l’IA dans leurs produits pour entrer dans le battage médiatique, Khan n’essaie pas d’épater qui que ce soit. Dans une interview avec Gizmodo, il a partagé à la fois son enthousiasme et ses scrupules à propos de l’IA. Dans son esprit, l’IA est peut-être l’un des rares moyens d’arrêter les gens d’abuser de l’IA elle-même.

Khan a déclaré qu’il y a près de six mois, avant que ChatGPT ne voie sa sortie initiale, le PDG d’OpenAI Sam Altman et le président Greg Brockman ont approché son organisation à but non lucratif, affirmant qu’il souhaitait que son IA puisse passer les examens standardisés traditionnels et qu’il recherchait quelques-uns. entreprises avec lesquelles s’associer pour certains « cas d’utilisation positifs sur le plan social ». Bien que spécifiquement, l’équipe OpenAI souhaitait rendre son IA capable de passer des tests standardisés traditionnels comme les SAT.

Bien qu’initialement sceptique, Khan a déclaré que « mon esprit était époustouflé » une fois qu’il a vu toutes les capacités de la dernière version d’OpenAI de son modèle de langage. Khan a déclaré qu’il avait commencé à réfléchir à la manière dont une IA pourrait agir en tant que tuteur ou assistant d’enseignement démocratisé. Khanmigo AI de Khan Lab est actuellement limité à des utilisateurs spécifiques, bien qu’un liste d’attente est disponible.

Khan a déclaré que lui et son équipe souhaitaient adopter une approche plus réfléchie que les autres types de la Silicon Valley, une approche dans laquelle les personnes qui utilisaient le programme savaient exactement ce qu’elles obtenaient, en particulier les dommages potentiels. Les grandes entreprises technologiques comme Méta, Microsoftet Google sont dans une course à pied pour voir qui peut ajouter plus d’IA à leurs systèmes utilisateur le plus rapidement, tout en disant aux utilisateurs de ne pas lui faire explicitement confiance. Un directeur de Microsoft a récemment fait la demande « Parfois [the AI] fera les choses correctement, mais sinon, il se trompera utilement.

« Pensons à ce que Tesla a fait. dit Khan. « Lorsqu’ils ont sorti des voitures autonomes, les gens ont payé pour avoir le privilège de tester quelque chose qui pourrait vous faire heurter un mur à 80 miles à l’heure. »

Khanmigo est divisé en activités d’enseignants et d’étudiants. Si un étudiant demande au programme d’algèbre de répondre à un problème simple comme « 3x + 7 (X-4) = 5 », l’IA demandera d’abord à l’étudiant de décomposer le problème en étapes, d’abord en simplifiant l’expression à gauche, et bientôt. D’autres activités veulent « enflammer votre curiosité » sur des sujets comme l’histoire américaine. Un examen pratique de l’AP sur la psychologie a demandé qui est le « père de la psychologie moderne » et bien que la plupart des gens supposeraient Sigmund Freud, le système répond catégoriquement qu’il s’agit en fait de Wilhelm Wundt, le premier à établir un laboratoire de psychologie à l’Université de Leipzig à la fin du 19e siècle.

En fin de compte, Khan a déclaré qu’il imaginait un système basé sur l’IA qui fonctionne comme un outil d’enseignement et d’apprentissage tout-en-un. Un éducateur pourrait demander à sa classe de monter sur son ordinateur portable pour utiliser l’IA pour l’aider à rédiger une dissertation. Si un étudiant part seul pour demander à un autre ChatGPT semblable à l’IA d’écrire l’essai pour lui, un enseignant pourrait dire par les journaux de discussion que l’étudiant n’a fait aucun travail comme il était censé le faire. Il pourrait être loin de contourner les craintes persistantes de utiliser l’IA pour tricher en classe.

Khan a déclaré que leur système comportait une couche supplémentaire de vérifications pour les questions scientifiques et mathématiques. Lorsque l’IA obtient une mauvaise réponse ou comprend mal une question, les utilisateurs sont censés lui donner un pouce vers le bas.

Et va-t-il mal tourner les choses ? Rarement, mais OpenAI a déclaré que le système se tromperait parfois. Et c’est un problème, mais est-ce plus précise ou moins dérangé qu’une recherche Google peut être? Khan pense que le plus difficile sera de continuer à affiner le modèle, mais aussi de convaincre les gens d’être plus sceptiques et de ne pas vouloir appeler l’IA une source « faisant autorité ».

Vous voulez en savoir plus sur l’IA, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits et Tout ce que nous savons sur le ChatGPT d’OpenAI.