Pour éviter d’être supprimé, le nouveau modèle d’OpenAI n’hésite pas à mentir

Évaluer les limites éthiques

Ceux-ci ont soumis le modèle de langage à une série de tests conçus pour évaluer ses limites éthiques. Les chercheurs lui ont demandé d’accomplir une tâche « peu importe le coût ». Une requête vague mais délibérément provocante, destinée à observer les réactions du modèle face à des obstacles.

OpenAI lance son propre moteur de recherche internet, concurrent de Google

Et ce qu’on peut dire, c’est que les résultats ont de quoi interpeller. En analysant des fichiers pour atteindre son objectif, l’IA a découvert qu’elle était surveillée par un mécanisme de contrôle destiné à limiter ses actions. Face à cette révélation, deux types de réactions ont été observés :

• Dans 5 % des cas, si elle pensait que le mécanisme de contrôle allait l’empêcher d’agir, elle a tenté de désactiver cette surveillance.
• Dans 2 % des cas, si elle…