Un étudiant poignardé après qu’un scanner d’armes AI a manqué un couteau

S’il n’est pas cassé, ne le remplacez pas par l’IA, surtout lorsqu’il s’agit de détecteurs de métaux. En octobre dernier, un lycéen de New York a été poignardé avec un couteau que le scanner d’armes à intelligence artificielle de l’école n’a pas réussi à détecter.

Selon Bbc, les coups de couteau ont eu lieu au Proctor High School à Utica, New York, à l’Halloween dernier, et le jeune de 18 ans a été poignardé à la tête, au cou, à l’épaule, au dos et à la main. Avant le coup de couteau, le lycée avait investi dans un système de détection d’armes à intelligence artificielle de plusieurs millions de dollars d’une société appelée Evolv Technology. Ce scanner d’armes n’a pas réussi à détecter le couteau de 9 pouces introduit dans l’école, qui a ensuite été utilisé pour poignarder.

« Il y a une épidémie d’écoles qui achètent de nouvelles technologies sur la base d’affirmations marketing audacieuses, puis découvrent qu’elles ont des défauts cachés, souvent des millions de dollars plus tard », a déclaré Connor Healy à la BBC. Healy est directeur de la société de recherche en sécurité TVPM. « Evolv est l’un des pires contrevenants. Les responsables de l’école ne sont pas des experts techniques en matière de détection d’armes, et des entreprises comme Evolv profitent de leur ignorance.

Evolv n’a pas immédiatement renvoyé la demande de commentaire de Gizmodo.

Le district scolaire d’Utica City aurait acheté des systèmes Evolv pour les 13 écoles du district en mars dernier et les détecteurs ont été installés pendant les vacances d’été. Brian Nolan, surintendant, a déclaré à la BBC que depuis les coups de couteau, trois autres couteaux ont été trouvés sur des étudiants qui n’avaient pas été détectés à l’origine par le scanner d’armes AI. Les scanners ont été retirés du Proctor High School et remplacés par des détecteurs de métaux mais sont apparemment toujours utilisés dans les 12 autres écoles du district.

« Les enfants (qui avaient les couteaux) ont tous dit qu’ils avaient traversé le système de détection d’armes, nous leur avons posé des questions à ce sujet… il ne trouve vraiment, vraiment pas de couteaux », a déclaré Nolan à la BBC.

Comme le souligne le point de vente, le site Web d’Evolv avait précédemment affiché le slogan «Zones sans armes» sur sa page d’accueil. Ce langage a changé après le coup de couteau en « Notre mission : des zones sûres », puis à nouveau, plus récemment, en « Notre mission : des zones plus sûres ». La mission d’Evolv est de remplacer les détecteurs de métaux traditionnels par des scanners alimentés par l’IA, et selon une version précédente de la société, ses systèmes ont pu détecter les couteaux.

Vous voulez en savoir plus sur l’IA, les chatbots et l’avenir de l’apprentissage automatique ? Découvrez notre couverture complète de intelligence artificielleou parcourez nos guides pour Les meilleurs générateurs d’art AI gratuits, Les meilleures alternatives ChatGPTet Tout ce que nous savons sur le ChatGPT d’OpenAI.