Les systèmes de voitures sans conducteur ont un problème de biais, selon une nouvelle étude du Kings College de Londres. Le étude a examiné huit systèmes de détection de piétons alimentés par l’IA utilisés pour la recherche sur la conduite autonome. Les chercheurs ont analysé plus de 8 000 images via le logiciel et ont découvert que les systèmes de voitures autonomes étaient près de 20 % plus efficaces pour détecter les piétons adultes que les enfants, et plus de 7,5 % plus efficaces pour détecter les piétons à la peau claire que les piétons à la peau foncée. L’IA était encore pire pour repérer les personnes à la peau foncée dans des conditions de faible luminosité et de faible luminosité, ce qui rendait la technologie encore moins sûre la nuit.
Pour les enfants et les personnes de couleur, traverser la rue pourrait devenir plus dangereux dans un avenir proche.
« L’équité en matière d’IA, c’est lorsqu’un système d’IA traite de la même manière les groupes privilégiés et défavorisés, ce qui n’est pas le cas lorsqu’il s’agit de véhicules autonomes », a déclaré le Dr Jie Zhang, l’un des auteurs de l’étude, dans un article. communiqué de presse. « Les constructeurs automobiles ne divulguent pas les détails des logiciels qu’ils utilisent pour la détection des piétons, mais comme ils sont généralement construits sur les mêmes systèmes open source que ceux que nous avons utilisés dans nos recherches, nous pouvons être sûrs qu’ils rencontrent les mêmes problèmes. de partialité.
L’étude n’a pas testé exactement le même logiciel utilisé par les constructeurs de voitures sans conducteur qui ont déjà leurs produits dans les rues, mais elle ajoute aux préoccupations croissantes en matière de sécurité à mesure que les voitures deviennent plus courantes. Ce mois-ci, le gouvernement de l’État de Californie a donné Waymo et Cruise free range pour exploiter des taxis sans conducteur à San Francisco 24 heures par jour. Déjà, la technologie est provoquant des accidents et susciter des protestations dans la ville.
Gizmodo a contacté plusieurs entreprises connues pour leurs voitures autonomes. Cruise et Tesla n’ont pas répondu aux demandes de commentaires.
Un porte-parole de Waymo a déclaré que l’étude ne représentait pas tout de la outils utilisés dans les voitures de l’entreprise. « Chez Waymo, nous n’utilisons pas seulement les images des caméras pour détecter les piétons », a déclaré Sandy Karp, porte-parole de Waymo. « JEAu lieu de cela, nous exploitons notre suite complète de capteurs – y compris nos lidars et nos radars, et pas seulement les caméras – pour nous aider à détecter activement les détails de notre environnement d’une manière qui serait difficile à faire avec des caméras seules.»
Selon les chercheurs, une source majeure des problèmes de la technologie avec les enfants et les personnes à la peau foncée vient du biais dans les données utilisées pour entraîner l’IA, qui contient davantage d’adultes et de personnes à la peau claire.
Karp a déclaré que Waymo entraîne sa technologie de conduite autonome pour classer spécifiquement les humains et répondre au comportement humain, ainsi que pour s’assurer que ses ensembles de données sont représentatifs.
Les algorithmes reflètent les préjugés présents dans les ensembles de données et l’esprit des personnes qui les créent. Un exemple courant est logiciel de reconnaissance facialece qui démontre systématiquement moins de précision avec des visages de femmes, de personnes à la peau foncée et d’Asiatiques en particulier. Ces préoccupations n’ont pas empêché l’adoption enthousiaste de ce type de technologie d’IA. La reconnaissance faciale est déjà chargée de mettre des Noirs innocents en prison.
Mise à jour, 24 août, 13h45 : Cet article a été mis à jour avec les commentaires de Waymo.