En 2018, un homme a été arrêté pour avoir volé une paire de chaussettes dans un magasin TJ Maxx à New York, alors qu’il était inscrit dans un hôpital pour la naissance de son enfant lorsque le crime a été commis. La police n’a jamais vérifié l’alibi de l’homme et l’affaire reposait sur un seul élément de preuve. Apparemment, un officier de police avait exécuté des images de sécurité dans une base de données de reconnaissance faciale et trouvé une « correspondance possible ». L’officier a envoyé une photo de l’homme par SMS à un témoin qui a dit « c’est le gars ». Après six mois de prison, l’homme a plaidé coupable, bien qu’il clame son innocence.
Malheureusement, cette histoire représente une tendance croissante, pas une exception tragique. L’anecdote ouvre un rapport historique sur la reconnaissance faciale du Georgetown Law Center on Privacy & Technology, qui a révélé que les forces de l’ordre utilisent souvent la technologie comme seule base pour mettre les gens en prison malgré le fait qu’ils ne le font pas et malgré un nombre croissant de personnes. de preuves que la technologie présente de sérieux problèmes d’exactitude et de biais.
Le rapport, intitulé «Une médecine légale sans la science : la reconnaissance faciale dans les enquêtes criminelles aux États-Unis», s’attarde sur les lacunes techniques des logiciels de reconnaissance faciale, qui sont nombreuses et multiformes, selon les auteurs.
« La police utilise la reconnaissance faciale depuis plus de 20 ans en partant du principe qu’il s’agit d’un outil d’identification fiable », a déclaré Clare Garvie, auteur du rapport et éminente collègue du Center on Privacy & Technology. « Non seulement cette hypothèse n’a jamais été testée, mais il y a tout lieu de supposer que la reconnaissance faciale ne produit pas de pistes fiables et peut en fait exposer les personnes à des erreurs d’identification et à des arrestations injustifiées. »
Études montrent que la reconnaissance faciale est moins précise lorsqu’elle est chargée d’identifier les visages des femmes et des personnes de couleur, en particulier les personnes atteintes de teints plus foncés. Ces problèmes sont si graves que certains experts ont fait valoir ça devrait être interdit tout à fait.
Même dans les meilleures conditions, les personnes utilisant la technologie introduisent leurs propres problèmes. Comme le dit le rapport, « les algorithmes et les humains peuvent aggraver les erreurs de l’autre ». Les utilisateurs font de fausses hypothèses sur la précision de la technologie. Et lorsqu’un scan de reconnaissance faciale révèle une liste de suspects possibles, les personnes qui interprètent ces résultats sont biaisées par des caractéristiques faciales telles que la démographie et les expressions.
« Au cours de ses 20 dernières années d’utilisation, les algorithmes de reconnaissance faciale se sont améliorés, mais pas les personnes qui effectuent les recherches », a déclaré Garvie. « Les services de police ne sont toujours pas tenus de mettre en œuvre des politiques et des programmes de formation pour se prémunir contre les préjugés cognitifs, les abus et les erreurs. »
Les responsables de l’application des lois et les entreprises qui fabriquent des logiciels de reconnaissance faciale reconnaissent ces problèmes et disent souvent que la technologie ne devrait être utilisée que pour générer des prospects. Mais les enquêteurs ignorent cette mise en garde, ont découvert Garvie et sa compagnie. Le rapport met en évidence plusieurs cas où la police a utilisé des preuves de reconnaissance faciale comme cause probable pour procéder à des arrestations.
Un problème clé est qu’il n’y a pas de directives claires sur la façon dont la technologie de reconnaissance faciale doit être utilisée, en partie parce que la technologie est nouvelle, mais aussi parce que nous ne comprenons pas pleinement les défauts de la reconnaissance faciale. Si et quand ces lignes directrices seront élaborées, elles viendront probablement en réponse à la poursuite de personnes innocentes, ont-ils écrit.
En raison d’un manque de transparence, nous ne savons pas combien de personnes ont été emprisonnées grâce à la reconnaissance faciale, mais selon le rapport, le nombre est en augmentation. Les forces de l’ordre omettent souvent de divulguer quand la reconnaissance faciale est utilisée dans une enquête, ce qui pose un problème aux accusés dans les affaires judiciaires, car ils ne peuvent pas contester les preuves dérivées d’une technologie défectueuse s’ils ne le savent pas. Le rapport soutient que les résultats de la reconnaissance faciale sont si peu fiables qu’ils devraient être considérés comme du matériel Brady – un terme juridique désignant les preuves que les procureurs sont tenus de divulguer car cela aide les accusés.
Selon Garvie, ne pas divulguer les détails de la reconnaissance faciale dans une affaire pénale viole les droits légaux des personnes. « Il s’agit d’une violation de la procédure régulière, qui se produit depuis 2001 », a-t-elle déclaré.
Nous connaissons les problèmes de reconnaissance faciale depuis longtemps, mais les forces de l’ordre et une grande partie du public continuent de faire une confiance aveugle à la technologie.
« Il y a toujours une tendance à accorder une confiance indue à une approche neutre artificielle, basée sur les mathématiques, pour résoudre des problèmes difficiles ou éliminer l’erreur humaine de la prise de décision », a déclaré Garvie. « C’est la mauvaise approche. »
GIPHY App Key not set. Please check settings