Les algorithmes de Facebook pensent qu'une petite communauté anglaise ne sert à rien

Ayez une pensée pour les habitants de Coulsdon, en Angleterre, qui disent être catégoriquement opprimés par la main lourde de la censure algorithmique sans autre raison que l'orthographe apparemment anodine du nom de leur ville.

Selon le blog d'information local Inside Croydon, les propriétaires d'entreprises et les associations de quartier de la ville ont vu du contenu supprimé de leurs pages Facebook parce que les algorithmes de modération de contenu de la plateforme détectent le « LSD » de Coulsdon comme référence à la drogue psychédélique.

Le blog, citant des sources locales qui ont refusé d'être nommées, a déclaré que les pages des théâtres locaux, des quincailleries, des groupes d'histoire et des associations de résidents avaient toutes été affectées par la censure et que Facebook n'avait pas résolu le problème malgré de multiples plaintes.

« Tant qu'il y a 'Coulsdon' dans le titre, vous obtenez la référence à la drogue qu'il n'y a aucun moyen de contourner », a déclaré une source anonyme à Inside Croydon.

Dans une brève déclaration, Dave Arnold, porte-parole de la société mère de Facebook, Meta, a déclaré « qu'il s'agissait d'une erreur qui a maintenant été corrigée ».

Ce ne serait pas la première fois que les filtres de Facebook bloquaient des publications contenant des informations inoffensives.-ou peut-être des informations vitales-.

En 2021, Facebook a présenté ses excuses à certains utilisateurs anglais pour avoir censuré et banni les personnes qui publiaient des articles sur le Plymouth Hoe, un monument de la ville côtière de Plymouth.

Le Washington Post a rapporté plus tôt cette année que, alors que les incendies de forêt faisaient rage sur la côte ouest, les algorithmes de l'entreprise avaient censuré les publications sur les incendies dans les groupes locaux de gestion des urgences et de sécurité incendie. Dans des dizaines d’exemples documentés par le journal, Facebook a signalé les publications comme étant du spam « trompeur ».

Les administrateurs de groupes Facebook ont ​​également déjà remarqué que des publications dans leurs communautés contenant le mot « hommes » étaient signalées comme discours de haine, selon Vice. Le phénomène a conduit à la création de facebookjailed.com, où les utilisateurs ont documenté des décisions de modération bizarres, comme une photo d'un poulet étiqueté comme nudité ou activité sexuelle.

Les propres données de Facebook montrent que sa forte dépendance aux algorithmes pour contrôler le contenu de la plateforme entraîne des millions d'erreurs chaque mois.

Selon ses données de modération les plus récentes, Facebook a pris 1,7 million de mesures coercitives concernant des contenus liés à la drogue entre avril et juin de cette année. Environ 98 % de ce contenu a été détecté par l’entreprise, contre seulement 2 % signalés par les utilisateurs. Les gens ont fait appel des sanctions dans 182 000 cas et Facebook a fini par restaurer plus de 40 000 éléments de contenu— 11 700 sans appel et 28 500 après appel.

Les algorithmes ciblant d’autres types de contenus interdits, comme le spam, entraînent encore plus d’erreurs. La plateforme a restauré près de 35 millions de messages qu'elle avait qualifiés par erreur de spam au cours des trois derniers mois, soit plus de 10 % du contenu prétendument spammé qu'elle avait précédemment supprimé.