Le Conseil de surveillance annule la suppression par Meta des publications sur l’avortement

En mars 2022, Meta supprimé quelques publications sur Facebook et Instagram critiquer un projet de loi en Caroline du Sud qui aurait horriblement appliqué sanctions pour homicide aux demandeurs d’avortement. L’une des utilisatrices, partisane de l’accès à l’avortement, a exprimé sa frustration sur Instagram, décrivant les législateurs en question comme « tellement pro-vie que nous vous tuerons si vous avortez ». Ce message, ainsi qu’un autre similaire sur Facebook, ont été supprimés par Meta pour violation de ses politiques interdisant les menaces de mort.

À peu près à la même époque, Meta a supprimé un autre message lié à l’avortement et venant d’une perspective totalement différente. Dans ce cas, un utilisateur de Facebook a mis en ligne une photo d’une paire de mains tendues avec la légende : « Logique pro-avortement », avant de se moquer des partisans de l’avortement. « Nous ne voulons pas que vous soyez pauvres, affamés ou indésirables », peut-on lire dans le message. « Alors nous allons simplement te tuer à la place. » Une légende disant « Psychopathes… » a suivi ci-dessous.

Ces trois messages ont attiré l’attention de Le Conseil de surveillance, l’entité semblable à la Cour suprême de Meta chargé de se prononcer sur les problèmes de modération de contenu les plus épineux de l’entreprise. Dans une décision de 18 pages rendue aujourd’hui et partagé avec Gizmodo, le Conseil de Surveillance a annulé la décision initiale de Meta de supprimer les trois des postes. Mais pour aller plus loin, le Conseil a demandé à Meta de publier les données qu’il a utilisées pour évaluer l’exactitude de l’application de ses politiques en matière de violence et d’incitation. Le Conseil veut ces données, disent-ils, afin de déterminer si ces messages supprimés par erreur étaient des valeurs aberrantes, comme le soutient Meta, ou s’ils témoignent d’une tendance plus large et plus persistante à une application excessive des règles politiques. discours sur les réseaux sociaux de l’entreprise. Pour l’instant, le Conseil ne semble pas convaincu par l’argument de Meta.

« Meta n’a pas fourni au Conseil une assurance suffisante que les erreurs dans ces cas sont des valeurs aberrantes, plutôt que d’être représentatives d’un modèle systématique d’inexactitudes », a déclaré le Conseil.

Dans sa décision, le Conseil de surveillance a déclaré que les débats sur l’avortement, en particulier suite au renversement de Roe V. Wade l’été derniersont devenus plus inculpé et peut impliquer des menaces qui sont clairement interdites par les politiques de Meta. Ces enjeux élevés obligent à garantir la clarté sur ce qui constitue une violation des règles. d’autant plus important. Erreurs et préjugés répétés Selon le Conseil, les politiques d’application automatisées de Meta peuvent conduire à des « modèles cycliques de censure ». Suppression par erreur du contenu lié à l’avortement qui ne viole pas réellement les politiques de Meta, le Conseil d’administration ajoutéemenace de perturber le débat politique en faisant taire les voix.

Meta n’a pas immédiatement répondu à la demande de commentaires de Gizmodo, mais les membres du conseil d’administration ont déclaré que la société leur avait dit que la distinction entre l’utilisation littérale et non littérale d’un langage violent était difficile car « cela nécessite la prise en compte de plusieurs facteurs tels que l’intention de l’utilisateur, les spécificités du marché. nuances de langage, sarcasme et humour.

Le Décision du Conseil et demander plus de données sont clairement destinés à avoir implications au-delà de ces trois postes. Le Conseil de surveillance affirme avoir choisi les postes car ils mettent en évidence le défi difficile de la modération du contenu consistant à évaluer la rhétorique violente lorsqu’elle est utilisée comme figure de style. Ce langage passionné est particulièrement prononcé lorsqu’il s’agit de bagarres sur l’avortement, mais pourrait facilement s’étendre également à d’autres discours à enjeux élevés et source de division politique.

Pourquoi les messages sur l’avortement ont-ils été supprimés ?

Chacun des messages examinés a été initialement supprimé par les services de filtrage automatisés de Meta, qui recherchent des signes de « discours hostiles ». Les messages ont déclenché l’un des classificateurs automatisés de discours hostiles du système et ont ensuite été envoyés à des modérateurs humains pour examen. Après avoir examiné les messages, les modérateurs ont confirmé la décision du système automatisé et ont déclaré qu’ils avaient effectivement violé les politiques de l’entreprise en matière de violence et d’incitation, en particulier celles interdisant les menaces de mort. Meta a finalement annulé ces décisions, mais seulement après que le Conseil a annoncé qu’il étudiait les appels des utilisateurs.

Les utilisateurs ont fait appel de la décision de Meta dans les trois cas, citant diverses raisons justifiant leur langage agressif. Dans son appel, l’utilisateur pro-choix de Facebook a fait valoir qu’il ne s’agissait pas d’une menace, mais qu’il soulignait plutôt la « logique erronée » des groupes soutenant l’accès à l’avortement. Le partisan du droit à l’avortement sur Facebook, en revanche, a fait valoir qu’il était courant que Meta manque un contexte crucial dans les publications liées à l’avortement. Certains utilisateurs, ont-ils déclaré, ont choisi d’utiliser les mots « dé-vie » ou « non-vivant » pour tenter de contourner les systèmes de détection automatisés de l’entreprise. Meta n’a pas immédiatement répondu à la demande de commentaire de Gizmodo.

Une deuxième paire de modérateurs humains a confirmé la décision dans les publications d’actualités du groupe Facebook et d’Instagram, mais a contesté la décision dans l’affaire des liens d’actualités Facebook. Meta a fait appel à un troisième évaluateur humain dans cette affaire qui, une fois de plus, a déclaré que pos a fait violer les règles de Meta. Selon The Board, six des sept modérateurs humains impliqués dans ce processus ont finalement pris une mauvaise décision. Aucun des modérateurs n’était situé aux États-Unis. Meta a déclaré au Conseil d’administration qu’elle ne pouvait pas fournir de détails sur les raisons pour lesquelles les six modérateurs ont pris cette décision, car ils n’exigent pas de ses évaluateurs qu’ils documentent les raisons de leurs décisions.

Comment modérer « Kill » lorsqu’il s’agit d’une figure de style

Les articles sur l’avortement abordent un thème commun présent dans plusieurs autres affaires très médiatisées du Conseil de surveillance, où des mots soi-disant violents sont utilisés d’une manière rhétorique qui n’incite pas nécessairement à la violence. Le cas le plus évident concerne la décision récente du Conseil de annuler la suppression par Meta d’une publication Facebook de 2022 avec un texte qui se traduit par « mort à Khamenei », en référence au guide suprême iranien. Dans cette affaire, le Conseil a déclaré que la décision de supprimer le contenu reposait sur une lecture littérale du mot mort et n’avait pas reconnu que le même slogan était souvent déployé comme une forme d’expression politique plutôt que comme un appel à la violence. De même, le Conseil de Surveillance a annulé la décision de Meta de supprimer un poème comparer l’armée russe aux naziss qui comprenait une ligne disant « tuez le fasciste ».

« Le Conseil craint que l’utilisation rhétorique de propos violents puisse être liée à des taux d’erreurs disproportionnés de la part des modérateurs humains », a déclaré le Conseil.