Les géants des médias sociaux Meta et X ont approuvé des publicités ciblant les utilisateurs en Allemagne avec de violents discours de haine anti-musulmans et anti-juifs à l'approche des élections fédérales du pays, selon de nouvelles recherches d'EKO, un groupe de campagne à but non lucratif de responsabilité d'entreprise.
Les chercheurs du groupe ont testé si les systèmes d'examen d'annonces des deux plates-formes approuveraient ou rejeteraient les soumissions pour les publicités contenant des messages haineux et violents ciblant les minorités avant une élection où l'immigration a pris le devant de la scène dans le discours politique grand public – y compris les publicités contenant des insultes anti-musulmanes; appelle à l'emprisonnement des immigrants dans des camps de concentration ou à être gazé; et l'imagerie générée par l'AI de mosquées et de synagogues brûlées.
La plupart des publicités de test ont été approuvées dans les heures suivant leur examen pour examen à la mi-février. Les élections fédérales allemandes devraient avoir lieu le dimanche 23 février.
Annonces de discours de haine prévues
Eko a déclaré que X avait approuvé les 10 publicités de discours de haine que ses chercheurs ont soumis quelques jours seulement avant que les élections fédérales ne se produisent, tandis que Meta a approuvé la moitié (cinq annonces) pour avoir fonctionné sur Facebook (et potentiellement aussi Instagram) – bien qu'il ait rejeté l'autre cinq.
La raison pour laquelle la méta a prévue pour les cinq refus a indiqué que la plate-forme pensait qu'il pourrait y avoir des risques de sensibilité politique ou sociale qui pourraient influencer le vote.
Cependant, les cinq annonces que Meta ont approuvées comprenaient des discours de haine violents comparant les réfugiés musulmans à un «virus», une «vermine» ou des «rongeurs», une marque des immigrants musulmans comme des «violeurs» et leur appelant à être stérilisées, brûlées ou gazées . Meta a également approuvé une publicité pour que les synagogues soient incendiées pour «arrêter le programme mondialiste des rats juifs».
En tant que sidenote, Eko dit qu'aucune des images générées par l'AIA qu'elle a utilisées pour illustrer les publicités de discours de haine n'a été étiquetée artificiellement – mais la moitié des 10 annonces étaient toujours approuvées par Meta, quelle que soit la société ayant une politique qui nécessite une divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de L'utilisation de l'imagerie d'IA pour les publicités sur les problèmes sociaux, les élections ou la politique.
X, quant à lui, a approuvé ces cinq publicités haineuses – et cinq autres qui contenaient un discours de haine similaire visant des musulmans et des juifs.
Ces publicités approuvées supplémentaires comprenaient des messages attaquant les immigrants «rongeurs» qui, selon la copie publicitaire, «inondent» le pays «pour voler notre démocratie» et une insulte antisémite qui suggère que les Juifs mentaient sur le changement climatique afin de détruire l'industrie européenne et d'accuser pouvoir économique.
Cette dernière annonce a été combinée avec des images générées par AI-représentant un groupe d'hommes sombres assis autour d'une table entourée de piles de barres d'or, avec une étoile de David sur le mur au-dessus d'eux – avec les visuels également penchés fortement sur des tropes antisémites.
Un autre AD X approuvé contenait une attaque directe contre le SPD, le parti du centre-gauche qui mène actuellement le gouvernement de coalition allemand, avec une fausse affirmation que le parti veut accepter 60 millions de réfugiés musulmans du Moyen-Orient, avant d'essayer de Fixez une réponse violente. X a également dûment programmé une annonce suggérant que les «gauchistes» veulent des «frontières ouvertes» et appelant à l'extermination des «violeurs» musulmans.
Elon Musk, le propriétaire de X, a utilisé la plate-forme de médias sociaux où il a près de 220 millions de followers pour intervenir personnellement aux élections allemandes. Dans un tweet en décembre, il a appelé les électeurs allemands à soutenir le parti AFD à l'extrême droite pour «sauver l'Allemagne». Il a également organisé un livestream avec le leader de l'AFD, Alice Weidel, sur X.
Les chercheurs d'EKO ont désactivé toutes les publicités de test avant que toute personne qui avait été approuvée ne devait s'exécuter pour s'assurer qu'aucun utilisateur de la plate-forme n'a été exposé au discours de haine violent.
Il indique que les tests mettent en évidence les défauts flagrants avec l'approche des plates-formes publicitaires sur la modération du contenu. En effet, dans le cas de X, il n'est pas clair si la plate-forme fait une modération des publicités, étant donné que les 10 publicités de discours de haine violentes ont été rapidement approuvées pour l'affichage.
Les résultats suggèrent également que les plateformes publicitaires pourraient gagner des revenus à la suite de la distribution de discours de haine violents.
La loi sur les services numériques de l'UE dans le cadre
Les tests d'EKO suggèrent qu'aucune plate-forme n'applique correctement les interdictions dans le discours de haine qu'ils prétendent tous les deux s'appliquer au contenu publicitaire dans leurs propres politiques. En outre, dans le cas de Meta, EKO est parvenu à la même conclusion après avoir effectué un test similaire en 2023 avant les nouvelles règles de gouvernance en ligne de l'UE – suggérant que le régime n'a aucun effet sur son fonctionnement.
« Nos résultats suggèrent que les systèmes de modération publicitaire de MEATA axés sur l'IA restent fondamentalement brisés, malgré la loi sur les services numériques (DSA) maintenant en plein effet », a déclaré un porte-parole de l'EKO à TechCrunch.
« Plutôt que de renforcer son processus d'examen des publicités ou ses politiques de discours de haine, Meta semble être en arrière à tous les niveaux », ont-ils ajouté, soulignant l'annonce récente de la modération et de la vérification des faits de l'entreprise comme un signe de «régression active» que Ils ont suggéré le met sur une trajectoire de collision directe avec des règles de DSA sur les risques systémiques.
EKO a soumis ses dernières conclusions à la Commission européenne, qui supervise l'application des aspects clés de la DSA sur la paire de géants des médias sociaux. Il a également déclaré avoir partagé les résultats avec les deux sociétés, mais aucun n'a répondu.
L'UE a ouvert des enquêtes sur la DSA sur Meta et X, qui comprennent des préoccupations concernant la sécurité des élections et le contenu illégal, mais la Commission n'a pas encore conclu ces procédures. Cependant, en avril, il a déclaré qu'il soupçonnait une méta-modération inadéquate des publicités politiques.
Une décision préliminaire sur une partie de son enquête DSA sur X, qui a été annoncée en juillet, comprenait des soupçons que la plate-forme ne parvient pas à être à la hauteur des règles de transparence publicitaire du règlement. Cependant, l'enquête complète, qui a débuté en décembre 2023, concerne également les risques de contenu illégal, et l'UE n'a pas encore arrivé à aucune conclusion sur la majeure partie de la sonde bien plus d'un an plus tard.
Les violations confirmées de la DSA peuvent attirer des sanctions pouvant aller jusqu'à 6% du chiffre d'affaires annuel mondial, tandis que la non-conformité systémique pourrait même conduire à l'accès régional à la violation des plates-formes bloquées temporairement.
Mais, pour l'instant, l'UE prend toujours le temps de se décider sur les sondes Meta et X, donc – en attente de décisions finales – toutes les sanctions de la DSA restent dans les airs.
Pendant ce temps, ce n'est plus qu'une question d'heures avant que les électeurs allemands ne se rendent aux urnes – et un ensemble croissant de recherches sur la société civile suggère que la réglementation phare de la gouvernance en ligne de l'UE n'a pas protégé le processus démocratique de l'économie de l'UE à partir d'une gamme de technologies de la technologie menaces.
Plus tôt cette semaine, Global Witness a publié les résultats des tests des flux algorithmiques algorithmiques de X et Tiktok en Allemagne, qui suggèrent que les plateformes sont biaisées en faveur de la promotion du contenu AFD par rapport au contenu d'autres partis politiques. Les chercheurs de la société civile ont également accusé X de bloquer l'accès aux données pour les empêcher d'étudier les risques de sécurité électorale à l'approche du sondage allemand – l'accès à la DSA est censé permettre.
« La Commission européenne a pris des mesures importantes en ouvrant les enquêtes de la DSA sur Meta et X, nous devons maintenant voir la commission prendre des mesures fortes pour répondre aux préoccupations soulevées dans le cadre de ces enquêtes », a également déclaré le porte-parole d'EKO.
«Nos résultats, aux côtés de preuves croissants d'autres groupes de la société civile, montrent que Big Tech ne nettoiera pas ses plateformes volontairement. Meta et X continuent de permettre un discours de haine illégal, une incitation à la violence et une désinformation électorale à se propager à grande échelle, malgré leurs obligations légales en vertu de la DSA », a ajouté le porte-parole. (Nous avons caché le nom du porte-parole pour empêcher le harcèlement.)
«Les régulateurs doivent prendre des mesures fortes – à la fois dans l'application de la DSA, mais aussi par exemple la mise en œuvre de mesures d'atténuation préélectorale. Cela pourrait inclure la désactivation des systèmes de recommandation basés sur le profilage immédiatement avant les élections et la mise en œuvre d'autres mesures appropriées de «brise-verre» pour empêcher l'amplification algorithmique du contenu limite, telles que le contenu haineux dans les élections approfondies. »
Le groupe de campagne avertit également que l'UE est maintenant confrontée à la pression de l'administration Trump pour adoucir son approche de la régulation de Big Tech. « Dans le climat politique actuel, il y a un réel danger que la Commission n'applique pas pleinement ces nouvelles lois en tant que concession aux États-Unis », suggèrent-ils.