Twitter est répondre à une augmentation des images trompeuses générées par l’IA en élargissant sa défectueux, crowdsourcing fonctionnalité de vérification des faits, notes de la communauté, inclure images. La nouvelle fonctionnalité, dont les débuts vient juste une semaine après le réseau social amplifié un Image générée par l’IA d’une supposée bombe au Pentagonedonnera aux utilisateurs de Twitter la possibilité—et responsabilité—pour identifier les « médias trompeurs ». L’équipe de confiance et de sécurité de Twitter, qui jouerait à l’origine un rôle de premier plan dans la détection des signes de contenu trompeur ou fabriqué, a été vidé depuis Elon Musk a repris la propriété en octobre. Twitter n’a pas dit qu’il embaucherait des modérateurs de contenu supplémentaires pour atténuer la propagation d’images fabriquées.
Les notes de la communauté élargies fonctionnalité permettra aux utilisateurs disposant d’un note d’impact sur 10 joindre des notes à une image spécifique incluse dans un tweet. Les scores d’impact sont un mesure de à quel point les notes d’un contributeur ont été utiles. Les utilisateurs peuvent ajouter tPrenez des notes pour ajouter un contexte supplémentaire à une image ou alerter les utilisateurs de médias qui peuvent être générés ou manipulés par l’IA. Twitter indique que les notes jointes aux images apparaîtront automatiquement « sur les images correspondantes récentes et futures ». En théorie, cela signifie qu’une image douteuse affichera toujours la note à côté même si elle a été publiée par d’autres utilisateurs ailleurs sur le site. Pour l’instant, cependant, Twitter ne semble pas très confiant dans sa capacité à faire correspondre les images taguées avec toutes les autres versions qui apparaissent sur la plate-forme.
« Il est actuellement prévu de pécher par excès de précision lors de la mise en correspondance des images, ce qui signifie qu’il ne correspondra probablement pas à toutes les images qui vous ressemblent », a déclaré Twitter. « Nous travaillerons pour régler cela afin d’étendre la couverture tout en évitant les correspondances erronées. »
Twitter indique que la fonctionnalité pilote ne prend actuellement en charge que les tweets avec une seule image, bien que la société l’ait déclaré aimerait l’étendre pour travailler avec des vidéos et des tweets avec plusieurs images et vidéos. Gizmodo a contacté Twitter pour plus de détails sur le programme, mais a reçu un emoji caca en réponse.
Musc Philosophie de l’économie autour de la restriction de l’accès à l’API de Twitter lance des applications tierces utiles pour lutter contre certains des contenus les plus toxiques de la plate-forme. L’une de ces applications, un outil anti-harcèlement populaire appelé Block Party utilisé pour bloquer et désactiver des millions de trolls, a dit le même jour que l’expansion de Twitter de Community Notes que les changements de Twitter l’obligeaient à faire une «pause indéfinie» sur la plate-forme.
« Nous avons le cœur brisé de ne pas pouvoir vous aider à vous protéger contre les harceleurs et les spammeurs sur la plate-forme, du moins pour le moment ; nous nous sommes battus très fort pour rester, et nous sommes vraiment désolés de ne pas avoir pu y arriver », a déclaré Block Party.
Twitter ressent les conséquences de brûler son équipe de confiance et de sécurité
La fonctionnalité de crowdsourcing mise à jour vient comme Twitter et d’autres réseaux sociauxpeine à contrôler une augmentation des images trompeuses générées par l’IA. Alors que la plupart de ces images d’IA virales jusqu’à présent sont largement tombées assez clairement dans le catégorie parodie ou satireun Image générée par l’IA d’un « attentat » se produisant à l’extérieur du Pentagone la semaine dernière a offert un aperçu du type de misdes informations qui Les experts en sécurité de l’IA ont mis en garde pendant des années. Cette situation particulière a été encore aggravée par Le bazar de Twitter vérification de l’accès payant, qui laisse une vérification compte se faisant passer pour un compte Bloomberg News amplifie encore plus l’image. Ce compte imposteur a depuis été suspendu.
Des experts en confiance et en sécurité parlant avec Gizmodo disent Les images générées par l’IA ou d’autres médias manipulés sont précisément les types de contenu auxquels les travailleurs humains rémunérés et formés sont les mieux équipés pour répondre. Twitter, sous Musk, a vidé ses équipes de confiance et de sécurité. La fonctionnalité de notes étendues tente essentiellement de sous-traiter le travail à la base d’utilisateurs de Twitter qui, avouons-le, n’est pas exactement connue pour sa discipline ou sa nuance. De manière générale, Arjun Narayan, responsable de la confiance et de la sécurité chez SmartNews et ancien responsable de la confiance et de la sécurité chez Google et ByteDance dit à Gizmodo il craint que cette réduction de l’expertise ne revienne mordre les entreprises dans le cul.
« Alors que nous désinvestissons, attendons-nous que la merde frappe le ventilateur? » demanda Narayan. « Serait-il alors trop tard pour réinvestir ou corriger sa trajectoire ?
GIPHY App Key not set. Please check settings