Les victimes de Deepfakes ripostent

Quiconque a passé un moment à observer le bavardage politique américain ces derniers mois a probablement été confronté à la prédiction suivante : 2024 verra la première élection deepfake au monde. En évolution rapide Générateurs vidéo et audio IA propulsés par de grands modèles de langage ont déjà été utilisés par les deux Donald Trump et Celui de Ron DeSantis campagnes présidentielles pour se diffamer et contrefaçons du président actuel Joe Biden semblent proliférer régulièrement. Des législateurs nerveux – peut-être inquiets de voir leur visage se retrouver bientôt entraînés dans le bourbier généré par l’IA – se sont précipités pour proposer plus d’une douzaine de projets de loi tentant de régner sur les deepfakes aux niveaux étatique et fédéral.

Mais les législateurs qui se rongent les ongles sont en retard à la fête. Les deepfakes ciblant les politiciens peuvent sembler nouveaux, mais Pornographie générée par l’IA, qui représente encore l’écrasante majorité des deepfakes non consensuels, a tourmenté des milliers de femmes pendant plus d’une demi-décennie, leurs histoires étant souvent enfouies sous la surface des préoccupations dominantes. Un groupe de victimes de deepfake tentent de lever ce voile en racontant leur traumatisme et les mesures qu’elles ont prises pour lutter contre leurs agresseurs, dans un nouveau documentaire choquant intitulé Un autre corps.

L’une de ces femmes ciblées, une streameuse ASMR populaire avec 280 000 abonnés sur Twitch, nommée Gibi, a parlé avec Gizmodo de sa décision de reconnaître publiquement les deepfakes sexuels faits à son sujet. Elle espère que sa plateforme pourra contribuer à mettre en lumière cette question trop souvent négligée.

« Je pense que nous passons la plupart de notre temps à nous convaincre que ce n’est pas grave et qu’il y a des choses pires dans le monde », a déclaré Gibi dans une interview avec Gizmodo. « C’est un peu comme ça que je vis ma journée, c’est juste que tu ne peux pas laisser ça te déranger, alors tu te convaincs que ce n’est pas si mal. »

«Entendre d’autres personnes dire que est ce mal est un mélange d’émotions », a-t-elle ajouté. « C’est un peu soulageant et aussi un peu effrayant. »

Gibi était l’une des nombreuses femmes du film qui racontent leurs expériences après avoir découvert des contrefaçons d’elles-mêmes. Le documentaire, réalisé par les cinéastes Sophie Compton et Reubyn Hamlyn, suit en grande partie la vie d’une étudiante en ingénierie nommée Taylor qui a découvert une fausse pornographie d’elle-même circulant en ligne. Taylor n’est pas le vrai nom de l’étudiant. En fait, toutes les apparitions de Taylor et d’une autre victime deepfake présentées dans le documentaire sont en réalité des vidéos deepfake créées pour dissimuler leur véritable identité.

L’étudiant de 22 ans découvre le deepfake après avoir reçu un message effrayant sur Facebook d’un ami qui dit : « Je suis vraiment désolé mais je pense que tu dois voir ça. » Un lien PornHub suit.

Taylor ne croit pas au message au début et se demande si le compte de son amie a été piraté. Elle décide finalement de cliquer sur le lien et se voit présenter son visage engagé dans de la pornographie reliée la regardant. Taylor apprend plus tard que quelqu’un a extrait des images de son visage de ses comptes de réseaux sociaux et les a transmises à un modèle d’IA pour la faire apparaître dans six vidéos de sexe truquées. Pire encore, la coupable derrière les vidéos les a publiées sur un profil PornHub en se faisant passer pour son nom avec sa véritable université et sa véritable ville natale.

Le film, parfois terriblement horrible, met à nu le traumatisme et l’impuissance que les victimes de deepfakes sont obligées d’endurer lorsqu’on leur présente des représentations sexualisées d’elles-mêmes. Alors que la plupart des conversations et des médias décrivant les deepfakes se concentrent sur des célébrités ou des personnalités de premier plan aux yeux du public, Un autre corps illustre une réalité troublante : la technologie Deepfake, alimentée par de grands modèles de langage de plus en plus puissants et faciles d’accès, signifie que le visage de chacun est à gagner, quelle que soit sa renommée.

Plutôt que de conclure sur une note sombre, le film passe la majorité de son temps à suivre Taylor alors qu’elle découvre des indices sur ses deepfakes. Finalement, elle apprend qu’une autre fille de son école a été ciblée par des deepfakes similaires sans son consentement. Les deux hommes plongent ensuite profondément dans 4Chan et d’autres foyers de dépravation profonde pour découvrir tous les indices possibles pour démasquer leur bourreau. C’est lors de cette descente dans les profondeurs du deepfake underground que Taylor tombe sur de fausses images de Gibi, la streameuse Twitch.

Le streamer Twitch s’exprime

Gibi, parlant avec Gizmodo, a déclaré qu’elle avait été la cible de tellement de vidéos deepfake à ce stade qu’elle ne se souvient même pas quand elle a repéré la première.

«Tout cela se mélange», dit-elle.

En tant que streameuse, Gibi a longtemps été confrontée à de nombreux harcèlements, à commencer par des messages texte sexualisés et des photos de bite plus qu’occasionnelles. Les deepfakes, a-t-elle déclaré, ont été progressivement ajoutés au mélange à mesure que la technologie évoluait.

Au début, dit-elle, les contrefaçons n’étaient pas si sophistiquées, mais la qualité a rapidement évolué et « a commencé à paraître de plus en plus réelle ».

Mais même les vidéos manifestement truquées parviennent toujours à tromper certains. Gibi dit qu’elle a été étonnée lorsqu’elle a entendu des gens qu’elle connaissait tomber sous le charme des premières images d’elle grossières et rassemblées à la hâte. Dans certains cas, la streameuse dit avoir entendu des annonceurs rompre complètement leurs liens avec d’autres créateurs parce qu’ils pensaient qu’ils se livraient à de la pornographie alors que ce n’était pas le cas.

« Elle disait : ‘Ce n’est pas moi' », a déclaré Gibi à propos de son amie qui a perdu le soutien des annonceurs à cause d’un deepfake.

Gibi dit que ses interactions avec Taylor l’ont en partie inspirée à publier une vidéo YouTube intitulée « S’exprimer contre les contrefaçons profondes » dans laquelle elle a parlé de ses expériences en tant que destinataire des médias manipulés générés par l’IA. La vidéo, publiée l’année dernière, a depuis attiré près d’un demi-million de vues.

« En parler signifiait simplement que cela attirerait davantage d’attention et lui donnerait une audience plus large », a déclaré Gibi. «Je savais que ma force résidait davantage dans la sphère publique, en publiant en ligne, en parlant de sujets difficiles et en étant honnête, c’était beaucoup de travail.»

Lorsque Gibi a décidé de parler ouvertement du problème, elle a déclaré qu’elle avait d’abord évité de lire les commentaires, ne sachant pas comment les gens réagiraient. Heureusement, les réponses ont été extrêmement positives. Elle espère désormais que son implication dans le documentaire pourra attirer encore plus d’attention sur des solutions législatives potentielles pour prévenir ou punir les deepfakes sexuels, une question qui est passée au second plan par rapport à la législation politique sur les deepfakes ces derniers mois. S’adressant à Gizmodo, Gibi s’est dite optimiste quant au regain d’intérêt du public pour les deepfakes, mais a exprimé une certaine contrariété face au fait que les projecteurs ne sont arrivés qu’après que le problème a commencé à toucher des domaines davantage dominés par les hommes.

« Les hommes sont à la fois les délinquants et les consommateurs, mais aussi les personnes auxquelles nous pensons devoir faire appel pour changer quoi que ce soit », a déclaré Gibi. « C’est donc frustrant. »

Ces frustrations ont été reprises par le fondateur d’EndTAB, Adam Dodge, qui fait également plusieurs apparitions dans Un autre corps. Avocat travaillant dans le domaine de la violence sexiste depuis 15 ans, Dodge a déclaré avoir fondé EndTab afin de responsabiliser les prestataires de services aux victimes et d’éduquer les dirigeants sur les menaces posées par la technologie utilisée pour commettre du harcèlement. Taylor, l’étudiante présentée dans le film, a demandé conseil à Dodge après avoir découvert ses propres deepfakes.

S’adressant à Gizmodo, Dodge a déclaré qu’il était important de reconnaître que le harcèlement en ligne n’était pas vraiment nouveau. L’IA et d’autres technologies émergentes ne font qu’amplifier un problème passionnant.

« Les gens utilisent depuis longtemps des images nues de victimes pour les harceler, exercer un pouvoir et un contrôle sur elles ou les humilier », a déclaré Dodge. « C’est juste une nouvelle façon pour les gens de le faire. »

Les deepfakes ont modifié l’équation, note Dodge, d’une manière cruciale. Les victimes n’ont plus besoin d’avoir des images intimes d’elles-mêmes en ligne pour être ciblées. Il suffit d’avoir des photos accessibles au public sur Instagram ou sur le site Web d’une université.

« Nous sommes tous des victimes potentielles maintenant parce que tout ce dont ils ont besoin, c’est d’une photo de notre visage », a déclaré Dodge.

Même si son organisation est principalement destinée à des fins de formation, Dodge affirme que les victimes le solliciteraient pour obtenir de l’aide, car il était l’une des rares personnes à tenter de sensibiliser le plus tôt possible aux méfaits. C’est comme ça qu’il a rencontré Taylor.

S’adressant à Gizmodo, Dodge a exprimé des frustrations similaires face à la portée de certaines législations émergentes sur les deepfakes. Même si l’écrasante majorité des deepfakes publiés en ligne impliquent de la pornographie non consensuelle de femmes, Dodge estime qu’environ la moitié des projets de loi qu’il a vus se concentrent plutôt sur l’intégrité électorale.

« Je pense que c’est parce que la violence contre les femmes est un problème auquel on n’accorde jamais l’attention voulue, qui est constamment subvertie au profit d’autres récits, et que les législateurs et les politiciens se sont concentrés sur la désinformation profonde qui ciblerait la sphère politique parce que c’est un problème qui affecte eux personnellement », a-t-il déclaré. « En réalité, nous parlons d’une question de privilège. »

Les deepfakes consomment Internet

Les deepfakes sexuels prolifèrent à un rythme stupéfiant. Un chercheur indépendant parler avec Wired cette semaine, on estime que quelque 244 625 vidéos ont été téléchargées sur les 35 meilleurs sites Web pornographiques deepfake au cours des sept dernières années. Près de la moitié (113 000) de ces vidéos ont été mises en ligne au cours des neuf premiers mois de cette année. En insistant sur le fait, le chercheur estime que davantage de vidéos deepfakes seront mises en ligne d’ici la fin de 2023 que toutes les autres années combinées. Cela n’inclut même pas les autres deepfakes qui peuvent exister sur les réseaux sociaux ou dans les collections personnelles d’un créateur.

« Il y a eu une croissance significative de la disponibilité d’outils d’IA pour créer des images pornographiques non consensuelles et une augmentation de la demande pour ce type de contenu sur les plateformes pornographiques et les réseaux en ligne illicites », a déclaré Asher Flynn, professeur agrégé de l’Université Monash, dans une interview avec Wired. . « Cela ne fera probablement qu’augmenter avec les nouveaux outils d’IA générative. »

Aussi décourageant que tout cela puisse paraître, les législateurs travaillent activement pour trouver des solutions potentielles. Une demi-douzaine d’États ont déjà adopté une loi criminaliser la création et le partage de deepfakes sexualisés sans le consentement d’un individu. À New York, une loi récemment votée rend illégale la diffusion ou la circulation d’images sexuellement explicites d’une personne générées par l’intelligence artificielle prend effet en décembre. Les contrevenants à la loi risquent jusqu’à un an de prison.

« Mon projet de loi envoie un message fort selon lequel New York ne tolérera pas cette forme d’abus », a déclaré la sénatrice de l’État Michelle Hinchey, l’auteur du projet de loi. récemment dit Hudson Valley One, « Les victimes auront légitimement droit à leur procès. »

Ailleurs, les législateurs au niveau fédéral sont faire pression sur les entreprises d’IA pour créer des filigranes numériques qui divulgueront clairement au public lorsque les médias ont été modifiés à l’aide de leurs programmes. Certaines grandes entreprises impliquées dans la course à l’IA, comme OpenAI, Microsoft et Google, ont volontairement accepté travailler à un système de filigrane clair. Pourtant, Dodge affirme que les efforts de détection et le filigrane ne répondent qu’à un certain nombre de choses. Les deepfakes pornographiques, note-t-il, sont extrêmement nocifs et créent un traumatisme durable même lorsque tout le monde sait qu’ils sont faux.

Même si les deepfakes non consensuels sont sur le point de monter en flèche dans un avenir proche, Dodge reste d’un optimisme choquant et rassurant. Les législateurs, dit-il, semblent disposés à tirer les leçons de leurs erreurs passées.

« Je pense toujours que nous sommes très tôt et que nous voyons cela devenir légiféré. Nous voyons des gens en parler », a déclaré Dodge. « Contrairement aux médias sociaux qui existent depuis une décennie et (les législateurs) n’en font pas vraiment assez pour protéger les gens contre le harcèlement et les abus sur leur plateforme, il s’agit d’un domaine dans lequel les gens sont plutôt intéressés à aborder ce problème sur toutes les plateformes et que ce soit l’application de la loi législative, la technologie dans la société en général.