Les Deepfakes en temps de guerre brouillent vraiment la réalité, selon une étude

Le 14 mars, environ un mois après que les troupes russes ont envahi l’ouest de l’Ukraine pour entamer une bataille sanglante qui dure depuis un an, le président ukrainien Vladimir Zelensky est apparu sur une chaîne de télévision ukrainienne et a annoncé sa capitulation sans condition. Le président, vêtu de sa désormais emblématique chemise à manches longues verte militaire, a semblé regarder fixement une caméra et affirmer que l’armée ukrainienne « capitulait » et « rendrait les armes ».

Une autre brève vidéo est apparue sur les sites de médias sociaux à peu près au même moment, montrant le fleuron de Zelensky, le président russe Vladimir Poutine, prononçant de la même manière un accord de paix.

« Nous avons réussi à parvenir à la paix avec l’Ukraine », semble dire Poutine assis derrière un bureau en bois.

Les vidéos de Zelensky et de Poutine ont été partagées des dizaines de milliers de fois sur divers sites de réseaux sociaux. Il s’agissait également de fabrications complètes, matérialisées dans le monde à l’aide de technologie de contrefaçon profonde alimenté par des modèles d’intelligence artificielle d’apprentissage profond. Ce sont parmi les exemples les plus clairs à ce jour d’une réalité autrefois théorique : les vidéos Deepfake utilisées comme armes pendant la guerre.

Quiconque possédant ne serait-ce qu’un minimum de formation à la détection de médias modifiés numériquement pourrait probablement sentir quelque chose d’anormal à propos des deux vidéos de reddition. Les deux clips présentaient des gestes faciaux étranges, un éclairage et des ombres non naturels, chacun révélateur d’une manipulation de l’IA.

Mais même si les deux vidéos ont été rapidement démystifiées, leur prolifération rapide en ligne a conduit à une avalanche de commentaires et d’articles de presse mettant en garde contre le danger réel que des vidéos modifiées soient utilisées pour semer la confusion et diviser le public en temps de guerre. De nouvelles recherches suggèrent que cette augmentation des deepfakes et l’anxiété liée à leur distribution pourraient contribuer à un problème encore plus difficile à résoudre : les gens ignorent rapidement les médias légitimes comme étant des deepfakes. Cela conduit à son tour à une érosion encore plus grande de la confiance dans ce qui est réel en ligne.

Telles sont quelques-unes des découvertes observées par des chercheurs de l’University College Cork dans le cadre d’une étude récente publiée dans la revue PLOS ONE. Les chercheurs ont sélectionné près de 5 000 tweets publiés au cours des sept premiers mois de 2022 dans le but d’analyser le rôle que les deepfakes peuvent jouer dans la désinformation et la propagande en temps de guerre. Il s’agit de la première étude de ce type à analyser empiriquement l’effet des deepfakes en temps de guerre.

Bien que l’étude révèle de nombreuses images et vidéos médiatiques manipulées par l’IA, une partie choquante des tweets censés discuter de deepfakes impliquait en réalité des utilisateurs qualifiant à tort des images et des vidéos réelles et légitimes de altérées numériquement. Ces découvertes, les premières en leur genre, ajoutent de nouvelles preuves pour renforcer les craintes des anciens chercheurs sur les deepfakes, qui craignent que la qualité croissante et la prolifération des vidéos deepfakes en ligne ne conduisent à un scénario insidieux dans lequel les mauvais acteurs peuvent simplement prétendre qu’une vidéo était un « deepfake » afin de la rejeter.

« Ce que nous avons découvert, c’est que les gens l’utilisaient (le terme deepfake) comme mot à la mode pour attaquer les gens en ligne », a déclaré à Gizmodo John Twomey, chercheur à l’UCC School of Applied Psychology et co-auteur de l’étude. Les deepfakes, comme le terme « bot » ou « fausses nouvelles », sont utilisés comme armes contre les médias ou les informations avec lesquelles les utilisateurs ne sont tout simplement pas d’accord.

« Elle (l’étude) met en évidence la façon dont les gens utilisent l’idée des deepfakes et deviennent hyper sceptiques, à bien des égards, à l’égard des médias réels, en particulier lorsque les deepfakes ne sont pas aussi répandus qu’ils le sont », a-t-il ajouté. « De plus en plus de gens sont conscients des deepfakes, alors qu’ils sont réellement répandus.

Une grande partie de cette inadéquation provient de la couverture excessive de la question par les médias. Ironiquement, les reportages bien intentionnés de la part de journalistes mettant en garde contre les dangers des deepfakes peuvent involontairement contribuer à une détérioration de la confiance dans les médias en général.

« Nous devons nous demander si l’accent mis par l’actualité sur les deepfakes est disproportionné par rapport à la menace à laquelle nous sommes actuellement confrontés et si cette réponse crée davantage de méfiance et contribue à une crise épistémique », ont écrit les chercheurs.

Qu’a révélé l’étude ?

L’étude, justement intitulée «Les vidéos Deepfake sapent-elles notre confiance épistémique? » a cherché à analyser la manière dont les discussions sur les deepfakes en temps de guerre pourraient dégrader la connaissance publique et la vérité partagée. À l’aide de l’API de Twitter, le chercheur a extrait 4 869 tweets pertinents traitant des deepfakes entre le 1er janvier 2022 et le 1er août de la même année. Twomey dit que les chercheurs ont décidé de se concentrer sur Twitter car il a tendance à se concentrer davantage sur le journalisme et l’activisme politique que sur d’autres plateformes de médias sociaux où les deepfakes ou les discussions à leur sujet peuvent proliférer.

Le chercheur a constaté une augmentation du contenu lié aux deepfakes sur Twitter dans les semaines qui ont précédé l’invasion russe, avec des sites d’information et des commentateurs spéculant sur la question de savoir si Poutine utiliserait ou non des médias altérés dans le cadre d’une ruse pour justifier une action militaire. Le plus grand nombre de tweets liés aux deepfakes est apparu entre le 14 et le 16 mars, juste au moment où les vidéos de Zelensky et de Poutine commençaient à attirer l’attention. Bien que de nombreux utilisateurs de Twitter ayant répondu au tweet de Zelensky aient critiqué la qualité du deepfake, d’autres l’ont décrit avec crainte comme une nouvelle arme de guerre potentielle.

« Vous penseriez que les deepfakes sont inoffensifs si vous n’aviez vu que des vidéos idiotes de Keanu Reeves deepfake », lit-on dans l’un des tweets. « Malheureusement, les deepfakes peuvent constituer un nouveau type de propagande vicieux », a tweeté un utilisateur. « Nous l’avons vu aujourd’hui avec les deepfakes des dirigeants russes et ukrainiens. »

Le deepfake de Zelensky était particulièrement préoccupant car il provenait d’une source d’information par ailleurs réputée, Ukrainien 24. La chaîne d’information réclamations le deepfake, apparu sur l’une de leurs webdiffusions, était le résultat d’un piratage malveillant qu’ils attribuaient au gouvernement russe. La Russie n’a jamais revendiqué le mérite du prétendu piratage. Zelensky lui-même rapidement a posté une vidéo de suivi perturber le deepfake, mais seulement après qu’il ait attiré l’attention sur les réseaux sociaux. Si la qualité de cette vidéo était améliorée grâce aux progrès de des modèles d’IA générative en évolution rapide, cela aurait pu faire bien plus de dégâts.

« L’indicateur habituel de véracité et de fiabilité des informations en ligne, la source de la vidéo, a été miné par le piratage », ont écrit les chercheurs. « Si la vidéo avait été plus réaliste et plus largement acceptée, elle aurait pu avoir un impact plus néfaste. »

La « défense deepfake » prend de l’ampleur

Les mauvais acteurs et les menteurs utilisent déjà ce qu’on appelle les « défenses deepfake » pour essayer de se dégager de la responsabilité. Les avocats représentant un émeutier impliqué dans les attentats du 6 janvier contre le Capitole avaient déjà tenté de convaincre un jury que séquences vidéo présenté au procès montrant clairement que leur client sautait une barricade avec une arme dans un étui était en fait un deepfake. Il a finalement été reconnu coupable et condamné à sept ans de prison.

Dans une autre affaire récente, un avocat représentant Elon Musk a tenté d’évoquer la défense du deepfake pour jeter le doute sur une interview légitime et largement médiatisée du milliardaire en 2016, dans laquelle il affirmait que ses véhicules pouvaient conduire de manière autonome « ​​avec une plus grande sécurité qu’une personne ». Le juge dans cette affaire a dénoncé les manœuvres de l’avocat, qu’elle a qualifié d’obscurcissement « profondément troublant » qui pourrait causer des dommages durables au système juridique. Gizmodo a récemment raconté la saga du «deepfake bravo maman» qui s’est retrouvée victime d’un assaut médiatique mondial après qu’une adolescente l’ait faussement accusée d’avoir manipulé une vidéo censée la montrer en train de vapoter. La vidéo était réelle.

Toutes ces affaires, réussies ou non, tentent d’utiliser les inquiétudes du public concernant l’omniprésence des deepfakes pour semer le doute sur la réalité. Ce phénomène, que les universitaires qualifient de « dividende du menteur », pourrait avoir des conséquences désastreuses en temps de guerre.

Des variantes des versions de guerre du dividende de l’antre se jouent actuellement en temps réel à Gaza, où des histoires rapides censées démystifier les images et les vidéos comme étant des deepfakes ne résistent pas à un examen minutieux. Dans l’un des exemples les plus médiatisés, des commentateurs ont affirmé qu’une image représentant soi-disant un bébé israélien brûlé était le produit de la propagande générée par l’IA après avoir été qualifiée d’inauthentique par un individu. détecteur d’images IA génératif. Des analyses plus poussées de l’image ont cependant montré qu’il s’agissait presque certainement authentique. Les commentateurs pro-israéliens ont tenté de discréditer les médias légitimes publiés par des militants pro-Palestinina en prétendant qu’il s’agissait de contrefaçons.

Twomey ne spécule pas sur ce que ses conclusions sur le conflit russo-ukrainien pourraient suggérer à propos de la tempête d’informations actuelle, mais il a déclaré que ses recherches prouvent que les deepfakes, et leurs dénégations, peuvent être utilisés pour semer la confusion en temps de guerre.

« Les éléments de cette étude montrent que les efforts de sensibilisation aux deepfakes peuvent miner notre confiance dans les vidéos légitimes », a en effet déclaré Twomey. « Avec la prévalence des deepfakes en ligne, cela posera des défis croissants aux sociétés de médias d’information qui doivent faire attention à la façon dont elles étiquetent les deepfakes suspectés au cas où ils susciteraient des soupçons autour des médias réels. »