Google déclare la guerre au deepfake porn

Les deepfakes sexuellement explicites sont en hausse, affectant proportionnellement les femmes. La situation est devenue si grave qu'un projet de loi bipartisan visant à lutter contre la diffusion de cet acte hautement intrusif a été adopté à l'unanimité par le Sénat la semaine dernière. Pour tenter de lutter contre ce contenu préjudiciable, Google met en place une répression. Google expose sur le blog de l'entreprise ses méthodes d'attaque à deux volets pour empêcher les deepfakes d'apparaître dans les recherches.

J'imagine que si vous avez déjà été victime d'un deepfake explicite ou même d'un revenge porn, la première chose à laquelle vous pensez est de supprimer le contenu offensant. Cependant, il est notoirement difficile de faire supprimer quelque chose. Google a mis à jour le système pour demander que le contenu soit réduit. Selon Google, lorsque le contenu est supprimé avec succès, le moteur de recherche tentera de filtrer tout le contenu explicite lié au terme. Et Google supprimera tous les messages en double.

Pour qu'un message explicite soit supprimé de la recherche Google, il doit répondre aux critères suivants :

• Vous êtes clairement représenté dans les images.
• L’imagerie en question est fausse et vous représente faussement nu ou dans une situation sexuellement explicite.
• Les images ont été distribuées sans votre consentement.

Le système de classement de Google a également subi une mise à jour. La première étape consiste à créer un classement qui ne fera pas apparaître beaucoup de contenu explicite. Le moteur de recherche tentera de présenter des résultats non explicites, comme un article de presse, dans le cas de requêtes de recherche avec un taux élevé de résultats inappropriés lorsqu'un nom est interrogé. Google affirme que ses mises à jour actuelles ont réduit les entrées de port deepfake de plus de 70 % (j'aimerais bien voir les chiffres réels sur cette statistique).

Google reconnaît que déterminer si un contenu est consensuel ou non (comme une scène de nu d'un acteur par opposition à un deepfake) est un défi permanent. C'est un problème que l'entreprise déclare : « Nous apportons des améliorations continues pour mieux faire ressortir le contenu légitime et déclasser le contenu explicite faux. »

Finalement, Google a établi une liste et l'a vérifiée deux fois. Si vous recevez trop de signalements de Google sur vos résultats de recherche, notamment concernant des suppressions, votre site peut être rétrogradé. Cela signifie que si votre page comporte trop de suppressions de contenu explicite, Google déterminera quand et si votre site apparaîtra dans les recherches.

Il s’agit de petits pas dans le grand schéma des choses, mais au moins Google donne aux victimes du deepfake et du revenge porn un moyen de se défendre. Et si Google et d’autres fournisseurs d’IA peuvent adopter des règles et des réglementations pour traiter ces problèmes, nous n’aurons pas à traverser l’impasse gouvernementale pour faire avancer les choses.