La Chine établit la norme pour la réglementation Deepfake

Dans une année marquée par apparemment hebdomadaire avances dans les capacités d’IA, les autorités gouvernementales et les législateurs du monde entier ont du mal à suivre. À partir du mois prochain, cependant, les régulateurs chinois mettront en place de nouvelles règles restreignant l’un des aspects les plus nerveux de l’IA.cas d’utilisation du racking : deepfakes.

Le 10 janvier, selon Le South China Morning Post, l’administration chinoise du cyberespace, mettra en œuvre de nouvelles règles destinées à protéger les personnes contre l’usurpation numérique de leur voix ou de leur image sans leur consentement. Les régulateurs désignent les plates-formes et les services utilisant la technologie pour éditer la voix ou l’image d’une personne comme des « fournisseurs de synthèse profonde ».

Ces technologies de synthèse profonde pourraient inclure l’utilisation d’algorithmes d’apprentissage en profondeur et de réalité augmentée pour générer du texte, de l’audio, des images ou de la vidéo. Nous avons déjà vu de nombreux cas au cours des années où ces technologies ont été utilisées pour se faire passer pour des personnalités de premier plan, allant de célébrités et cadres techniques à personnalités politiques.

Selon les nouvelles directives, les entreprises et les technologues qui utilisent la technologie doivent d’abord contacter et recevoir le consentement des individus avant de modifier leur voix ou leur image. Les règles, officiellement appelées Dispositions administratives sur la synthèse approfondie pour les services d’information sur Internet, répondent aux préoccupations gouvernementales selon lesquelles les progrès de la technologie de l’IA pourraient être utilisés par de mauvais acteurs pour exécuter des escroqueries ou diffamer des personnes en usurpant leur identité. En présentant les lignes directrices, les régulateurs reconnaissent également les domaines où ces technologies pourraient s’avérer utiles. Plutôt que d’imposer une interdiction de gros, le régulateur affirme qu’il favoriserait en fait l’utilisation légale de la technologie et « fournirait une protection juridique puissante pour assurer et faciliter » son développement.

Mais, comme beaucoup de politiques technologiques proposées par la Chine, les considérations politiques sont indissociables. Selon le South China Morning Post, les reportages republiés à l’aide de la technologie doivent provenir d’une liste de médias approuvée par le gouvernement. De même, les règles exigent que tous les soi-disant fournisseurs de synthèse profonde respectent les lois locales et maintiennent «une direction politique correcte et une orientation correcte de l’opinion publique». Correct ici, bien sûr, est déterminé unilatéralement par l’État.

Bien que certains États américains aiment New Jersey et Illinois ont introduit une législation locale sur la confidentialité qui traite des deepfakes, le manque de toute loi fédérale significative sur la protection de la vie privée limite la capacité des régulateurs à traiter la technologie au niveau national. Dans le secteur privé, les grandes plateformes américaines comme Facebook et Twitter ont établi de nouveaux systèmes destinés à détecter et à signaler les deepfakes, bien qu’ils essaient constamment de garder une longueur d’avance sur les mauvais acteurs qui cherchent continuellement des moyens d’échapper à ces filtres.

Si les nouvelles règles chinoises réussissent, elles pourraient établir un cadre politique sur lequel d’autres nations pourraient s’appuyer et s’adapter. Ce ne serait pas la première fois que la Chine mènerait le peloton sur une réforme technologique stricte. L’année dernière, la Chine a introduit de nouvelles lois radicales sur la confidentialité des données qui ont radicalement limité les moyens par lesquels les entreprises privées pouvaient collecter l’identité personnelle d’un individu. Ces règles ont été élaborées à partir des règles européennes Règlement général sur la protection des données et a porté le volume à 11. À l’instar de la nouvelle réglementation sur les synthèses approfondies ou le deepfake, les règles de confidentialité de l’année dernière exigeaient spécifiquement que les entreprises obtiennent le consentement avant de collecter des données personnelles. Pour les données sensibles telles que les empreintes digitales d’une personne ou les détails financiers, les fournisseurs sont tenus d’obtenir à nouveau le consentement.

Tout cela semble bien, mais les lois chinoises sur la protection de la vie privée contiennent une faille flagrante. Bien que la loi protège les personnes contre les entreprises privées qui se nourrissent de leurs données, elle ne fait presque rien pour empêcher que ces mêmes dommages soient commis par le gouvernement. De même, avec les deepfakes, c’ests on ne sait pas comment le nouveau règlement proposé interdirait, par exemple, un état-diriger une agence de falsification ou de manipulation de certains textes ou audio pour influencer le récit autour d’événements politiques controversés ou sensibles.