Une agence fédérale fait pression pour interdire les appels automatisés générés par l'IA après que des criminels ont tenté de perturber la primaire démocrate du New Hampshire avec un faux appel téléphonique du président Biden. L'appel téléphonique de notre président en exercice a demandé aux électeurs de rester chez eux le week-end dernier dans le cadre d'une tentative « illégale » de suppression des électeurs, selon le ministère de l'État. procureur général.
« Le clonage de voix et d'images générés par l'IA sème déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes », a déclaré la présidente de la Commission fédérale des communications, Jessica Rosenworcel, dans un communiqué. communiqué de presse. « C'est pourquoi la FCC prend des mesures pour reconnaître cette technologie émergente comme illégale en vertu de la loi en vigueur. »
À peine un mois après le début de 2024, les deepfakes de l’IA déchirent déjà l’Amérique. Premièrement, l’IA a été utilisée pour se faire passer pour le président Biden dans le New Hampshire. Ensuite, Taylor Swift aurait été furieuse après Deepfakes sexuellement explicites d'elle générés par l'IA est devenu viral sur X. Maintenant, la FCC fait son premier pas dans la lutte contre le problème. Alors que appels automatisés Autrefois composée de télévendeurs anonymes, l'IA trompe les gens en leur faisant croire que leurs amis, leurs proches et les représentants du gouvernement les appellent. Les Américains reçoivent environ 2,1 milliards d'appels indésirables chaque moisselon Truecaller, et un pourcentage plus élevé d’entre eux seront probablement des deepfakes à l’avenir.
Des experts en audio ont retracé le deepfake de Biden dans le New Hampshire jusqu'à la technologie de la startup d'IA ElevenLabs, rapporte Filaire. On ne sait toujours pas qui était à l’origine de cette action, et la tentative semble avoir été largement inefficace. Les électeurs de Biden se sont rendus enregistrer des numéros malgré cette tentative de suppression des électeurs.
La FCC déclare qu'elle souhaiterait rendre illégaux les appels automatisés deepfakes en vertu d'une loi existante, la loi sur la protection des consommateurs par téléphone de 1991. La loi stipule que appels vocaux artificiels ou préenregistrés ne peut pas être effectué sur les lignes téléphoniques résidentielles. Ces appels deepfakes semblent déjà relever de cette catégorie, mais la FCC est responsable du respect et de la mise en œuvre de cette loi.
La FCC affirme qu’elle fournira de nouveaux outils aux AG des États à travers le pays pour poursuivre les mauvais acteurs derrière les infâmes appels automatisés. Le bureau de la FCC n'a pas précisé quels outils seraient utilisés pour identifier les appels générés par l'IA et n'a pas immédiatement répondu aux questions de Gizmodo sur la technologie. Kamala Harris a déjà discuté de la Les efforts de la Maison Blanche pour lutter contre les appels automatisés basés sur l'IA en novembre.
À l’approche d’une élection présidentielle, la technologie des deepfakes présente une préoccupation majeure en termes de suppression des électeurs. L’appel automatisé de Biden était la première tentative, survenue lors de l’une des premières primaires présidentielles de l’élection de 2024. Cependant, ce ne sera certainement pas le dernier appel automatisé deepfake qu’un électeur recevra avant les élections de novembre.
GIPHY App Key not set. Please check settings