À la une cette semaine
- Les autocollants générés par l’IA de Meta, lancés la semaine dernière, sont ça cause déjà le chaos. Les utilisateurs ont rapidement compris qu’ils pouvaient les utiliser pour créer des images obscènes, comme Elon Musk avec des seins, des enfants soldats et des versions sanguinaires de personnages de Disney. Idem pour la fonctionnalité de génération d’images de Microsoft Bing, qui a déclenché une tendance selon laquelle les utilisateurs créent des images de célébrités et de personnages de jeux vidéo commettre les attentats du 11 septembre.
- Une autre personne a été blessée par un robotaxi Cruise à San Francisco. La victime a d’abord été heurtée par une voiture conduite par un humain, mais a ensuite été écrasé par le véhicule automatisé, qui s’arrêta sur elle et refusa de bouger malgré ses cris. On dirait que c’est tout « améliorer la sécurité routière » Ce que les constructeurs de voitures autonomes ont fait dans leur déclaration de mission ne se concrétise pas encore vraiment.
- Dernier point mais non le moindre : un nouveau rapport montre que l’IA est déjà utilisée comme arme par les gouvernements autocratiques du monde entier. Maison de la liberté a révélé que les dirigeants profitent des nouveaux outils d’IA pour réprimer la dissidence et diffuser la désinformation en ligne. Nous avons interviewé l’un des chercheurs liés au rapport pour l’entretien de cette semaine.
L’histoire à la une : le coup créatif de l’IA
Même si les promoteurs de l’industrie de l’IA générative répugnent à l’admettre, leurs produits ne sont ni particulièrement génératifs, ni particulièrement intelligents. Au lieu de cela, le contenu automatisé que des plateformes comme ChatGPT et DALL-E rejettent avec une vigueur intense pourrait plus précisément être qualifié de slop dérivé – la régurgitation d’une purée algorithmique de milliers d’œuvres créatives réelles créées par des artistes et des auteurs humains. En bref : « l’art » de l’IA n’est pas de l’art : c’est juste un produit commercial ennuyeux produit par un logiciel et conçu pour une intégration facile en entreprise. Une commission fédérale du commerce audienceorganisé virtuellement via une webdiffusion en direct, a clairement montré ce fait.
L’audience de cette semaine, intitulée « Économie créative et IA générative », a été conçue pour permettre aux représentants de diverses vocations créatives d’exprimer leurs préoccupations concernant les récentes perturbations technologiques qui ont balayé leurs industries. De toutes parts, un appel retentissant a été lancé en faveur d’une réglementation efficace pour protéger les travailleurs.
Ce désir de Cette action a probablement été mieux illustrée par Douglas Preston, l’un des dizaines d’auteurs actuellement répertoriés comme plaignants dans un recours collectif contre OpenAI en raison de l’entreprise utilise leur matériel pour entraîner ses algorithmes. Lors de ses propos, Preston a noté que « ChatGPT serait nul et inutile sans nos livres » et a ajouté : « Imaginez ce que ce serait s’il n’était formé qu’à partir de textes extraits de blogs Web, d’opinions, d’histoires de chats, de pornographie, etc. » Il a finalement déclaré : « C’est l’œuvre de notre vie, nous versons notre cœur et notre âme dans nos livres. »
Le problème pour les artistes semble joli clair : comment vont-ils vont survivre dans un marché où les grandes entreprises sont capables d’utiliser l’IA pour les remplacer ou, plus précisément, réduire leurs opportunités et leur pouvoir de négociation en automatisant une grande partie des services créatifs?
Le problème pour les sociétés d’IA, quant à elles, est qu’il existe des questions juridiques non résolues en ce qui concerne les innombrables octets de travaux exclusifs que des sociétés comme OpenAI ont utilisés pour former leurs algorithmes de remplacement d’artistes/auteurs/musiciens. ChatGPT ne serait pas capable de générer des poèmes et des nouvelles en un seul clic, et DALL-E n’aurait pas non plus la capacité de déployer ses images bizarres si la société derrière eux n’avait pas englouti des dizaines de milliers de pages d’auteurs publiés et de visuels. artistes. L’avenir de l’industrie de l’IA – et en réalité l’avenir de la créativité humaine – sera donc décidé par un débat en cours qui se déroule actuellement au sein du système judiciaire américain.
L’interview: Allie Funk explique comment l’IA est transformée en arme par les autocraties
Cette semaine, nous avons eu le plaisir de parler avec Allie Funk, directrice de recherche pour la technologie et la démocratie à Freedom House. Freedom House, qui suit les questions liées aux libertés civiles et aux droits de l’homme dans le monde entier, a récemment publié son rapport annuel sur l’état de la liberté sur Internet. Cette année rapport s’est concentré sur la manière dont les outils d’IA nouvellement développés renforcent les approches des gouvernements autocratiques en matière de censure, de désinformation et de suppression globale des libertés numériques. Comme on pouvait s’y attendre, les choses ne vont pas particulièrement bien dans ce département. Cette interview a été légèrement modifiée pour plus de clarté et de concision.
L’un des points clés dont vous parlez dans le rapport est la manière dont l’IA contribue à la censure gouvernementale. Pouvez-vous nous présenter un peu ces résultats ?
Ce que nous avons découvert, c’est que l’intelligence artificielle permet réellement aux gouvernements de faire évoluer leur approche en matière de censure. Le gouvernement chinois, en particulier, a tenté de réglementer les chatbots pour renforcer leur contrôle sur l’information. Ils le font par deux méthodes différentes. La première est qu’ils essaient de s’assurer que les citoyens chinois n’aient pas accès aux chatbots créés par des entreprises basées aux États-Unis. Ils obligent les entreprises technologiques chinoises à ne pas intégrer ChatGPT dans leurs produits… ils’ Nous travaillons également à créer leurs propres chatbots afin qu’ils puissent intégrer des contrôles de censure dans les données de formation de leurs propres robots. Les réglementations gouvernementales exigent que les données de formation d’Ernie, le chatbot de Baidu, soient conformes à ce que veut le PCC (Parti communautaire chinois) et aux éléments essentiels de la propagande socialiste. Si vous jouez avec, vous pouvez voir cela. Il refuse de répondre aux questions concernant le massacre de la place Tiananmen.
La désinformation est un autre domaine dont vous parlez. Expliquez un peu ce que l’IA fait à cet espace.
Nous rédigeons ces rapports depuis des années et, ce qui est clair, c’est que les campagnes gouvernementales de désinformation ne sont qu’une caractéristique régulière de l’espace d’information de nos jours. Dans le rapport de cette année, nous avons constaté que sur les 70 pays, au moins 47 gouvernements ont déployé des commentateurs qui ont eu recours à des tactiques trompeuses ou secrètes pour tenter de manipuler les discussions en ligne. Ces réseaux (de désinformation) existent depuis longtemps. Dans de nombreux pays, ils sont assez sophistiqués. Tout un marché de services à louer est apparu pour soutenir ce type de campagnes. Vous pouvez donc simplement embaucher un influenceur des médias sociaux ou un autre agent similaire pour travailler pour vous et il existe de nombreuses sociétés de relations publiques louches qui effectuent ce genre de travail pour les gouvernements.
Je pense qu’il est important de reconnaître que l’intelligence artificielle fait partie de tout ce processus de désinformation depuis longtemps. Vous disposez d’algorithmes de plateforme qui sont utilisés depuis longtemps pour diffuser des informations incendiaires ou peu fiables. Vous disposez de robots qui sont utilisés sur les réseaux sociaux pour faciliter la diffusion de ces campagnes. L’utilisation de l’IA à des fins de désinformation n’est donc pas nouvelle. Mais nous attendons de l’IA générative qu’elle abaisse la barrière à l’entrée du marché de la désinformation, car elle est très abordable, facile à utiliser et accessible. Lorsque nous parlons de cet espace, nous ne parlons pas seulement de chatbots, nous parlons également d’outils capables de générer des images, des vidéos et de l’audio.
Selon vous, quel type de solutions réglementaires faut-il envisager pour réduire les dommages que l’IA peut causer en ligne ?
Nous pensons que de nombreuses leçons tirées des débats de la dernière décennie autour de la politique Internet peuvent être appliquées à l’IA. Un grand nombre des recommandations que nous avons déjà faites concernant la liberté sur Internet pourraient être utiles pour lutter contre l’IA. Ainsi, par exemple, il pourrait être très utile que les gouvernements obligent le secteur privé à être plus transparent sur la manière dont leurs produits sont conçus et sur leur impact sur les droits de l’homme. Entre-temps, la transmission des données de la plateforme à des chercheurs indépendants est une autre recommandation essentielle que nous avons formulée ; des chercheurs indépendants peuvent étudier quel est l’impact des plateformes sur les populations, quel impact elles ont sur les droits humains. L’autre chose que je recommanderais vraiment est de renforcer la réglementation sur la protection de la vie privée et de réformer les règles de surveillance problématiques. Une chose que nous avons examinée précédemment concerne les réglementations visant à garantir que les gouvernements ne peuvent pas utiliser à mauvais escient les outils de surveillance de l’IA.
Rattrapez tout L’actualité de l’IA de Gizmodo iciou voir toutes les dernières nouvelles ici. Pour les mises à jour quotidiennes, abonnez-vous à la newsletter gratuite Gizmodo.