L’année à venir en matière de responsabilité autonome

Nikki Main couvre les dernières nouvelles pour Gizmodo. Vous pouvez suivre sa couverture iciet envoyez par e-mail des idées d’articles et des conseils à [email protected].

L’histoire du haut :

Il est probable que vous soyez devenu insensible à la fréquence à laquelle vous interagissez avec la technologie. Et si la technologie faisait plus de mal que de bien ? Alors qu’un nombre croissant d’entreprises s’appuient sur l’intelligence artificielle pour alimenter leur technologie, nous constatons de plus en plus de cas de dysfonctionnement dangereux de l’IA, comme des accidents de voiture avec pilote automatique ou des robots de modération de contenu faisant la promotion de publications nuisibles sur les réseaux sociaux. Ces conflits commenceront à se manifester dans le système juridique en 2023, aidant à définir le rôle de l’IA dans notre société à l’avenir.

Ce qu’on attend :

• PLes programmeurs ont déposé un recours collectif contre Microsoft et plusieurs de ses filiales en décembre pour avoir utilisé un logiciel généré par l’IA emprunté à code existant sur Internet sans créditer le créateur. Selon le procès, Microsoft filiale Copilot, propriétaire du logiciel généré par l’IA, « ignore, viole et supprime les licences offertes par des milliers, voire des millions, de développeurs de logiciels, réalisant ainsi un piratage de logiciels à une échelle sans précédent ». La date du procès n’a pas encore été fixée, mais l’affaire risque d’être marquante et d’aider à déterminer les limites de Apprentissage de l’IA.
• Une IA agit en tant qu’assistant juridique dans une affaire judiciaire à venir pour un excès de vitesse. Le robot parlera au défendeur via un écouteur pour lui indiquer quoi dire tout au long de l’affaire. Le bot AI a été développé par la startup DoNotPay basée à San Francisco, qui dit que si le processus d’IA ne fonctionne pas, il couvrira toutes les amendes potentielles. L’entreprise n’a pas révélé le lieu de l’affaire ou le nom du défendeur pour des raisons de confidentialité.

Sagesse non conventionnelle :

Langdon Winner, l’auteur du livre Technologie autonome, décrit la «chaîne de dépendance réciproque» – le fait que malgré les disparités d’autonomie entre les humains et la technologie, notre dépendance à l’égard de celle-ci continuera de croître malgré les expériences détaillant les conséquences néfastes et souvent irréversibles.

Winner dit que la mise en œuvre de cette technologie a « confondu à plusieurs reprises notre vision, nos attentes et notre capacité à porter des jugements intelligents », ce qui signifie que nos choix et nos arguments ont changé et que les « modèles de pensée perceptive qui étaient entièrement fiables dans le passé maintenant nous égarer systématiquement.

En d’autres termes : l’autonomie obscurcit notre jugement, nous rend plus faibles, pas plus forts.

Personnes à suivre :

• Gagnant de Langdon – Titulaire de la chaire des sciences humaines et sociales au Département d’études scientifiques et technologiques de l’Institut polytechnique de Rensselaer, et auteur de Technologie autonome.
• Madeleine Clark Elish – Chercheur sur l’influence de l’Intelligence Artificielle.
• PJ Rey – A écrit un Cyborgologie essai qui révèle que les gens accordent une grande confiance à la technologie, abandonnant le contrôle et plaçant l’autonomie sur l’appareil lui-même.

Entreprises à surveiller :

• Tesla – Le constructeur automobile électrique a lancé ce qu’il appelle des « véhicules entièrement autonomes » le mois dernier, même si les anciens programmes d’assistance à la conduite ont eu des conséquences désastreuses.
• Microsoft – Après que Redmond ait publié un algorithme capable d’écrire du code de site Web, les développeurs ont intenté un recours collectif car il n’attribuait pas de crédit à ceux qui avaient initialement développé le code. L’affaire est au premier plan de la question de savoir comment les outils d’IA devraient créditer ce qu’ils font (et copient).
• Facebook, Instagram, Twitter et TikTok – Les parents poursuivent les médias sociaux pour ses algorithmes qui poussent les jeunes utilisateurs à voir du contenu préjudiciable.

Un pari de longue haleine :

Les consommateurs sont devenus si dépendants de la technologie que malgré tous les avertissements qui pourraient survenir, ils continueront à l’utiliser, à y dépenser de l’argent et même à y investir, car le résultat ne peut pas être mauvais, et ceux qui investissent dans les développements technologiques continueront continuer à le faire, comme si rien n’avait changé.