Comment une voiture autonome gérerait-elle le problème du chariot ?

Que feriez-vous si vous voyiez une voiture autonome heurter une personne ?

Dans Éthique des robotsMark Coeckelbergh, professeur de philosophie des médias et de la technologie à l’Université de Vienne, pose un problème de chariot pour 2022 : la voiture doit-elle continuer sa course et tuer cinq piétons, ou dévier sa course et en tuer un ?

Dans le chapitre présenté ici, Coeckelbergh examine comment les humains ont conceptualisé les robots comme un cadre plus large et sonde comment les voitures autonomes géreraient les situations de circulation mortelles – et si c’est même une question valable.

Dans le film de science-fiction américain de 2004 Je robot, les robots humanoïdes sont au service de l’humanité. Pourtant tout ne va pas bien. Après un accident, un homme est sauvé de la voiture en train de couler par un robot, mais une fillette de douze ans n’est pas sauvée. Le robot a calculé que l’homme avait une plus grande chance de survie ; les humains ont peut-être fait un autre choix. Plus tard dans le film, des robots tentent de prendre le pouvoir sur les humains. Les robots sont contrôlés par une intelligence artificielle (IA), VIKI, qui a décidé que restreindre le comportement humain et tuer certains humains assurerait la survie de l’humanité. Le film illustre la peur que les robots humanoïdes et l’IA envahissent le monde. Cela pointe également vers d’hypothétiques dilemmes éthiques si les robots et l’IA atteignent l’intelligence générale. Mais est-ce là ce qu’est et devrait être l’éthique des robots ?

Les robots arrivent-ils, ou sont-ils déjà là ?

Habituellement, lorsque les gens pensent aux robots, la première image qui leur vient à l’esprit est celle d’un robot très intelligent, semblable à un humain. Souvent, cette image est dérivée de la science-fiction, où l’on trouve des robots qui ressemblent et se comportent plus ou moins comme des humains. De nombreux récits mettent en garde contre les robots. qui prennent le relais ; la crainte est qu’ils ne soient plus nos serviteurs mais qu’ils fassent plutôt de nous leurs esclaves. Le terme même « robot » signifie « travail forcé » en tchèque et apparaît dans la pièce de Karel Čapek RUR, mis en scène à Prague en 1921, il y a un peu plus de cent ans. La pièce s’inscrit dans une longue histoire d’histoires de machines rebelles ressemblant à des humains, de Mary Shelley Frankenstein à des films comme 2001 : L’odyssée de l’espaceTerminateur, Coureur de lameet Je robot. Dans l’imaginaire collectif, les robots sont souvent à la fois un objet de peur et de fascination. Nous avons peur qu’ils prennent le relais, mais en même temps c’est excitant de penser à créer un être artificiel qui nous ressemble. Faisant partie de notre héritage romantique, les robots sont des projections de nos rêves et de nos cauchemars sur la création d’un autre artificiel.

Premièrement, ces robots sont principalement effrayants; ce sont des monstres et d’étranges. Mais en ce début de XXIe siècle, une autre image des robots émerge en Occident : le robot comme compagnon, ami et peut-être même partenaire. L’idée est maintenant que les robots ne devraient pas être confinés aux usines industrielles ou aux planètes éloignées dans l’espace. Dans l’imaginaire contemporain, ils sont libérés de leur sale travail d’esclave et entrent dans la maison comme des partenaires sociaux agréables, serviables et parfois sexy à qui vous pouvez parler. Dans certains films, ils finissent toujours par se rebeller – pensez à Ex-Machina, par exemple, mais ils deviennent généralement ce que les concepteurs de robots appellent des « robots sociaux ». Ils sont conçus pour l’interaction « naturelle » homme-robot, c’est-à-dire l’interaction de la manière dont nous sommes habitués à interagir avec d’autres humains ou animaux de compagnie. Ils sont conçus pour ne pas être effrayants ou monstrueux, mais plutôt mignons, utiles, divertissants, drôles et séduisants.

Cela nous amène à la vraie vie. Les robots ne viennent pas ; ils sont déjà là. Mais ils ne sont pas tout à fait comme les robots que l’on rencontre dans la science-fiction. Ils ne sont pas comme le monstre de Frankenstein ou le Terminator. Ce sont des robots industriels et parfois des « robots sociaux ». Ces derniers ne sont cependant pas aussi intelligents que les humains ou leurs cousins ​​de science-fiction et n’ont souvent pas de forme humaine. Même les robots sexuels ne sont pas aussi intelligents ou capables de conversation que le robot représenté dans Ex-Machina. Malgré les développements récents de l’IA, la plupart des robots ne ressemblent en aucun cas à des humains. Cela dit, les robots sont là, et ils sont là pour rester. Ils sont plus intelligents et plus capables de fonctionner de manière autonome qu’auparavant. Et il y a plus d’applications dans le monde réel. Les robots ne sont pas seulement utilisés dans l’industrie, mais aussi dans les soins de santé, les transports et l’assistance à domicile.

Souvent, cela facilite la vie des humains. Pourtant, il y a aussi des problèmes. Certains robots peuvent être dangereux en effet, non pas parce qu’ils essaieront de vous tuer ou de vous séduire (albien que les « drones tueurs » et les robots sexuels soient également au menu de l’éthique des robots), mais généralement pour des raisons plus banales, par exemple parce qu’ils peuvent prendre votre travail, peuvent vous tromper en pensant qu’ils sont une personne et peuvent causer des accidents lorsque vous les utiliser comme taxi. De telles peurs ne relèvent pas de la science-fiction ; ils concernent le futur proche. Plus généralement, depuis l’impact des technologies nucléaires, numériques et autres sur nos vies et notre planète, il y a une prise de conscience et une reconnaissance croissantes que les technologies apportent des changements fondamentaux à nos vies, à nos sociétés et à notre environnement, et donc nous ferions mieux de penser plus, et plus critique, sur leur utilisation et leur développement. Il y a un sentiment d’urgence : nous comprenons et évaluons mieux les technologies maintenant, avant qu’il ne soit trop tard, c’est-à-dire avant qu’elles n’aient des impacts dont personne ne veut. Cet argument vaut également pour le développement et l’utilisation de la robotique : considérons les enjeux éthiques soulevés par les robots et leur utilisation au stade du développement plutôt qu’après coup.

Voitures autonomes, agence morale et responsabilité

Imaginez qu’une voiture autonome roule à grande vitesse dans une voie étroite. Les enfants jouent dans la rue. La voiture a deux options : soit elle évite les enfants et fonce dans un mur, tuant probablement le seul passager humain, soit elle continue sa route et freine, mais probablement trop tard pour sauver la vie des enfants. Que doit faire la voiture ? Que feront les voitures ? Comment programmer la voiture ?

Cette expérience de pensée est un exemple d’un soi-disant dilemme du chariot. Un chariot de piste est sur le point de conduire plus de cinq personnes attachées à une piste. Vous vous tenez près de la piste et pouvez tirer un levier qui redirige le chariot sur une autre piste, où une personne est attachée. Tirez-vous le levier? Si vous ne faites rien, cinq personnes seront tuées. Si vous tirez le levier, une personne sera tuée. Ce type de dilemme est souvent utilisé pour faire réfléchir les gens sur ce qui est perçu comme les dilemmes moraux soulevés par les voitures autonomes. L’idée est que ces données pourraient ensuite aider les machines à décider.

Par exemple, la plate-forme en ligne Moral Machine a recueilli des millions de décisions d’utilisateurs du monde entier concernant leurs préférences morales dans les cas où un conducteur doit choisir « le moindre de deux maux ». On a demandé aux gens si une voiture autonome devait donner la priorité aux humains plutôt qu’aux animaux domestiques, aux passagers plutôt qu’aux piétons, aux femmes plutôt qu’aux hommes, etc. Fait intéressant, il existe des différences interculturelles en ce qui concerne les choix effectués. Certaines cultures comme le Japon et la Chine, par exemple, étaient moins susceptibles d’épargner les jeunes que les personnes âgées, tandis que d’autres cultures comme le Royaume-Uni et les États-Unis étaient plus susceptibles d’épargner les jeunes. Cette expérimentation offre donc non seulement une manière d’aborder l’éthique des machines mais pose également la question plus générale de la prise en compte des différences culturelles dans la robotique et l’automatisation.

La figure 3 montre un exemple de situation de dilemme du chariot : la voiture doit-elle poursuivre sa course et tuer cinq piétons, ou dévier sa course et en tuer un ? Appliquer le dilemme du chariot au cas des voitures autonomes n’est peut-être pas la meilleure façon de penser sur l’éthique des voitures autonomes ; heureusement, nous rencontrons rarement de telles situations dans la circulation, ou les défis peuvent être plus commultiples et n’impliquent pas de choix binaires, et cette définition du problème reflète une approche normative spécifique de l’éthique (conséquentialisme, et en particulier utilitarisme). Il y a une discussion dans la littérature sur la mesure dans laquelle les dilemmes du chariot représentent les défis éthiques réels. Néanmoins, les dilemmes du chariot sont souvent utilisés pour illustrer l’idée que lorsque les robots deviennent plus autonomes, nous devons réfléchir à la question de savoir s’il faut ou non leur donner une sorte de moralité (si cela peut être évité du tout), et si alors, quel genre de moralité. De plus, les robots autonomes soulèvent des questions concernantresponsabilité morale. Considérez l’auto-conduire à nouveau la voiture.

En mars 2018, une voiture Uber autonome a tué un piéton à Tempe, en Arizona. Il y avait un opérateur dans la voiture, mais au moment de l’accident la voiture était en mode autonome mode. Le piéton marchait à l’extérieur du passage pour piétons. Le VUS Volvo n’a pas ralenti à l’approche du femme. Ce n’est pas le seul accident mortel signalé. En 2016, par exemple, une voiture Tesla Model S en mode pilote automatique n’a pas réussi à détecter un gros camion et une remorque qui traversent l’autoroute, et a heurté la remorque, tuant le conducteur de Tesla. Pour de nombreux observateurs, de tels accidents montrent non seulement les limites du développement technologique actuel (actuellement il ne semble pas comme les voitures sont prêtes à participer à la circulation) et la nécessité pour la réglementation ; ils soulèvent des défis en ce qui concerne l’auattribution de responsabilité. Prenons le cas d’Uber. Qui est responsable de l’accident ? La voiture ne peut pas répondresibilité. Mais les parties humaines impliquées peuvent toutes potentiellement responsable : la société Uber, qui emploie un chariot chapeau n’est pas encore prêt pour la route ; le constructeur automobile Volvo, qui n’a pas réussi à développer une voiture sûre ; l’opérateur dans la voiture qui n’a pas réagi à temps pour arrêter le véhicule ; le piéton qui ne marchait pas à l’intérieur du passage pour piétons ; et les régulateurs (par exemple, l’état de l’Arizona) qui ont permis cela voiture à tester sur route. Comment attribuer et répartir la responsabilité étant donné que la voiture roulait de manière autonome et tant de parties étaient impliquées ? Comment devons-nous attribuer la responsabilité dans toutes sortes d’autonode robots, et comment devons-nous traiter ce problème en tant que profession (par exemple, ingénieurs), entreprise et société, de préférence de manière proactive avant que les accidents ne se produisent ?

Quelques questions Cà propos des robots autonomes

Comme l’illustre l’accident d’Uber, les voitures autonomes ne sont pas entièrement science-fictionction. EIls sont testés sur route, et les constructeurs automobiles les développent. Par exemple,Tesla, BMW et Mercedes testent déjà des véhicules autonomesclés. Beaucoup de ces voitures ne sont pas encore entièrement autonomes, mais les choses évoluent dans ce sens. Et les voitures ne sont pas les seuls des robots autonomes et intelligents autour. Considérer encore des robots autonomes dans les maisons et les hôpitaux.

Et qu’est-ce qui se passerait si ils font du mal aux gens ? Comment cela peut-il être évité ? Et devrait protègent-ils activement les humains du mal ? Et s’ils faire des choix éthiques ? Ont-ils la capacité faire de tels choix ? De plus, certains robots sont développéspour tuer (voir chapitre 7 sur les robots militaires). Si ils choisissent leur cible de manière autonome, pourraient-ils le faire en une manière éthique (en supposant, pour les besoins de la discussion, que nous permettons à ces robots de tuer du tout) ? Quelle éthique doivent-ils utiliser ? Les robots peuvent-ils avoir une éthique ? Avec concernant les robots autonomes en général, la question est de savoir si ils ont besoin d’une certaine moralité, et si cela est possible (si nous pouvons et devons avoir des « machines morales »). Peuvent-ils avoir agence morale? Qu’est-ce que l’agence morale ? Et les robots peuvent-ils être responsable? Qui ou quoi est et devrait être responsable si quelque chose ne va pas?

Adapté de Éthique des robots par Mark Coeckelbergh. Copyright 2022. Utilisé avec la permission de The MIT Press.