Un algorithme au dilemme éthique du : Qui la voiture autonome choisira-t-elle de tuer ?

Il n’y a pas de réglementation uniforme sur les voitures autonomes dans le monde, mais plusieurs pays ont commencé à autoriser leur utilisation sur les routes publiques.

Christine (film, 1983), qui ne s’embêtait pas avec les questions éthiques. (Wikimedia)

Les pays où elles sont autorisées incluent les États-Unis, le Canada, le Japon, la Chine, la Singapour et l’Australie. Cependant, ces autorisations sont soumises à des restrictions et des exigences spécifiques, telles que l’obligation de disposer d’un conducteur en permanence à bord pour intervenir en cas de besoin. Mais lorsqu’un véhicule autonome rencontre un danger pour la circulation et qu’aucun conducteur n’est prêt à prendre le volant, les actions de la voiture sont régies par son algorithme principal.

Le dilemme éthique « Qui le véhicule autonome doit-il tuer ? » est souvent présenté comme un choix entre deux problèmes. Un exemple souvent utilisé est de savoir ce que le véhicule autonome doit faire si une personne se place devant le véhicule, si le fait de s’écarter pour la sauver risque de tuer un autre usager de la route. Mais que se passerait-il s’il existait une autre solution ?

Les incidents de la circulation sont rarement clairs. Le logiciel qui pilote un véhicule intelligent doit être prêt à répondre à un large éventail de situations réelles et à prendre des décisions rapides en cas d’accident imminent.

Des chercheurs de l’université technique de Munich (TUM) en Allemagne ont mis au point le premier « algorithme éthique » conçu pour évaluer les risques de différentes actions pour différents usagers de la route et prendre des décisions éthiques, offrant ainsi une meilleure protection aux usagers vulnérables comme les piétons et les cyclistes.

Maximilian Geisslinger, auteur principal de cette nouvelle étude (lien plus bas) et scientifique à la TUM, explique que :

Jusqu’à présent, les véhicules autonomes étaient toujours confrontés à un choix de type « ou bien/ou bien » lorsqu’ils étaient confrontés à une décision éthique. Mais le trafic routier ne peut pas nécessairement être divisé en situations tranchées, en noir et blanc.

Notre algorithme pèse les différents risques et fait un choix éthique parmi des milliers de comportements possibles – et ce, en une fraction de seconde seulement.

L’approche est importante, car l’éthique et la sécurité des véhicules autonomes sont considérées comme une étape importante à franchir avant que la technologie puisse être déployée à grande échelle.

L’approche des chercheurs allemands va au-delà du respect du droit routier. Elle cherche à modifier le comportement du véhicule autonome pour minimiser les dommages globaux et protéger les usagers de la route vulnérables. La conception de l’algorithme adopte les recommandations et les paramètres décrits dans le rapport d’un groupe d’experts de la Commission européenne.

L’algorithme intègre une combinaison de cinq principes éthiques : minimisation du risque global, priorité aux plus démunis, égalité de traitement des personnes, responsabilité et risque maximal acceptable.

Afin de traduire ces règles en calculs mathématiques, l’équipe de recherche a classé les véhicules et les personnes se déplaçant dans le trafic routier en fonction du risque qu’ils représentent pour les autres et de leur volonté respective de prendre des risques. Un camion, par exemple, peut causer de graves dommages aux autres véhicules de la circulation, alors que dans de nombreux scénarios, le camion lui-même ne subira que des dommages mineurs. C’est l’inverse pour un vélo.

Les chercheurs ont programmé le logiciel pour qu’il reste en deçà d’un certain risque maximal acceptable dans un large éventail de scénarios, et pour qu’il intègre des jugements fondés sur le risque dans la planification de la trajectoire du véhicule. En conséquence, le véhicule autonome évite les manœuvres agressives, et évite également de bloquer les freins.

L’étude publiée dans Nature Machine Intelligence : An ethical trajectory planning algorithm for autonomous vehicles et disponible en prépublication sur arXiv (PDF). Leur code est disponible sous forme de logiciel libre sur Github : Ethical Trajectory Planning. L’étude présentée sur le site de l’Université technique de Munich : Autonomous driving: New algorithm distributes risk fairly.

Lire aussi : 7 Domaines de recherche controversés sur le plan éthique en science et technologie

Source : GuruMeditation