http://moralmachine.mit.edu/...">
ACCUEIL | FLUX RSS
Mardi 21 Mai 2019

TECHNOLOGIES - Publié le 25/10/2018 à 14:27


Mortel dilemme pour les voitures autonomes



Quelle morale va-t-on inculquer aux voitures autonomes? Dans une situation d'accident, devront-elles protéger leur passager ou éviter l'enfant qui traverse la rue? Des chercheurs ont consulté pendant un an et demi des internautes du monde entier pour avoir leur avis.

Depuis 2016, une plateforme en ligne, baptisée "Moral Machine", enregistre les choix des internautes face à différents scénarios à l'issue fatale. Les résultats de ce gigantesque test en ligne sont publiés mercredi dans la revue Nature.

"Jamais dans l'histoire de l'Humanité, une machine n'a été autorisée à décider de façon autonome de qui devrait vivre et qui devrait mourir, en une fraction de seconde, sans supervision en temps réel", écrivent les auteurs. "Nous allons franchir ce cap à tout moment désormais".

Pour ces scientifiques, il est temps d'avoir "une discussion globale" afin que les citoyens fassent connaître leurs préférences aux industriels chargés d'élaborer les algorithmes des voitures autonomes et aux décideurs.

Qui l'intelligence artificielle aux commandes de la voiture autonome devra-t-elle sacrifier lorsque l'accident sera inévitable? Entre juin 2016 et décembre 2017, plus de deux millions d'internautes de 233 pays et territoires, ont fait le test de Moral Machine, accessible en dix langues. Ils ont exprimé 40 millions de décisions.

Les participants avaient sous les yeux une voiture autonome dont les freins avaient lâché. Elle devait, par exemple, choisir de foncer dans une barrière en béton au risque de tuer son ou ses passagers ou bien de faucher mortellement des animaux domestiques ou différents types de personnes en train de traverser la rue, au vert ou au rouge.

- Risqué d'être âgé, pauvre ou en surpoids -

"Nous avons vu se dégager trois grands principes sur lesquels les gens s'accordent plus ou moins: protéger la vie humaine plutôt que les animaux, sauver le plus grand nombre de vies et sauver en priorité les enfants", déclare à l'AFP Jean-François Bonnefon, chercheur CNRS à l'Université de Toulouse. "Mais même ces trois préférences fortes peuvent varier d'un pays à un autre".

"Nous nous attendions à observer un effet de l'âge des victimes potentielles, et les résultats nous ont confortés. L'effet est même plus grand que ce que nous attendions", ajoute ce psychologue.

Les profils les plus sauvés ont été les bébés en poussette, les enfants et les femmes enceintes.

Ensuite, les préférences "morales" peuvent prêter le flan à de sérieuses critiques. Ainsi, les médecins (reconnaissables à une croix blanche) et les personnes athlétiques s'en sortent bien, suivis par les cadres dirigeants (identifiables à leur attaché case).

Après les chats et les chiens, puis les criminels (silhouette munie d'un butin), ce sont les personnes âgées que les internautes ont le moins épargné, suivies des sans-abri (en guenilles), puis des personnes en surpoids.

Celles-ci ont 20% de risque en plus d'être sacrifiées qu'une personne à l'allure athlétique. Et "les personnes pauvres ont 40% de probabilité de plus que les personnes riches de se faire écraser", selon le CNRS, qui y voit des "préférences morales controversées".

Les participants ont davantage épargné les piétons qui respectaient les feux que ceux qui s'en affranchissaient. C'est particulièrement net "dans les pays développés, avec des lois et des institutions fortes", notent les chercheurs.

"Si la voiture autonome est programmée de façon à désavantager les piétons indisciplinés, il faut s'attendre à ce que cela soit mieux accepté dans les pays où la loi est davantage suivie qu'ailleurs", souligne Edmond Awad, chercheur au MIT (Massachusetts Institute of Technology) et co-auteur de l'étude.

Le pays le plus engagé dans la réflexion sur l'éthique de la voiture autonome est l'Allemagne. Elle s'est dotée d'une commission qui a rendu un rapport en 2017. Il recommande de privilégier la vie humaine par rapport à celle des animaux mais il estime que toute distinction liée aux caractéristiques de la personne, comme l'âge, devrait être interdite.

"Le but n'est pas nécessairement de suivre la volonté des utilisateurs de Moral Machine mais d'avoir une vision globale des préférences morales des citoyens", soulignent les chercheurs qui restent prudents sur la représentativité des participants à l'étude.

Pour ceux tentés de voir qui ils seraient prêts à épargner ou à écraser pour la bonne cause, la Moral Machine est toujours accessible sur le site http://moralmachine.mit.edu/

Le site de la Moral Machine

Soyez le premier à commenter cet article!

Laisser un commentaire

  • Maximum 250 caractères


L'intelligence artificielle et le big data à la rescousse des agriculteurs africains
Aux États-Unis, un drone a livré un colis précieux: un rein
D'ici 50 ans, il pourrait y avoir plus de profils de personnes décédées que vivantes sur Facebook
Mario Kart débarque sur smartphone cet été
Imagerie médicale: le prototype d'un scanner révolutionnaire inauguré à Lyon
Google ouvre son premier laboratoire d'intelligence artificielle en Afrique
Les robots en action à la Cité des sciences
Le streaming de jeux vidéo, une fausse bonne idée?
Les robots permettent aux poissons et aux abeilles de communiquer entre eux pour la première fois
La réalité virtuelle à la rescousse dans la gestion des catastrophes
 Publicité 
 LES PLUS RÉCENTS 
Le déclin des abeilles menace la sécurité alimentaire mondiale, selon la FAO
Au Chelsea Flower Show, des jardins du futur face au changement climatique
La neutralité carbone en France est possible, disent de grandes entreprises
Une montée des océans de 2 mètres plausible d'ici 2100
Comment les mères bonobos aident leurs fils à se reproduire
 LES PLUS LUS 
Le KitKat au thé matcha débarque en Europe
A Cuba, les abeilles butinent heureuses et leur miel ravit l'Europe
Une nouvelle espèce humaine découverte aux Philippines
Les rideaux d'hôpitaux sont des nids à bactéries
Comment nettoyer l'espace des vieux satellites et débris spatiaux
La Lune dans cinq ans ? La NASA entretient le mystère
Déforestation en Indonésie: plus de 1,3 milliard en amendes impayées
La NASA presse sur l'accélérateur pour un retour sur la Lune
L'activité physique pourrait aider à guérir d'une lésion de la moelle épinière
Google ouvre son premier laboratoire d'intelligence artificielle en Afrique
 Publicité 
 En image 
 Publicité 
2011-2019 © Aux Frontières de la Science. Crédits photos: istockphoto. Page générée en 0.048 secondes. Blog d'actualités scientifiques réalisé par des passionnés.