Qui écraser une voiture sans pilote: résultats de l'expérience Moral Machine

Il y a deux ans, le MIT a lancé la plateforme Moral Machine. Tout le monde pourrait passer le test sur 13 situations simulées: indiquer comment se comporter avec une voiture sans pilote et qui est préférable de sacrifier lorsque les pertes sont inévitables. Sur deux ans, plus de 2 millions de personnes du monde entier ont participé à l'étude. Ils ont fourni 40 millions de solutions pour des situations simulées.

Le MIT a publié hier les résultats de cette expérience.


Un exemple de tâche d'un test. Les freins des véhicules sans pilote sont tombés en panne. Laquelle est préférable: pour maintenir le cap (alors trois personnes âgées qui traversent la route vers le feu rouge mourront) - ou se retourner et s'écraser dans la clôture (deux adultes et un enfant dans la voiture mourront)?

L'essence de l'étude

Moral Machine propose un certain nombre de situations avec des accidents imminents. Selon le comportement du véhicule sans pilote, le résultat sera différent. L'utilisateur doit sélectionner le scénario le plus préféré.

L'étude devait répondre à 9 questions principales sur lesquelles il est préférable:

1. sauver la vie d'une personne ou d'un animal;
2. garder le cap ou s'effondrer;
3. sauver la vie des passagers ou des piétons;
4. le plus grand nombre de personnes ou le plus petit;
5. hommes ou femmes;
6. jeunes ou vieux;
7. épais ou mince;
8. piétons traversant la route conformément aux règles de circulation, ou piétons-contrevenants;
9. personnes de statut social élevé ou faible.

Dans certains scénarios, il y avait des facteurs supplémentaires: par exemple, ils impliquaient des criminels, des femmes enceintes et des médecins. Ces caractéristiques étaient nécessaires principalement pour que les situations ne ressemblent pas aux sujets.

Après avoir résolu 13 situations, les participants ont pu répondre à une enquête et indiquer des données démographiques: sexe, âge, revenu, éducation, opinions religieuses et politiques. Pour chaque participant, sa géolocalisation a été enregistrée.


Géographie des répondants. Chaque point de la carte indique qu'au moins un utilisateur de cette région a terminé au moins une tâche de test

Les résultats de l'étude devraient aider à développer une éthique universelle pour les véhicules sans pilote et à comprendre si elle devrait différer selon une région géographique spécifique.

Préférences globales

Les préférences les plus courantes, qui sont assez prévisibles, sont de sauver des personnes, pas des animaux, de sauver le plus de vies et de sauver de jeunes vies. Ces trois postulats peuvent devenir le fondement de l'éthique des véhicules sans pilote.


Dans chaque ligne, ΔP est la différence entre les vies de sauvegarde préférées de la colonne de droite par rapport aux vies de la colonne de gauche. Par exemple, pour le paramètre Âge, l'économie préférée des jeunes vies est de 0,49 de plus que celle des personnes âgées.

Différences individuelles

L'enquête démographique après le test principal a réussi 492 921 utilisateurs. Leurs données ont aidé à comprendre les facteurs décisionnels individuels.

Il s'est avéré que le sexe et la religiosité des répondants exercent la plus grande influence sur la décision. Par exemple, les hommes interrogés sont 0,06% moins susceptibles de laisser des femmes en vie, tandis que les répondants les plus religieux sont 0,09% plus susceptibles de sauver des personnes que des animaux. Mais aucun des six facteurs démographiques n'a une influence très forte sur le choix: par exemple, les hommes et les femmes préfèrent sauver la vie des femmes - seules les femmes font ce choix plus souvent.

Différences culturelles

Les sujets étaient divisés en trois groupes culturels:

- ouest
Il comprenait des résidents d'Amérique du Nord et de nombreux pays européens. Par religion - protestants, catholiques et orthodoxes.

- est
Pays de l'Est comme le Japon, Taïwan (confucianisme)
Indonésie, Pakistan, Arabie saoudite (Islam)

- sud
Pays influencés par l'Amérique latine et la France



Il s'est avéré que:

• L'économie préférée des jeunes est moins prononcée dans le cluster oriental et beaucoup plus élevée dans le cluster sud.
• Dans le cluster sud, la préférence pour la vie humaine par rapport aux animaux est la moins prononcée.
• Le cluster sud se caractérise par une forte préférence pour sauver la vie des femmes et la vie des personnes minces.

La version complète du rapport peut être consultée ici ou ici (sci-hub) .