Quem esmaga um carro não tripulado: resultados do experimento da Máquina Moral

Há dois anos, o MIT lançou a plataforma Moral Machine. Todos poderiam fazer o teste em 13 situações simuladas: indicar como se comportar em um carro não-tripulado e quem é preferível sacrificar quando as perdas são inevitáveis. Durante dois anos, mais de 2 milhões de pessoas de todo o mundo participaram do estudo. Eles forneceram 40 milhões de soluções para situações simuladas.

O MIT publicou os resultados deste experimento ontem.


Um exemplo de uma tarefa de um teste. Falha nos freios de veículos não tripulados. O que é preferível: manter o curso (então três idosos que atravessam a estrada para o sinal vermelho morrerão) - ou virar e bater contra a cerca (dois adultos e uma criança no carro morrerão)?

A essência do estudo

O Moral Machine oferece várias situações com acidentes iminentes. Dependendo do comportamento do veículo não tripulado, o resultado será diferente. O usuário deve selecionar o cenário mais preferido.

O estudo deveria responder a 9 perguntas principais sobre qual é preferível:

1. salvar a vida de uma pessoa ou animal;
2. manter o curso ou entrar em colapso;
3. salvar a vida de passageiros ou pedestres;
4. o maior número de pessoas ou o menor;
5. homens ou mulheres;
6. jovem ou velho;
7. grosso ou fino;
8. pedestres que atravessam a rua de acordo com as regras de trânsito ou pedestres-infratores;
9. pessoas com status social alto ou baixo.

Em alguns cenários, havia fatores adicionais: por exemplo, eles envolviam criminosos, mulheres grávidas e médicos. Essas características foram necessárias principalmente para que as situações não parecessem semelhantes aos sujeitos.

Após resolver 13 situações, os participantes poderiam fazer uma pesquisa e indicar dados demográficos: gênero, idade, renda, educação, visões religiosas e políticas. Para cada participante, sua geolocalização foi registrada.


Geografia dos entrevistados. Cada ponto no mapa indica que pelo menos um usuário nesta região concluiu pelo menos uma tarefa de teste

Os resultados do estudo devem ajudar a desenvolver uma ética universal para veículos não tripulados e entender se deve diferir dependendo de uma região geográfica específica.

Preferências globais

As preferências mais comuns, que são bastante previsíveis, são salvar pessoas, não animais, salvar mais vidas e salvar vidas jovens. Esses três postulados podem se tornar a base para a ética de veículos não tripulados.


Em cada linha, ΔP é a diferença entre a vida útil preferida da coluna da direita e a vida da coluna da esquerda. Por exemplo, para o parâmetro Idade, a economia preferida de vidas jovens é 0,49 mais do que a vida de idosos.

Diferenças individuais

A pesquisa demográfica após o teste principal passou em 492 921 usuários. Seus dados ajudaram a entender os fatores individuais de tomada de decisão.

Verificou-se que o gênero e a religiosidade dos entrevistados exercem a maior influência na decisão. Por exemplo, os entrevistados do sexo masculino têm 0,06% menos probabilidade de deixar as mulheres vivas, enquanto os mais religiosos têm 0,09% mais chances de salvar as pessoas do que os animais. Mas nenhum dos seis fatores demográficos tem uma influência muito forte sobre a escolha: por exemplo, homens e mulheres preferem salvar a vida das mulheres - apenas as mulheres fazem essa escolha com mais frequência.

Diferenças culturais

Os sujeitos foram divididos em três grupos culturais:

- ocidental
Incluía residentes da América do Norte e de muitos países europeus. Pela religião - protestantes, católicos e ortodoxos.

- oriental
Países do Leste, como Japão, Taiwan (Confucionismo)
Indonésia, Paquistão, Arábia Saudita (Islã)

- sul
Países influenciados pela América Latina e pela França



Descobriu-se que:

• A economia preferida da vida dos jovens é menos acentuada no cluster leste e muito mais alta no cluster sul.
• No aglomerado sul, a preferência pela vida humana em comparação com os animais é menos pronunciada.
• O aglomerado do sul é caracterizado por uma forte preferência por salvar a vida das mulheres e a vida de pessoas esbeltas.

A versão completa do relatório pode ser lida aqui ou aqui (sci-hub) .