Por que temos medo de robôs?

Se, para algumas pessoas, o futuro da IA ​​parece uma distopia sombria ou luta pela sobrevivência, talvez eles devam resolver suas idéias sobre a natureza do poder e da submissão.
É o que afirma Stephen Cave, pesquisador sênior do Leverhulm Center for the Study of Future Intelligence da Universidade de Cambridge. Em seu ensaio, ele sugere explorar a história da superioridade intelectual - e abandonar esse falso conceito.





O mundo progressista da segunda metade do século XX foi dominado pelo fascínio pelo conceito de inteligência artificial.
Eles pensaram sobre as habilidades mentais, discutiram e desenvolveram novas abordagens para medi-las. Dezenas de milhares de adolescentes e candidatos a emprego nos principais países europeus passaram (e estão) fazendo um teste de QI.

Mesmo assim, a própria idéia de que a inteligência pode ser medida como pressão arterial ou tamanho do pé não era nova. Mas ainda mais antiga é a nossa ideia de que o nível de inteligência pode determinar a posição de uma pessoa na vida.

Esse entendimento percorre toda a história do pensamento ocidental, da filosofia de Platão às crenças dos políticos modernos.

A inteligência é política

Ao longo da história, o mundo ocidental determinou em termos de inteligência o que uma pessoa pode fazer pela sociedade. Por exemplo, tradicionalmente (para a maioria da população) atribuímos um alto nível de habilidades mentais a médicos, engenheiros e altos funcionários do país .

Acreditávamos que o nível de inteligência nos dá o direito de controlar o destino de outras pessoas: colonizamos, escravizamos, privamos nossos órgãos genitais e destruímos aqueles que consideramos menos inteligentes e desenvolvidos.

Nossa atitude em relação à inteligência começou a mudar rapidamente com o desenvolvimento de tecnologias de inteligência artificial. Nas últimas décadas, vimos um progresso significativo nessa área e parece estar à beira de enormes descobertas científicas. A julgar pelo número de memeplexos e piadas sobre o tema da inteligência artificial, estamos simultaneamente encantados com o que está acontecendo e, ao mesmo tempo, bastante assustados. E, para entender o que exatamente nos assusta tanto e por que somos tão indiferentes ao tópico das habilidades mentais, é necessário considerá-lo de um ponto de vista histórico e político e traçar como o pensamento filosófico transformou o intelecto em uma ferramenta para justificar intermináveis ​​conquistas.

O fio histórico do estereótipo

Platão fez da mente uma necessidade dos poderosos
O primeiro sobre o pensamento começou a discutir Platão. Em seus escritos, ele atribui um valor particular ao processo de reflexão, argumentando que a vida sem sentido não vale um centavo. Vale lembrar que Platão viveu em um mundo onde o mito e a consciência mística constituíam um ambiente natural para a mente humana. Portanto, sua afirmação de que se pode conhecer o mundo através do pensamento era extremamente ousada e atraente na época.

Ao anunciar em seu trabalho "O Estado" que apenas um filósofo pode governar o estado, já que somente ele pode entender corretamente as coisas, Platão deu origem à idéia de meritocracia intelectual - a idéia de que apenas os mais inteligentes podem controlar outras pessoas.

A ideia na época era revolucionária: sim, Atenas já havia experimentado a democracia como uma forma de governo. Mas os requisitos para os governantes eram muito vagos: bastava ser um cidadão do sexo masculino - não havia dúvida sobre o nível de habilidades mentais. E em outras regiões, os assentos do governo eram distribuídos por membros da elite (aristocracia) ou por indicação da providência divina (teocracia), ou simplesmente por nível de força (tirania).


O afresco "A Escola de Atenas", onde Leonardo e Bramante são retratados junto com Pitágoras e Aristóteles.

Aristóteles surgiu com o poder dos homens

A idéia inovadora de Platão aterrou com sucesso no solo fértil das grandes mentes da época, e seu discípulo Aristóteles não foi exceção. Ele se diferenciava do professor em uma visão mais prática e sistemática do mundo, por isso usou o "elemento racional da alma" para criar o conceito de uma hierarquia social natural. Em sua política, ele afirma:

"Afinal, domínio e submissão não são apenas necessários, mas também úteis, e desde o nascimento, algumas criaturas diferem [no sentido de que algumas são como se fossem destinadas] à submissão, outras à dominação".

Com base nisso, homens instruídos naturalmente dominam mulheres, homens de trabalho físico e escravos. Abaixo nesta hierarquia, existem apenas animais que são tão desprovidos de razão que eles simplesmente precisam de alguém para controlá-los.
Nem percebemos como passamos da idéia platônica da primazia do elemento racional para o conceito aristotélico, que pressupõe o poder completamente natural dos homens pensantes.

Esse trem de injustiça intelectual ainda funciona com combustível, que foi alimentado por dois homens barbudos há 2000 anos. O filósofo australiano moderno Val Plumwood afirma que os dois gigantes da filosofia grega, armados com uma série de dualismos duvidosos, ainda conseguem influenciar nossas idéias sobre a mente.

Pelo fato de percebermos as relações de dominância pelo direito dos mais inteligentes como completamente naturais, devemos agradecer a Aristóteles.

Descartes lançou as bases morais para a destruição do planeta

A filosofia ocidental atingiu seu auge com as obras do grande dualista René Descartes.

Se Aristóteles reconheceu os animais pelo menos algum direito à atividade mínima e primitiva, mas ainda mental, então Descartes negou-lhes esse direito completamente. A consciência, ele acreditava, é a vantagem exclusiva do homem.
A filosofia de Descartes refletia o milênio da ideologia cristã: dava à mente a propriedade da alma, uma centelha divina, herdada apenas aos sortudos que foram criados à imagem e semelhança de Deus.

Kant justificou a política colonial

A ideia de que a mente define uma pessoa passou pelo Iluminismo. Immanuel Kant - talvez o filósofo mais influente da moralidade desde os tempos antigos - acreditava que a vontade moral é peculiar apenas aos seres pensantes: "pessoas" e "coisas em si mesmas". Criaturas que não pensam, em sua opinião, têm "apenas valor relativo como meio e, portanto, são chamadas de coisas". Com eles, você pode fazer o que quisermos.

Segundo Kant, um ser racional tem dignidade, e uma criatura irracional e sem pensar é incapaz disso.

Tais inferências posteriormente se tornaram a pedra angular da política colonial.
A lógica é esta: pessoas brancas não são menos inteligentes; eles não podem se controlar independentemente e a seus territórios. E este não é apenas um passo justificado, mas também o dever moral de qualquer pessoa branca - de entrar em seu país e destruir sua cultura.

A mesma construção lógica funcionou perfeitamente para mulheres consideradas frívolas e frágeis demais para compartilhar os privilégios de uma pessoa racional.

Francis Galton é o pai da psicometria, pseudociência na medição da mente e primo de Charles Darwin. Inspirado em sua época pela origem das espécies, Galton criou o conceito de que as habilidades mentais são herdadas e podem ser melhoradas pela seleção.

Galton não se limitou aos cálculos teóricos: nas décadas seguintes, mais de 20.000 mulheres na Califórnia foram esterilizadas após receberem resultados ruins dos testes de Galton

Então, por que temos medo de robôs inteligentes?

Voltemos à questão colocada no início do artigo: por que a possibilidade do aparecimento de inteligência artificial nos assusta? É porque estamos acostumados ao fato de que o mais inteligente sempre domina, e definitivamente não queremos estar do outro lado das barricadas?
Escritores e diretores especulam há muito tempo sobre o tema da revolta de máquinas.

Se é natural pensarmos que as peles mais inteligentes são removidas e que uma nação mais desenvolvida pode colonizar outra, então temos um medo natural da potencial escravização por máquinas ultra-inteligentes. A inteligência artificial representa uma ameaça existencial para nós.

Para nós, isso é para homens europeus brancos. Bilhões de outras pessoas passaram por séculos de submissão, e muitas continuam lutando contra os agressores até hoje; portanto, para eles, a ameaça de escravização pela inteligência artificial continua sendo uma história fantástica.
Os homens europeus brancos estão tão acostumados a estar no topo pelo direito de propriedade que a aparência de um possível rival em nós responde com horror cônico (irracional).

Não afirmo que os medos do surgimento de uma forte inteligência artificial sejam infundados. Existem ameaças reais, mas elas não têm nada a ver com a colonização da civilização humana por robôs.

Em vez de pensar no que devemos fazer com inteligência artificial, é melhor pensar no que fazemos conosco.

Se a inteligência artificial puder nos prejudicar, quase certamente acontecerá não por causa do desejo da IA ​​de conquistar a humanidade, mas por causa de nossa própria estupidez, que perderá um erro. Não é a inteligência artificial que tem medo, mas a estupidez natural.
Se a sociedade estivesse convencida de que a pessoa mais sábia - não a que ganhou poder, mas a que procura resolver conflitos - teríamos mais medo de robôs inteligentes do que nós mesmos?