Os robôs precisam de empatia?

Estamos à beira de uma revolução na robótica, e cientistas e engenheiros estão tentando entender como isso afetará as pessoas. As opiniões foram divididas em dois campos: o futuro nos promete um apocalipse robótico à la "Terminator", ou robôs substituirão os cães no papel de melhores amigos do homem. E do ponto de vista de vários pensadores e visionários modernos, o segundo cenário só é possível se os robôs tiverem empatia . Mais precisamente, em inteligência artificial.

As conseqüências da IA ​​sem alma recentemente sentiram a Microsoft totalmente, depois de um fiasco esmagador com seu famoso bot de bate-papo chamado Thay. Foi programado para aprender através da interação com os usuários do Twitter. Como resultado, multidões de trolls transformaram instantaneamente uma garota de 19 anos, no papel de bot, em um racista nazista sexualmente preocupado . Os desenvolvedores tiveram que desativar o bot um dia após o lançamento. Esse caso demonstrou claramente a importância do problema de IA que entrou na confusão, que uma das divisões do Google - DeepMind - juntamente com especialistas de Oxford, começou a desenvolver a tecnologia de " chave de emergência " para IA até que se transformou em uma ameaça real.

O ponto principal é que a IA, que não é inferior em nível de razão a uma pessoa, e depende apenas de desenvolvimento e otimização independentes, pode chegar à conclusão de que as pessoas desejam desativá-la ou impedir que obtenham os recursos que desejam. E, de acordo com essa conclusão, a inteligência artificial decidirá agir contra as pessoas, independentemente de quão razoáveis ​​sejam suas suspeitas. Um teórico bastante conhecido Eliezer Yudkowsky escreveu uma vez: “A IA não vai te amar nem te odiar. Mas então você é feito de átomos, que ele pode usar para suas necessidades ".



E se a ameaça da IA ​​"viver" em um supercomputador baseado em nuvem parece bastante efêmera para você agora, o que você pode dizer sobre um robô completo, nos cérebros eletrônicos dos quais surge a idéia de que você interfere em sua vida?



Uma maneira de garantir que os robôs e, em geral, a IA permaneçam do lado bom, é enchê-los de empatia. Não é o fato de que isso será suficiente, mas essa é uma condição necessária na opinião de muitos especialistas. Seremos simplesmente forçados a criar robôs capazes de empatia.

Há pouco tempo, Elon Musk e Stephen Hawking escreveram uma carta aberta ao Centro para o Estudo do Risco Existencial (CSER), que pedia mais esforços para estudar as "possíveis armadilhas" no campo da IA. Segundo os autores da carta, a inteligência artificial pode se tornar mais perigosa do que as armas nucleares, e Hawking geralmente acredita que essa tecnologia acabará com a humanidade. Para proteger contra o cenário apocalíptico, propõe-se criar uma IA forte (AGI, inteligência artificial geral) com um sistema psicológico embutido semelhante ao humano, ou modelar completamente as reações nervosas humanas na IA.

Felizmente, o tempo ainda não foi perdido e você pode decidir em que direção devemos nos mover. Segundo a comunidade de especialistas, o surgimento de uma IA forte, não inferior à humana, é possível na faixa de 15 a 100 anos a partir do momento atual. Ao mesmo tempo, os limites desse intervalo refletem graus extremos de otimismo e pessimismo, enquanto termos mais realistas são de 30 a 50 anos. Além do risco de obter uma IA perigosa sem princípios morais, muitos temem que a atual turbulência econômica, social e política possa levar ao fato de que os criadores de IA forte buscarão inicialmente transformá-las em uma nova arma, um meio de pressão ou competição. E longe do último papel, o capitalismo desenfreado, na forma de corporações, desempenhará aqui. As grandes empresas sempre procuram otimizar e maximizar processos,e certamente haverá uma tentação de "nadar em bóias" para obter vantagens competitivas. Alguns governos e empresas provavelmente tentarão atrair IAs fortes para gerenciar mercados e eleições, bem como desenvolver novas armas, e outros países terão que responder adequadamente a essas etapas, envolvendo-se na corrida de armas da AI.



Ninguém pode argumentar que a IA necessariamente se transformará em uma ameaça para a humanidade. Portanto, não há necessidade de tentar proibir o desenvolvimento nessa área, e isso é inútil. Parece que as leis da robótica de Azimov por si só não podem nos fazer, e por padrão precisamos introduzir fusíveis "emocionais" para tornar os robôs pacíficos e amigáveis. Para que eles possam criar uma aparência de amizades, eles podem reconhecer e entender as emoções das pessoas, possivelmente até simpatizar. Isso pode ser alcançado, por exemplo, copiando a estrutura neural do cérebro humano. Alguns especialistas acreditam que é teoricamente possível criar algoritmos e estruturas computacionais que possam agir como nossos cérebros. Mas como nós mesmos não sabemos como é organizado, essa é uma tarefa para o futuro distante.

Já existem robôs no mercado que são capazes de reconhecimento puramente técnico de algumas emoções humanas. Por exemplo, Nao - com uma altura de apenas 58 cm e um peso de 4,3 kg, o robô está equipado com um software de reconhecimento facial. Ele é capaz de fazer contato visual e reagir quando eles falam com ele. Este robô foi usado para fins de pesquisa para ajudar crianças autistas. Outro modelo do mesmo fabricante - Pepper - é capaz de reconhecer palavras, expressões faciais e linguagem corporal, agindo de acordo com as informações recebidas.



Mas nenhum dos robôs modernos é capaz de sentir. Para fazer isso, eles precisam de autoconsciência, só então os robôs podem sentir o mesmo que os humanos, podem pensar em sentimentos.


Todos somos capazes de imitar a aparência de uma pessoa em robôs, mas com o mundo interior tudo é muito mais complicado.

Ter empatia significa ser capaz de entender nos outros os mesmos sentimentos que você experimentou. E para isso, os robôs devem passar por seu próprio período de crescimento, com seus sucessos e fracassos. Eles terão que experimentar afeto, desejo, sucesso, amor, raiva, ansiedade, medo, talvez ciúmes. Para que o robô, pensando em alguém, pense nos sentimentos humanos.

Como fornecer aos robôs essa maturação? Boa pergunta Pode ser possível criar emuladores / simuladores virtuais nos quais a IA ganhará experiência emocional, para que mais tarde possam ser carregados nos corpos físicos. Ou forme padrões / memórias artificiais e marque robôs com um conjunto padrão de valores éticos e morais. Tais coisas foram previstas pelo escritor de ficção científica Philip K. Dick , em seus romances, os robôs costumam operar com memórias artificiais. Mas a emocionalidade dos robôs pode ter outro lado: no recente filme Ex MachinaUma situação é descrita quando um robô controlado por uma IA forte demonstra emoções com tanta confiabilidade que engana as pessoas, forçando-as a seguir seu plano. Pergunta: como distinguir quando um robô está reagindo astuciosamente a uma situação ou quando realmente experimenta as mesmas emoções que você? Faça dele uma auréola holográfica, cuja cor e padrão confirmam a sinceridade das emoções expressas pelo robô, como no anime "Time of Eve" ( EVE no Jikan )?



Mas suponha que possamos resolver todos os problemas acima e encontrar respostas para as perguntas levantadas. Os robôs serão iguais a nós então ou estarão abaixo de nós na escada social? As pessoas devem gerenciar suas emoções? Ou será um tipo de escravidão de alta tecnologia, segundo a qual os robôs com IA forte devem estar pensando e se sentindo da maneira que queremos?



Existem muitas perguntas difíceis para as quais ainda não há resposta. No momento, nossas estruturas sociais, econômicas e políticas não estão prontas para mudanças tão radicais. Mesmo assim, mais cedo ou mais tarde teremos que procurar soluções aceitáveis, porque ninguém pode parar o desenvolvimento da robótica, e algum dia será criada uma forte IA capaz de funcionar em um corpo antropomórfico. Precisamos nos preparar para isso com antecedência.

Source: https://habr.com/ru/post/pt397209/