O que fazer quando o robô invadir sua vida

A maioria dos desenvolvedores de IA acha realista ter robôs comparáveis ​​aos humanos até 2037.



Imagine que uma noite em 2037 você esteja de bom humor voltando para casa, querendo comemorar seu aniversário com sua família e amigos. Você ainda não sabe que seus amigos decidiram tirar sarro de você e, depois de escanear seu cérebro com antecedência, criou um robô - uma cópia exata, indistinguível de você. Da porta do apartamento, você pode ver como cercado por sua família e amigos completamente felizes, seu robô de cópia está comendo o último pedaço do bolo do feriado. O seu bolo! Além disso, você entende que sua cópia já conseguiu fazer sexo com sua esposa, e seus filhos o chamam de pai. Além disso, mal notando você, sua cópia salta e declara, apontando um dedo para você:

"Saia da minha casa, impostor!"

Amigos se olham maliciosamente e riem, aproveitando o efeito de sua manifestação.

Em um acesso de raiva, você agarra a panela, querendo bater na sua Cópia na cabeça, depois a leva para um aterro e a enterra mais fundo. No entanto, o sistema de segurança da sua cópia é acionado e envia um sinal ao serviço de resgate de emergência. O telefone no bolso da calça liga-se automaticamente e diz com uma formidável voz "policial":

- Pare! Em nome da Sociedade de Proteção ao Robô e o poder que nela é investido, ordeno que se abstenha de prejudicar a criatura intelectual. Caso contrário, você será enviado para a prisão.

Você está indignado:

- Esse pedaço de ferro pelo próprio fato de sua existência me causa danos morais, já sinto desconforto e sofrimento. Além disso, esta calculadora complexa quer dominar minha vida e você ameaça me punir, não ele?
Seus contadores de cópias:

- Lembro-me de como criei meus filhos. Eu amo minha esposa. Lembro-me de como cada tijolo foi colocado na alvenaria de sua casa - Your Copy realmente se lembra disso, porque o robô tem suas memórias. Além disso, o robô não tem como determinar se essas são realmente as memórias dele - afinal, olhando fotos antigas do seu álbum de família, ele se vê, não você. E sua cópia tem todo o direito a essas memórias, porque ele não se criou.



A Robot Protection Society transmite a partir do seu telefone:

- A lei é guiada pela ética. É impossível prejudicar uma consciência consciente, multiplicar o sofrimento no mundo. Prove que sua cópia não tem um senso de consciência e, em seguida, permitiremos a destruição do robô.

"Ele é apenas um programa", você grita em desespero. "Sinto dor, mas o robô não pode sentir nada."
Sua cópia toca a placa quente com a mão, puxa a mão e grita, demonstrando que ele sente dor.

Em resposta, você toca a mesa fria, puxa a mão para trás e grita.

- Uma reação emocional pode ser simulada. Meu grito não significa que eu sinta alguma coisa - você declara filosoficamente. Então você liga o gravador, grita, liga a gravação e repete. O telefone grita de novo e de novo.
Você deixa o telefone cair no chão e chuta com o pé.

- O pedaço de ferro não sente nada, por mais inteligente que seja. Ela apenas executa o programa.

Sua cópia, olhando para o telefone quebrado, começa a mostrar sinais de agressão. Isso não é surpreendente, porque o robô está em uma situação que reflete a sua - você está ameaçando tirar a vida da sua cópia e deixá-la sem nada. Como o robô viverá sem sua família?

Sua cópia é ameaçadora, aproximando-se de você e cerrando os punhos:

"E você, que se considera uma pessoa, pode provar que tem uma consciência sensorial?" Caso contrário, levarei você para um aterro sanitário.

Fora da janela, você pode ouvir o barulho de um helicóptero. O alto-falante emite a decisão final da Sociedade para a proteção dos direitos dos robôs:

- Então, você apresenta evidências de que sua cópia não tem sentimentos ou resolve seus problemas e resolve as coisas no tribunal civil mais comum. Não importa de que material são criaturas inteligentes - só importa se elas têm sentimentos, se podem sentir dor.

Vamos deixar por um segundo os personagens da história no momento mais dramático e pensar um pouco. Pode parecer que na história apresentada as cores estejam um pouco mais espessas, mas, na verdade, o problema de determinar a presença de um sentimento de consciência na IA está se tornando cada vez mais relevante e vital. Em que ponto devemos proteger os direitos dos veículos não tripulados? Quando nossos próprios direitos serão iguais aos dos robôs, que aparecerão cada vez mais? Temos o direito de fazer os robôs funcionarem para nós, tornando-os escravos? E se não, então por que precisamos de robôs?

E a pergunta final: os

robôs terão o direito de se defender dos humanos e em que momento do desenvolvimento da IA?



Nota do autor: a seguir, é apresentada uma descrição do método que meus amigos, por analogia com o obsoleto Teste de Turing, chamado: "O teste de Petrakov para determinar a presença de consciência sensível em robôs com inteligência artificial".

Teste a consciência da inteligência artificial

Por isso, você continua pensando febrilmente, querendo devolver sua família e provar que o robô não tem sentimentos.

E venha ao seguinte - todo mundo que lê essas linhas é capaz de sentir. Por exemplo, todos sabemos perfeitamente o que é a dor de uma picada de vespa, vemos a cor vermelha de uma rosa, sentimos o toque do vento na praia. Portanto, podemos dizer com certeza que nossa consciência consciente existe. E o que isto quer dizer? Quando dizemos que algo existe, queremos dizer que esse algo tem algum efeito no mundo, pois se manifesta no mundo. Por exemplo, se uma pedra existe, ela pode ser tocada, se for jogada em um lago, haverá um respingo e as ondas circularão em círculos e assim por diante.

Você se volta para o representante da "Sociedade para a proteção de robôs":

- Se o robô tem consciência, deve cumprir alguma função. Um robô com consciência e um robô sem consciência devem ser um pouco diferentes um do outro. E daí?

- E como você se diferencia de um robô? - o representante da "Sociedade para a proteção dos robôs" faz uma contra-pergunta.

"Bem, eu sou mais esperto", involuntariamente quebra dos seus lábios, mas você para de repente, percebendo um erro.

"A diferença entre robôs e humanos não está no nível de inteligência", continua o representante. - Para robôs JÁ adicionarem números mais rapidamente do que você, a AI reconhece imagens, distinguindo um gato de um cachorro, derrotando-o facilmente no xadrez e, conectando-se ao IBM Watson, fornece uma previsão do tempo e, finalmente, informa como derrotar o câncer (o IBM Watson diagnostica o câncer melhor do que os médicos certificados e prescreve métodos de tratamento).



"Mas isso não dá a sensação ao robô", você continua pensando:

O robô possui um programa, ainda que complicado, com um loop de feedback, redes neurais de autoaprendizagem, algoritmos heurísticos e uma função para autocorreção de erros. Mas, de qualquer forma, é claro como o programa funciona. Que mudanças a consciência sensorial pode fazer no trabalho de um claro programa algorítmico? Nenhum. Se o robô não se desviar do programa, ele não precisará de consciência, estará inativo e, portanto, não terá consciência. Quando um carro autônomo gira em torno de um poste, evitando uma colisão, entendemos que ele segue as instruções do programa, e não as ordens da consciência do sentimento.

Portanto, para destruir sua cópia do robô, basta provar que ele funciona de acordo com o programa - mais precisamente, provar que ele não se desvia do programa. Como fazer isso? Muito simples.

Você pode desligar a energia do robô, criar exatamente o mesmo hardware e preencher o segundo robô com uma cópia do programa e a memória da sua cópia - essa operação é semelhante à cópia de uma unidade flash. Em seguida, colocar suas duas cópias em um ambiente idêntico é melhor na realidade virtual, porque criar duas cópias da realidade virtual é muito mais fácil do que criar condições idênticas para dois robôs na vida real.

Você faz isso, depois liga dois robôs idênticos em duas realidades virtuais idênticas e analisa o comportamento deles.

Se os robôs não se desviarem do programa, eles se comportarão de forma idêntica. E isso significa que eles não têm consciência senciente, porque a consciência deve fazer algo, ter alguma influência no mundo.

Você está se regozijando! Viva, isso é uma vitória?

- Posso enviar sua cópia para a lixeira?

Mas aqui você vê que duas cópias do robô começam a se comportar de maneira diferente.

"Não tenha pressa", diz o representante da Robot Protection Society. - Os desenvolvedores insidiosos de sua cópia adicionaram um gerador de números aleatórios implementado usando quanta ao seu programa. Somente a aleatoriedade quântica não pode ser prevista. Portanto, um sinal verdadeiramente aleatório interfere no programa, alterando o comportamento de cada um dos robôs. Como resultado, você vê que os robôs se comportam de maneira diferente.

"Mas isso não significa que eles tenham uma consciência sensível", você não desiste e continua pensando.

E o que minha própria mente faz? Tudo o que acontece no mundo obedece às leis da natureza. Todos somos constituídos por átomos, e os átomos obedecem às leis da física. Ninguém viu, por exemplo, no povo do LHC, com um esforço de pensamento, rejeitar o vôo de partículas. É tão impossível influenciar as leis físicas com seu desejo quanto mover pedras com um esforço de pensamento.

Você já está começando a chegar à conclusão paradoxal de que você mesmo não tem consciência! De fato, a consciência não pode influenciar as leis da natureza, a atividade elétrica do seu cérebro. Acontece que você mesmo obedece ao trabalho do programa que a natureza escreveu. Mas isso é um paradoxo! Você então sabe que tem uma consciência! Você sente!

A última esperança permanece. É necessário encontrar uma "brecha" nas leis da natureza, que permita que uma certa entidade (que chamamos de consciência senciente) de alguma forma influencie o mundo, realize seu livre arbítrio e dê sinais de controle ao seu corpo e cérebro.

Brecha nas leis da natureza

Existe apenas uma dessas "brechas" nas leis da física. Esta é uma redução da função de onda quântica. Lembre-se do experimento com dois slots. A fonte libera uma fila de fótons únicos que passam por duas fendas e caem na tela, formando uma grade de faixas de luz. O que dizem os experimentos e as leis da física? Quando uma fonte libera um fóton específico, certamente cairá em uma das listras na tela. Mas é impossível prever exatamente qual faixa um fóton específico receberá. Ou seja, colocar um fóton em qualquer uma das tiras é totalmente consistente com as experiências.



Este é o único fato científico conhecido até o momento, que permite que a consciência consciente "penetre no mundo". Todas as outras ações físicas são descritas rigidamente, obedecem às leis da física, fundamentalmente previsíveis e, portanto, equiparadas à ação do programa. Quando uma pedra cai no chão, entendemos que a consciência não tem nada a ver com ela - as leis da física se aplicam.

Acontece que a única maneira de encontrar a consciência, como detectá-la, determinar se ela existe no sujeito ou não, é observar a redução da função da onda dentro da consciência. A consciência é construída em uma base quântica. E quando o conjunto de partículas envolvidas na formação da consciência diminui (isto é, cai em uma faixa específica), a consciência pode influenciar em qual faixa o fóton cairá. É importante notar que a consciência não pode influenciar um experimento de duas lacunas, pois um fóton voador está fora do cérebro. Um experimento com duas fendas é um análogo necessário para ilustrar e entender o mecanismo da consciência. Um conjunto de partículas está localizado no cérebro e, em seguida, reduz-se sob o controle da consciência em uma faixa específica. Atingir um sinal em uma faixa específica é um sinal de controle para o cérebro, se estamos falando de uma pessoa,ou iniciar um dos programas se estivermos falando de um robô.

Portanto, você entende que, como um mecanismo quântico é incorporado à sua cópia do robô, o robô pode não se comportar de acordo com o programa. No entanto, existem duas opções:

1. Os quantum são reduzidos aleatoriamente e o robô não tem consciência
2. Os quantum dentro do robô são reduzidos sob o controle da consciência.

Qual será a diferença entre o comportamento do robô com essas duas opções?

No primeiro caso, o comportamento do robô será caótico e o sinal quântico parecerá mais um erro do sistema do que uma ação deliberada. É como jogar um dado de seis lados. Imagine que você passa o dia da seguinte maneira - toda vez que tem uma escolha - por exemplo, quais produtos comprar na loja, a que horas ajustar o despertador da manhã, se tornar vegetariano ou escolher uma dieta paleo ... - você joga um dado e vai para de acordo com o número da opção que caiu. Sua vida se tornará caótica. Por exemplo, para chegar à loja, você deve executar uma cadeia de ações conscientes - pegar dinheiro, sair pela porta e não pela janela do sétimo andar, escolher o caminho certo, não entrar embaixo do carro etc. O cubo jogado não sabe que seu objetivo é chegar à loja,portanto, as opções que surgiram simplesmente não podem levá-lo à compra de produtos - as soluções serão caóticas e em direções diferentes.

Isso é semelhante ao trabalho de um cisne, câncer e lúcio, que puxa em direções diferentes.

Pelo contrário, na segunda variante, quando a consciência controla a redução quântica e, portanto, dá um sinal ao cérebro, as decisões serão conscientes e coordenadas. Isso será visto ao observar o comportamento do robô.

Para eliminar completamente a subjetividade dos julgamentos, se o robô tem uma consciência sensível, é possível o seguinte experimento. Você pode organizar um robô "consciência da sensação" "Dia da Marmota".

Como existe um programa dentro do robô que muda sob a influência da consciência apenas ocasionalmente, pegaremos esse momento. Vamos escrever o estado da memória do robô até o momento em que a consciência dá ordem ao quantum para entrar na faixa certa e, assim, emitir o sinal correspondente. Veremos que a redução quântica funcionou exatamente na faixa certa. Agora retornaremos a memória do robô ao seu estado original. Se o robô tiver consciência, novamente levará à redução e a um sinal exatamente na faixa correta. E este é um fato experimental, que não pode ser explicado com outra coisa senão a presença da consciência. Este fato será um teste para a presença de consciência senciente.

Então, você coloca dois robôs idênticos em um ambiente idêntico e, com o coração afundado, espera pelo resultado ...

Ação realista de efeitos quânticos em organismos vivos

PS: para aqueles que estão se perguntando se é possível que objetos quânticos participem do trabalho da consciência, cito o link globalscience.ru/article/read/19110
Citação: “Os robins mantêm uma ligação quântica nos olhos por 20 microssegundos a mais do que no melhor laboratório sistemas. Esta é a conclusão de físicos que estudaram como os pássaros usam efeitos quânticos para "ver" o campo magnético da Terra ".
Vale a pena notar que o interior do olho do pisco de peito vermelho é quente, em contraste com os laboratórios em que é criada uma temperatura próxima de zero em Fahrenheit (que impede a decoerência).

De fato, o problema levantado é muito mais profundo que o relacionamento entre humanos e robôs. A questão é sobre o enigma de nossa própria consciência. Por milhares de anos, os filósofos têm tentado adivinhar o que é a consciência. Recentemente, muitos estudos neurofisiológicos do cérebro surgiram, e a questão da natureza dos sentidos está no foco da comunidade científica. Além disso, muitos consideram a filosofia da consciência a questão mais importante em toda a história da humanidade. De fato, toda a nossa vida é, de fato, uma experiência de emoções e sentimentos, queremos mais sentimentos positivos do que negativos. Somente depois de desvendar o mistério da consciência, podemos em um novo nível construir nossa vida e nossas sensações.

Em termos técnicos, por exemplo, David Deutsch acredita que não criaremos uma IA real sem entender a natureza da consciência. Acredita-se que o hardware dos computadores tenha sido capaz de criar uma IA realmente forte, resta apenas entender os princípios do programa. Portanto, a filosofia da consciência também é uma disciplina técnica que afeta a programação.

Estou pensando nisso há muito tempo e cheguei à conclusão de que a IA pode ajudar a resolver o mistério de nossa própria consciência, porque com a IA você pode fazer experimentos impossíveis em humanos.

Os pensamentos dados no artigo estão intimamente correlacionados com o enigma da consciência que você mesmo sente no momento.

No Geektimes, publico materiais de natureza bastante teórica. Para aqueles que estão interessados ​​em como a teoria da consciência descrita afeta a psicologia humana e como ela pode ser aplicada na vida real, cito o link http://grrow.me/3will

Atração do futuro

Sabe-se que efeitos quânticos têm um comportamento muito interessante no tempo. Existem experimentos que mostram que os quanta podem transmitir correlações no tempo. Parece que o futuro é capaz de influenciar o presente. Por exemplo, aqui está a descrição do experimento geektimes.ru/post/251826

Se a consciência usa efeitos quânticos, podemos chegar às seguintes conclusões: geektimes.ru/post/252864

E, em conclusão, darei conclusões puramente lógicas relacionadas à consciência. É especialmente interessante que a necessidade de usar paradoxos do tempo possa ser alcançada de uma maneira puramente lógica:

Source: https://habr.com/ru/post/pt383199/