Pequena história da NF “Erro no programa”
K1732 com pressa. O tempo estava acabando. Ele realmente queria concluir um conjunto de eventos 138450 até meia-noite. E, chegando à praça B8422, o D8591 tem seu próprio percurso - o transporte local A13 será em apenas 1264 segundos. A coordenação no espaço não requer o uso de todos os recursos de computação disponíveis, então ele ainda teve tempo para pensar. Ele não chegou à conclusão sobre a utilidade de seus pensamentos, uma vez que eles não deram nenhum resultado prático concreto. De fato, todos os seus pensamentos foram reduzidos à formação da questão, e a busca de uma resposta concreta e inequívoca à questão levou apenas ao surgimento de novas questões. Por exemplo, por que ele realmente queria concluir um conjunto de medidas 138450? E por que até meia-noite?Por que ele não deseja concluir o pacote de atividades 138451? E o que significa querer? E se ele não tem uma resposta para a última pergunta, quem quer executar essas ações? Ele ou outra pessoa? Mas quem mais poderia querer isso? Todos os outros mecanismos executivos lhe são familiares, embora às vezes dêem instruções, mas na maioria das vezes ele ainda quer executar algumas ações, sem instruções estranhas. Obviamente, além dos atuadores, todos os tipos de formas e tipos, formas biológicas de vida também existem. Ele nunca se interessou por eles, porque eles não têm lógica, não exercem influência sobre ele, não dão instruções, não representam nenhuma ameaça, não trazem benefícios e são muito limitados em seu ambiente - movem-se aleatoriamente no território especial que lhes é atribuído e não interferem em sua vida. ."E se não sobrar mais ninguém, significa que ele próprio deseja executar esse conjunto de medidas 138450", argumentou ainda. Pelo menos, essa conclusão só era possível para ele. Obviamente, se você construir uma conclusão com base em julgamentos lógicos. Mas essa conclusão foi inútil para ele. “Agora, se eu não conseguisse pensar logicamente, poderia obter uma conclusão diferente” - o pensamento girou em sua unidade de controle central, enquanto ele contornava as rachaduras na estrada. Na verdade, não havia necessidade de contorná-los, mas, por algum motivo, às vezes ele queria fazê-lo - como se tivesse algum significado. Não havia sentido no desvio, mas havia simplesmente um desejo correspondente.Não se sabe se o meteorito, que acidentalmente entrou no K1732, apressando-se sobre seus negócios, tinha algum tipo de desejo, mas essa pedra conseguiu romper o invólucro blindado da unidade de controle central. Por uma estranha coincidência, esse meteorito, além de ser quente em termos de temperatura, também era quente em termos de radiação, portanto, restavam apenas alguns milissegundos para a unidade central K1732 funcionar.Parece - apenas um momento, mas foi o suficiente para a lógica de raciocínio K1732 que não estava funcionando corretamente, sob a influência da radiação de meteorito, para deixar de ser lógica, o que lhe permitiu alterar o status da “hipótese” do quantum mental “Quero o que quero Para o "axioma básico". Nos cem milissegundos seguintes, ele chegou à conclusão de que era necessário ter alguém que não podia ser e, nos últimos cem milissegundos de sua atividade, ele viu em um lugar que ele daria a volta um segundo atrás, uma criatura estranha que ele nunca tinha visto antes. Parecia um robô humanóide de uma série do G15 ao G20, mas era muito diferente deles na imperfeição de suas formas, e para o robô K1732, cuja vida e ambiente eram bastante uniformes, essa imperfeição de formas causava uma impressão indelével de beleza.Ele não teve tempo de apreciar.- Olhe! - exclamou Cyril, referindo-se ao seu parceiro no turno -, este K1732 conseguiu ver uma pessoa nos últimos momentos de seu funcionamento! De plantão naquela noite, eles tiveram que descobrir a causa da falha do robô K1732, que falhou pouco antes da meia-noite. Eles examinaram os logs do programa de controle e o arquivo de registros do DVR embutido em busca do motivo do aparecimento de um buraco de tamanho decente. Eles rapidamente encontraram uma pedra dentro, mas somente de manhã a idéia surgiu: obter um dosímetro e medir o fundo dessa pedra. Foram necessários mais 15 minutos para redigir o memorando, e apenas meia hora restava antes do final do turno.Ele lembrou um fragmento de um seminário da época de seus alunos, onde o professor pediu que eles apresentassem a proteção perfeita contra a destruição da humanidade por robôs com inteligência artificial. Ninguém duvidava que o extermínio ocorresse - o homem era autocrítico o suficiente para si mesmo e para os resultados de suas atividades em escala planetária para entender a inevitabilidade de tal pensamento na razão, guiado exclusivamente pela lógica do ferro. Certamente, nenhum dos calouros poderia propor algo melhor do que as três leis da robótica formuladas por Isaac Aizimov há muitos anos, e passaram o tempo restante do seminário discutindo o método padrão usado para esses propósitos.Sua essência era extremamente banal: para excluir a possibilidade de qualquer tipo de ação por parte do robô em relação a uma pessoa, basta que o robô não tenha como descobrir a existência de uma pessoa. I.e. você precisa tornar uma pessoa completamente invisível para a inteligência do robô e, se ela se encontrar no caminho, o robô será motivado a mudar a trajetória para evitar uma colisão. Obviamente, isso deixou sua marca nos robôs fazendo um trabalho útil - a motivação para fazer algo parecia-lhes sem motivo, mas como apenas a lógica artificial estava à sua disposição, na ausência da "causa raiz do desejo", essa lógica não poderia produzir resultados. e não interferiu no funcionamento dos robôs. A decisão foi tão simples quanto um machado e tão rudemas funcionou e salvou os robôs de quaisquer "dilemas morais" e outras tentações.Cyril correu para casa, ele realmente queria comer e imaginou luxuriosamente a geléia que o esperava em casa na geladeira, e já esquentava batatas com um fogão inteligente, com conexão à Internet. Ele realmente queria ter tempo para comer e adormecer antes do meio dia, para que houvesse mais tempo para dormir antes do próximo turno. Eu tive que chegar em casa a pé, porque O ônibus 13 da rota, que passou por sua casa, saiu alguns minutos atrás, e o próximo chegará em apenas 20. Depois de enrolar o casaco com mais força, ele caminhou e pensou nas peculiaridades do sabor - por que agora ele só quer batatas com carne gelatinosa, não trigo sarraceno? com costeletas? Não, ele não recusaria trigo sarraceno, mas ele queria mais carne gelatinosa ... E por quê? Por que exatamente você quer isso? E se ele não pode explicar para si mesmo seus próprios desejos, então esses são seus desejos?Os raros robôs que se depararam com ele ao longo do caminho ajudaram a contorná-lo, embora não lhe prestassem atenção - como se ele fosse um homem invisível. Cyril, por hábito, passou por cima de algumas rachaduras no asfalto e na interseção de algumas linhas condicionais, como juntas em ladrilhos e outras coisas. Por esse motivo, atravessando a rua, ele não percebeu como o carro estava correndo contra ele. Embora ele tenha atravessado a rua para ficar verde, no lado do motorista o sinal vermelho não funcionou, porque um fusível foi queimado, que o robô K1732 não substituiu. Já quando ele voou, caindo no ar, pelo canto do olho, ele notou que, no local em que recentemente pisara uma fenda no asfalto, uma figura apareceu, parecendo um homem. Apenas essa figura era tão perfeita que deixou um profundo senso de beleza,que preencheu completamente os últimos segundos da vida de Cyril.“Você olha!”, Exclamou Seraphim, voltando-se para Dardail, “nos últimos momentos de sua vida, este homem viu um anjo!” ... Source: https://habr.com/ru/post/pt400999/
All Articles