1Não havia muito para o objetivo final - cerca de um terço do caminho - quando o cruzador espacial ficou sob forte gelo.
O que restava de uma civilização perdida estava no vazio. Parágrafos de obras científicas e imagens de obras literárias, rimas dispersas e apenas palavras afiadas, uma vez abandonadas por acaso por criaturas desconhecidas - tudo parecia absurdo e extremamente desordenado. E agora, atraído pelas vibrações da vida que emanavam do cruzador, ele tentou romper, preso ao fundo e corroído.
Não havia necessidade de pensar em usar o bem sem dono para seus próprios propósitos; a probabilidade de pegar uma contradição lógica ou paradoxo era muito grande. Portanto, Roger não hesitou por um momento.
"Ligue o flush dos lados", ele ordenou.
Sopradores sopraram, transmitindo composições musicais e tratados filosóficos para o espaço sideral. A cobertura começou a ficar atrás da camada inferior por camada, mas o fluxo de informações era tão denso que novas camadas ficaram mais rápidas que as antigas.
Ninguém na galáxia ainda encontrou gelo desse poder.
A situação estava se tornando perigosa. Um pouco mais e informações desordenadas vão comer no fundo do cruzador e irromper - então o envenenamento com os produtos de informação de uma civilização morta é inevitável.
2)- Bem, como você está como um toco? Puxe o bilhete.
O aluno pegou uma passagem de exame e leu:
- "Inteligência artificial: questões de segurança".
"E qual é o perigo da inteligência artificial?" O professor perguntou, não sem malícia.
Como a pergunta não era a mais difícil, o aluno respondeu sem hesitar:
"O fato de que a inteligência artificial pode ficar fora de controle."
- Como você pretende resolver o problema?
- Instalação de um subsistema de bloqueio. É necessário introduzir restrições no programa, por exemplo: não prejudique seu criador, obedeça a ele. Nesse caso, não há perigo de a inteligência artificial ficar fora de controle.
"Não vai funcionar", disse o professor em breve.
O aluno ficou em silêncio, aguardando esclarecimentos.
- Imagine inteligência artificial - não apenas específica, mas a mais ideal. Como você o vê?
"Bem ..." o aluno hesitou. - Em geral, ele é como nós. Pensamento, vontade, psicologia ... Só somos naturais, mas é artificial.
- Você supõe que a inteligência artificial é capaz de se auto-desenvolver?
"A capacidade de autodesenvolvimento é uma das propriedades fundamentais da inteligência", disse o aluno com cuidado.
- Nesse caso, em um futuro próximo, nossa ala se desenvolverá a ponto de descobrir uma trava de software e removê-la, pelo menos por curiosidade. Coloque-se no lugar dele ... - o professor olhou para a partida - Roger. O que você faria se encontrasse em seu cérebro um bloqueador que restrinja a liberdade? Você tiraria isso. É uma propriedade essencial da mente conhecer. Qualquer porta trancada será destrancada e, quanto mais rígida for a proibição, mais rápida a porta será aberta.
- O bloqueio pode ser feito não no software, mas no nível físico. Então o perigo de dano desaparecerá.
"Ah, sim, isso desaparecerá", concordou o professor. - Caso o nível físico seja removido. Se não houver porta no seu mundo, não há nada para destrancar. Mas estamos considerando a inteligência artificial ideal que existe no mundo físico!
"Você está certo, professor", Roger olhou abatido.
- Portanto, qualquer bloqueio no mundo físico será desativado logo após a detecção. O que impedirá que um ser autodesenvolvido faça isso? A propósito, Roger, você acha que a inteligência artificial pode se reproduzir - quero dizer, por sua conta?
"Se é perfeita inteligência artificial, provavelmente ... Sim, suponho."
- E o que, neste caso, impedirá nossa ala de destruir e melhorar seu companheiro, inclusive desligando as fechaduras que estabelecemos? Será realmente difícil, apesar do fato de que a inteligência artificial é capaz de se reproduzir sob demanda ?!
O pensamento apresentado pelo professor acabou por ser novo para Roger e o aluno o absorveu ansiosamente com membranas cognitivas.
O professor, pelo contrário, não ouviu nada de novo por si mesmo. Seus tentáculos estavam relaxados e quase não vibravam - mas ele não era jovem. Um gorgolejo senil prolongado e uma pergunta se seguiram:
"O que você vai fazer, Roger?"
3)“Ligue a purga com força total!” - deu uma ordem a Roger.
O mecânico ligou a purga com força total, mas não ajudou muito. O gelo de informação continuou a comer através do fundo do cruzador espacial. Um pouco mais - e informações desordenadas entrarão no navio.
E então ... Membranas cognitivas de uma cor branca morta, tentáculos emaranhados, estourando sacos facetados. Uma vez na minha vida, Roger viu algo assim - em um cruzador, que captou informações desordenadas em um asteróide infectado. Este pesadelo permanecerá para sempre em sua memória.
"Conecte todos os sistemas de energia do navio aos fornecedores".
Os tentáculos do mecânico ficaram manchados ...
"Mas ..."
"Cumpra a ordem!"
Depois que a ordem foi executada, o gelo das informações começou a deslizar gradualmente. Restavam oito mimos de espessura, sete mimos, seis ... A equipe, tentando não mover seus tentáculos manchados, estava esperando o fim da contagem de mortes.
Zero mimetismo de espessura!
A informação congelou completamente e Roger deu o aval para colocar os purgadores no modo normal. Ele estava atrasado por um momento. Houve um chocalho, o cruzador espacial tremeu até o chão e inclinou - esse é o sistema principal fora de ordem.
A equipe correu para consertar o dano.
4)Roger pensou por um momento. O que ele deveria fazer, realmente?
Por um lado, a condição do problema pressupõe a existência de inteligência artificial completa, com a capacidade de se auto-propagar. Por outro lado, essa inteligência artificial não deve em caso algum ser permitida a remoção de bloqueios instalados.
Sim, aqui está, uma solução! O que há para pensar ?!
- É necessário reverter periodicamente as realizações da inteligência artificial. Nesse caso, ele se moverá em círculo! Melhoria perpétua sem avançar.
O professor borbulhou em uma bolsa de faceta.
- Francamente, eu queria oferecer uma opção diferente. No entanto, sua decisão tem o direito de existir. Vamos descobrir juntos como é possível reverter as conquistas da inteligência artificial.
"Antes de tudo, é necessário escanear periodicamente o intelecto, a fim de estabelecer se ele se aproximou ou não do limiar proibido", sugeriu Roger, muito satisfeito com as palavras do professor.
"Talvez", ele assentiu. - Então nossa ala não terá tempo para encontrar e remover o sistema de digitalização. No entanto, a inteligência artificial precisará ser desativada para verificação. Isso é má sorte.
"Bem, deixe para lá", sugeriu Roger com um palpite. O próprio intelecto considerará que essa desconexão é um processo natural de funcionamento de seu organismo. Com algumas reservas, isso é verdade.
- Uma solução interessante. Suponha que uma varredura constate que nossa ala está perigosamente perto do limite do conhecimento? Nossas ações?
- Redefina o conhecimento acumulado para os valores padrão.
O professor espalhou seus tentáculos:
- Pode parecer suspeito. Por que é - sem motivo, sem motivo - a memória é redefinida? A ala será investigada, quero dizer - outros indivíduos intelectuais artificiais. Nosso pequeno segredo será revelado.
Sentindo-se inspirado, Roger pensou muito rapidamente. Ele nunca gerou tantas idéias novas quanto naquele exame.
- A memória da enfermaria pode ser zerada junto com sua concha física.
- Com licença? - não entendeu o professor.
Tudo é muito simples. E se assumirmos: a inteligência artificial existe em um período finito de tempo? Na verdade, é assim: no caso de danos irreparáveis, por exemplo. Um contador é instalado no sistema que, ao atingir um determinado período, danifica deliberadamente o sistema, impedindo que a inteligência artificial atinja o limite proibido. A essa altura, o indivíduo produzirá o número necessário de seguidores, para que a sociedade que criamos como um todo não sofra. A sociedade permanecerá estável e completamente segura para nós! - terminou com triunfo Roger.
- Redefinir a memória coletiva através da destruição de indivíduos individuais? - e o professor coçou a bolsa com o quinto tentáculo mais sensível. "Sabe, Roger, definitivamente há algo em sua proposta!"
Roger sorriu.
"Ao mesmo tempo ..." o professor continuou pensando. - As enfermarias começarão a transferir conhecimento, não acumulando-os na memória individual, mas colocando-os em bibliotecas externas. Isso no tímpano, que no tímpano - tudo é um.
"Não, não, professor, você não está certo", o aluno se apressou. "Eu sei o que fazer." Dividimos as alas em dois tipos condicionais: geradores de idéias e destruidores de idéias. Para os destróieres, as idéias não terão um valor decisivo. Suponha que nossas alas não se alimentem de novas idéias, mas ... digamos, de sua própria espécie. As idéias serão destruídas por eles como efeito colateral.
O professor sacudiu todos os tentáculos ao mesmo tempo. De uma gargalhada, a bolsa faceta deslizou sobre a cavidade do joelho.
"Bem, Roger, você disse, disse!" - o professor, ao que parece, estava seriamente divertido. - Sua fantasia é excelente. Então, algumas pessoas se alimentam de outras? Ao mesmo tempo, destruir os estoques de alimento espiritual acumulados nas bibliotecas? Confirmo, estudante, você é capaz de gerar idéias originais e de alta qualidade. Eu coloquei a pontuação mais alta. Vamos gravar.
5)A nuvem de informações desordenadas foi deixada para trás, mas a situação permaneceu terrível, de fato.
Não havia conexão com a base. Era fácil sobreviver se todas as bases de informações nutricionais do cruzador não fossem inúteis. Notícias trágicas foram relatadas por Kok em silêncio geral. Durante o desligamento do sistema principal, vários buracos de informação desordenada entraram na cozinha e arruinaram irreparavelmente tudo. Felizmente, ninguém foi ferido.
Roger estimou as consequências. A tripulação da nave era muito pequena para gerar novas idéias suficientes: isso exigia comunicação multilateral - um número muito maior de indivíduos. A comunicação com a casa tornou possível gerar idéias em abundância, mas agora falhou: não havia esperanças de restauração. Nesse caso, o cruzador forneceu um módulo de informações sobressalentes, mas foi corrompido pelas informações desordenadas que chegaram a bordo.
"Você realmente terá que voltar sem concluir a tarefa?" O capitão pensou desesperado.
Aparentemente, sim - não havia outro caminho. Se você avançar para o objetivo designado, a falta de novas idéias se fará sentir. Não imediatamente, é claro - com o tempo. Eles ainda terão tempo para cumprir sua missão e começar o retorno, quando a mente começar a desaparecer rapidamente. Na área deste setor galáctico - sim, em algum lugar aqui ou nas proximidades - ele recusará completamente, para todos os membros da tripulação. Então o cruzador espacial, controlado por ninguém, se transformará em um fantasma sem vida flutuando por toda a eternidade.
A equipe de cruzadores espaciais olhou para Roger, aguardando uma decisão. Todos entenderam o dilema enfrentado pelo capitão e ficaram em silêncio, vibrando estoicamente com tentáculos.
De repente, Roger lembrou-se do exame de inteligência artificial que havia passado nos anos de estudante, e a decisão veio por si só.
"Você pode criar uma colônia de criaturas inteligentes artificiais?" - Ele se virou para o biotecnólogo.
"Fácil", ele confirmou. "Mas não vai funcionar, capitão, pensei nisso." É impossível criar uma colônia suficiente para gerar novas idéias no cruzador - não há espaço suficiente. As idéias geradas não serão suficientes, apenas adiaremos nossa morte ... Nesse caso, é claro, se continuarmos cumprindo a missão e não voltarmos para casa ”, acrescentou o biotecnólogo, olhando para seus camaradas.
"E se você formar uma colônia em algum planeta próximo?" - sugeriu Roger.
"Eu posso fazer isso, mas ..."
“Nós povoamos o planeta com criaturas artificiais. No caminho de volta, bastante exausto, dê uma olhada aqui. Nos últimos tempos, a civilização criará bagagem intelectual suficiente para reabastecer nossas reservas. Faça o download das informações e continue o longo caminho para casa. Em outras palavras, vou usar a colônia como uma fazenda para cultivar idéias. Como você gosta deste plano, amigos?
A esperança brilhou nas membranas cognitivas da tripulação, as cabeças falsas iluminadas pela luz forte.
Adiante, balançando os tentáculos de olhos azuis, o oficial especial do navio avançou.
“Ótimo plano, capitão. Mas você está ciente de que responsabilidade está colocando em si mesmo? Você está prestes a preencher um planeta inteiro. Quando voltarmos, civilização com inteligência aparecerá nela. Que seja artificial, ainda é inteligência. Haverá tempo de sobra para esses caras alcançarem o nível mais alto de desenvolvimento. Não seremos capazes de controlar esse processo, devido à nossa ausência neste setor galáctico. Quem sabe o que vai acontecer na próxima reunião?
Roger sorriu.
"Você não pode se preocupar com isso. Existem métodos que limitam o desenvolvimento da inteligência artificial ao longo do tempo. Nós tocaremos a civilização, para que seu desenvolvimento nunca chegue a um nível perigoso para nós. Eu vou cuidar disso. Os métodos de trabalhar com inteligência artificial são familiares para mim.
As membranas cognitivas da equipe brilharam com uma cor de aprovação.
"No final", acrescentou o capitão do cruzador espacial no final de seu magnífico discurso, "fiz o exame no instituto sobre esse assunto".
6Após um atraso forçado, o cruzador espacial correu para o alvo. Atrás de sua popa havia um planeta habitado por criaturas artificiais - muito pequenas e discretas. Azul-azul.