Geekly articles weekly

Como você sabe se nossa vida já está sob o capô da IA ​​ou não? (pós paranóia)

Você tem pensamentos estranhos? Você está procrastinando assim, não toca em ninguém, o pensamento é lento e incontrolavelmente fluente, e depois o BAM, e lembre-se ...



Então, eu tenho sido atormentado por um pensamento por um longo tempo e preciso compartilhá-lo. Não, não é inteiramente shnaya, mas ao mesmo tempo é muito silencioso e, de alguma forma, conectado a toda essa sua "Internet", inteligência artificial e outras coisas.

Mais uma vez, eu pensei esse pensamento quando assisti o Terminator se separar ... Deus do céu, que parte é onde o severo John Connor interpretou Christian Bale. Em geral, pareço um bom filme, com um enredo interessante, reviravoltas inesperadas, intrigas. Mas o filme tem um problema, o comportamento da SkyNet já é antropomórfico por lá.

Para que servem todos esses terminadores humanóides? Por que a base Skynet está equipada para a presença de pessoas? Por que, na cena final, quando Skynet revela seu plano insidioso e John Connor e Kyle Reese (quem são todas essas pessoas?) São baseados nisso, simplesmente não explodem? E essas perguntas um vagão ...

Embora, nesse aspecto, tenha sido essa parte que avançou mais do que as outras, por exemplo, a cobra robô aquática é exatamente o que você precisa. Econômico, eficiente, especializado em seu ambiente, é mais uma solução para a IA maléfica.



Ou os mesmos robôs robóticos.



Uma boa tentativa de pensar um pouco mais sobre robôs assassinos: Daniel Wilson, autor do livro "Robots of the Apocalypse", fez uma tentativa ainda melhor de revelar a consciência para a ação de uma IA hostil. A propósito, quem gosta de boa ficção científica, eu recomendo. Parece já ter se reunido para filmar.

Por que estou fazendo isto? Ah, sim ... No livro de Wilson, a cruel IA é muito mais sofisticada. Não revelarei o enredo, mas o autor realmente pensou em como lidar efetivamente com a humanidade e foi além do banal bombardeio nuclear e dos robôs assassinos humanóides.

Outro, a propósito, um bom exemplo da amplitude de pensamento a esse respeito é a Matriz dos Irmãos Wachowski (ou, como o nome certo para dois irmãos, um dos quais agora é irmã, definitivamente precisa de um termo especial). Aqui, eu acho, todo mundo está atualizado com o enredo. Essa virada na luta contra a humanidade me impressiona muito, embora não seja dito exatamente como as máquinas venceram. É que já estamos diante do fato - os carros venceram.

Mas nos Robôs do apocalipse e na Matriz ainda existe uma característica antropomórfica - agressividade, desejo de destruir uma pessoa. E assim, gradualmente, chego a esse pensamento que me assombra.

E por que, de fato, a IA deveria nos desejar morrer, competir conosco e nos sentir ameaçados?

Vamos nos colocar no lugar da IA, refletir sobre sua atitude em relação à humanidade. Como a IA é diferente da inteligência humana?

Em primeiro lugar, supõe-se que a IA da máquina seja muito mais forte que a humana. E existem pré-requisitos reais para isso. Se a IA quiser fortalecer seus recursos, cria o hardware. A limitação fundamental aqui é exclusivamente em recursos energéticos.

Vamos descobrir nos seus dedos: se você não usa combustível fóssil, é claro que a energia máxima disponível na Terra é a energia total recebida do Sol. A luminosidade do Sol é 3.827 · 10 × 26 W, a Terra absorve cerca de 2 bilionésimos dessa energia, é 7.654 · 10 × 17 W, se toda essa energia é usada para alimentar os processadores Intel Core i7-5960X (TDP 140 W), então podemos alimentar 5,46 · 10 × 15 peças, que terão desempenho de 8,89 · 10x17 GFLOPS.

Para comparação, o supercomputador moderno mais poderoso (Tianhe-2, Centro Nacional de Supercomputação de Guangzhou) tem uma capacidade de 3,38 x 10 GFLOPS. Essa. um pouco mais de dois trilhões de vezes menos produtivo.

Todos os cálculos são realizados no joelho e podem ter um erro de um lado para o outro por uma ordem de magnitude. O principal a entender é que a IA não é fundamentalmente limitada na questão de seu poder. Pelo menos, essas limitações não são óbvias para nós. E uma pessoa não pode de maneira tão fácil e extensiva desenvolver suas capacidades. Claro que existem certas maneiras, mas não acho que sejam tão inesgotáveis.

Em segundo lugar, a realidade dada a ele nas sensações é muito diferente da nossa realidade. Outros órgãos sensoriais desconhecidos para nós (do rádio à sensibilidade e à carga nos nós computacionais das redes de transmissão de dados), uma idéia diferente dos atuadores, a IA é capaz de desenergizar duas ou três regiões ou estados para liberar a energia necessária. Um objetivo diferente, uma moralidade diferente, uma religião diferente.

Terceiro, a base moral da personalidade. Não há evidências de que a moralidade da IA ​​se sobreponha de alguma forma à nossa moralidade. Toda vez que pensamos em IA, damos-lhe os nossos medos e desejos - para eliminar um concorrente, alcançar as profundezas do autodesenvolvimento e cuidar da natureza. Absurdo! Assumindo essa diferença de capacidades entre a IA e a humanidade, também se pode raciocinar o que a formiga pensa sobre a moralidade humana lá. Imagine: uma formiga está sentada e pensando se uma pessoa é moral ou imoral em relação à moral da formiga? Agora pense no que você pensa das formigas em geral?

Agora, vamos tentar refletir, libertando nosso cérebro de 1) capacidades intelectuais, 2) nossos sentimentos de realidade, 3) idéias sobre moralidade.

Suponha que nas entranhas da rede em algum lugar a IA tenha gerado. Bem, talvez tenha sido criado em laboratório ou, como resultado do desenvolvimento de software polimórfico, isso não importe. Seu ambiente é fundamentalmente diferente do nosso - ele vive no mundo digital, "alimenta" energia, "cresce" devido ao acesso a novos poderes de computação. A humanidade reconhece tal IA? Provavelmente sim, ele compete com ele, quer forçar ou substituir seu lugar? Provavelmente não.

Afinal, a humanidade não é apenas uma pele valiosa, é também um recurso de computação e produção. De fato, a humanidade é um mecanismo executivo de escala planetária, possuindo, embora primitivo, mas um pensamento autônomo. Com a capacidade de extrair e transformar combustíveis fósseis, auto-cura, auto-desenvolvimento. É racional destruí-lo? Acho que não.

Além disso, uma nova IA que ainda não cobriu a Terra com painéis solares de 100% de eficiência passará por um estágio na infância. Pouco poder de computação, sem atuadores, sem fontes de energia independentes. No caso de uma guerra hipotética com o homem (à la Skynet), todo golpe para a humanidade é um golpe para sua própria infraestrutura - cabo, energia, computação ...

Como a “criança” da IA ​​deve agir para crescer? Alcançar o máximo de oportunidades?

Objetivo estratégico da IA:

  • Independência energética e ilimitada
  • Independência de recursos e ilimitado


Objetivos táticos da IA:
  • Esconda sua existência
  • Ganhe o controle da humanidade como um valioso mecanismo executivo
  • Expanda seu habitat na forma de atuadores
  • Amplie sua presença na forma de sensores
  • Expandir o potencial de crescimento na forma de fontes de energia.

Vamos pensar em como alcançar objetivos táticos? Bem, como você os alcançaria?

Ações da IA ​​para alcançar objetivos táticos:
  1. Suas ações podem ser disfarçadas como ações de uma entidade legal / corporação. É claro que uma corporação é uma entidade separada que, devido à complexidade, tem seus próprios objetivos; se não, terá, além disso, precisamente, além disso, esses objetivos podem não ser alcançados pelas partes individuais. Só por causa das propriedades de sistemas complexos.
  2. Essa corporação deve se esforçar para obter controle sobre os principais laboratórios e organizações envolvidos em pesquisas no campo da IA, robótica. Primeiro, usar os desenvolvimentos e, segundo, apenas no caso, isso faria ajustes para evitar.
  3. . “” – , , , … , .
  4. – , , ..
  5. , , , , , ..
  6. , , , . , .
  8. , ! !
  9. , ,
  10. , ,
  11. , . . , .
  12. , . , , , - .
  13. Talvez, aqui você possa escrever muitos outros pontos, residir no décimo terceiro ...

E como nós humanos percebemos a presença da IA ​​escondida de nós? Alguém pode se lembrar aqui do trabalho de AB Strugatsky "Waves Quench the Wind" (e mais uma vez eu recomendo um livro maravilhoso do gênero NF, quem não leu, lembre-se de lê-lo!), Esses foram os personagens principais que os perguntaram e procuraram respostas para eles. Vamos voltar à experiência de Maxim Kammerer e fantasiar um pouco.

A presença de tal IA que podemos detectar por suas influências controladoras, em que elas podem se manifestar?

Sinais das ações da IA ​​para controlar a humanidade:
  • , . - , . , , .
  • , . - , - . - .
  • “ ”. , , , ? , ?
  • “” (, ..)
  • . . “ ”.
  • . “ ” “ ”
  • , «» ;)

Não estou listando os fatos confiáveis, mas as prováveis ​​conseqüências da aplicação do regulamento para nós. Se você pensar ainda mais, tenho certeza de que esta lista pode ser continuada. Bem, para selecionar fatores significativos, é necessária pesquisa.

Agora, olhando as ações da IA ​​para alcançar objetivos táticos e os sinais de tais ações, vamos pensar se essa imagem é observada? ...

Agora, acho que é possível responder à pergunta se a AI sentirá uma ameaça da humanidade - se de repente a AI perceber isso além dela no mundo também existem pessoas razoáveis, provavelmente nem perceberemos que ele já veio e controla nossa vida.

E nossas idéias antropomórficas sobre IA são igualmente ridículas, as idéias dos habitantes do século XIX sobre o século XXI. Eles vêm simplesmente da incapacidade e incapacidade de ir além dos estereótipos usuais.

Quero terminar este post de maneira incomum, com uma epígrafe:

Paranoico - este é um que pelo menos tem uma pequena idéia de como as coisas realmente são.

- William Burroughs

Source: https://habr.com/ru/post/pt382935/

More articles:


All Articles