Vários dos romances de Kurt Vonnegut têm o planeta fictício de Tralfamador. Seus habitantes vivem em quatro dimensões e vêem ao mesmo tempo o tempo todo, do começo ao fim. Eles sabem como o universo começou e sabem como ele morrerá: os cientistas dos testes de Tralfamadore lançarão um super-motor, ele explodirá e destruirá tudo. Mas eles nem estão tentando impedir uma catástrofe. Não há indícios de que o curso dos eventos precise ser alterado. Eles continuam progredindo em direção a esse mecanismo, porque em seu mundo tudo o que acontece já aconteceu.
Às vezes me parece que pensamos da mesma maneira, apenas um pouco menos conscientemente. A idéia de que o progresso não pode ser parado nos dá um otimismo inabalável. Se você não parar, tudo está indo como está e há contínuos sucessos intermináveis pela frente. Devemos relaxar e remar com o fluxo. Mesmo cenários perturbadores respondem em um canto da consciência com deleite romântico. "Os carros se tornarão inteligentes e matarão todo mundo?" Classe! Como um filme! Refere-se a isso com sério pessimismo - quase insanidade.
É claro que a realidade é sempre mais chata que a ficção, e alarmistas e luditas geralmente morrem antes que o progresso justifique seus medos. Mas, de acordo com alguns futurologistas, mesmo em nossa vida, podemos nos tornar testemunhas de grandes pontos sem retorno, dos quais estamos felizes em correr a toda velocidade.
Recentemente, o
fillpackart escreveu uma
coluna sobre os níveis de abstração nas linguagens de programação modernas. Alegadamente, entre o código e a execução no hardware, existem tantas camadas automatizadas de interpretação e compilação que começamos a perder o controle sobre coisas de baixo nível.
Discutimos bastante esse tópico e, é claro, não acreditamos que todos os programadores devam abandonar idiomas familiares juntos e mudar para um martelo com um ferro de soldar. Abstração é ótima. Recursos modernos, facilidade de solução de problemas e nível de conforto - tudo está bem. Provavelmente, ser um desenvolvedor é legal como nunca antes.
Mas o mundo é uma coisa cheia de paradoxos. Pensar no que acontecerá com a indústria em dez anos parece importante. Mas depois das 60–70–170 - de alguma forma, não é mais muito. É como se não nos interessasse. Mesmo se sobrevivermos, a essa altura, a pressão atmosférica e as chamadas dos netos se tornarão mais importantes para nós. Mas, pelo menos por um segundo, imagine o que acontecerá se você aumentar constantemente a espessura das abstrações e aumentar o conforto da programação. Se você automatizar, automatizar e automatizar.
Penso que, neste caso, os descendentes de nossos descendentes herdarão a "caixa preta" - uma tecnologia que funciona por si só, compreensível apenas para ela e para nós, criadores há muito mortos (que deixaram algum tipo de documentação ilegível à moda antiga), de certa forma. A tecnologia não precisa saber, apenas precisa de manutenção. E tenho certeza de que, com isso, o negócio de TI construirá sua cultura, e cada manifesto lerá: "Não chegue ao núcleo da tecnologia, deixe-o resolver problemas".
Imagine como seriam as conversas então, no ano de 2199. Provavelmente algo no espírito: “De acordo com nossas observações, se dissermos que o sistema a palavra“ cumprir ”, ela sairá 0,8 segundos mais rápido do que se dissermos“ fazer ”. E se você fizer uma pausa de três segundos no final do discurso e depois adicionar "aspargos", a conversão aumentará em 3%. "
E se você tem uma opinião melhor da humanidade, veja as pessoas que colocaram um link no Facebook no primeiro comentário. Hoje estamos começando danças “racionalmente justificadas” com um pandeiro pelo fogo, se apenas o algoritmo popular apenas fechar a parede conosco um pouco.
A questão realmente importante não é "A tecnologia se transformará em uma caixa preta", mas "Quando isso acontecerá". E há pessoas muito mais inteligentes que eu que acreditam que a magia, em vez da ciência, começará mais cedo do que me pareceu.
No verão passado, ouvi um discurso de Leonid Tkachenko do MTS em uma conferência de big data. No começo, ele falou sobre a morte de uma telecom, depois divertiu as pessoas com previsões:
Existe uma teoria sobre a singularidade tecnológica. A inteligência humana está crescendo muito lentamente, enquanto a inteligência artificial está crescendo rapidamente. Estamos progredindo de maneira contundente, acasalando acidentalmente quando alguém gosta de alguém e a evolução humana é lenta. Nós somos iguais a um milhão e meio de anos atrás. O cérebro progride por um longo tempo, porque tudo acontece aleatoriamente.
Quando falamos sobre IA, treinamos propositadamente para torná-la cada vez melhor. Ele não acasala com ninguém por acidente; ele faz o que queremos. E, de acordo com algumas estimativas, a inteligência artificial alcançará o humano em 2030–40.
Isso significa que o progresso tecnológico vai além. Ele não vai parar. Mas a IA irá movê-lo. Não seremos capazes de entender o que ele criou e ele continuará a fazer avanços tecnológicos.
E há uma questão ética separada - funcionará contra nós? Quanto podemos controlá-lo? Afinal, ele será mais forte. Se ele trabalhará para o nosso bem ou nos transformaremos em vacas.
As vacas vivem na Terra, ninguém as extermina. Mas as vacas nem mesmo entendem que as pessoas ainda vivem na Terra que as usam como querem. Sim, as vacas não são apagadas da face da Terra, mas os donos da vida agora, é claro, estamos com você. Em algum momento, alguém pode se tornar o proprietário, isso pode acontecer. E esse momento está próximo.
Leonid, quando disse isso, contou com as previsões de Vernon Vinge e Raymond Kurzweil. Vinge é escritor e, embora o termo “singularidade tecnológica” lhe pertença, sua previsão é otimista demais (pessimista?). Alegadamente, perderemos o controle sobre o progresso tecnológico até 2030. Kurzweil é engenheiro e contou um pouco mais de tempo - até 2045.
Ambas as previsões foram baseadas na lei de Moore, com um aumento constante na frequência de processadores. "É tudo sobre hardware e software", disse Kurzweil em 2006.
No meu livro, A singularidade está próxima, escrevi que precisamos atingir 10 quadrilhões (10 16 ) de operações por segundo, a fim de fornecer o equivalente funcional de todas as áreas do cérebro - ainda menos por algumas estimativas. Alguns supercomputadores já estão em torno de 100 trilhões (10 14 ) e atingiram 10 16 no final desta década.
Supercomputadores com um quadrilhão de operações já estão no projeto e dois fabricantes japoneses planejam chegar a 10 16 em alguns anos. Até 2020, os computadores com 10 bilhões de operações custarão mil dólares.
O fato de o ferro atingir tais capacidades foi controverso quando escrevi o primeiro livro em 1999, e agora essa é uma opinião muito popular. As disputas agora lideram mais os algoritmos.
Mas agora, em 2019, pode-se ver como as previsões de Kurzweil, se não se realizam, estão pelo menos se afastando. Primeiro, os algoritmos e as maneiras de bombear o ferro foram de maneiras ligeiramente diferentes. Na mesma época em que Kurzweil escreveu isso, os fabricantes começaram a mudar para arquiteturas multinúcleo, o que complicou um pouco a lei de Mura. E o supercomputador mais poderoso da atualidade, que começou a ser projetado no mesmo ano de 2006, lida com apenas duzentos trilhões de operações por segundo. Ainda há um longo caminho para concluir a reconstrução do cérebro, e ainda mais, com um custo de mil dólares.
As outras previsões de Kurzweil parecem completamente fantásticas. Por exemplo, a primeira tentativa de promover a RV falhou, embora Kurzweil estivesse contando com uma mudança completa para o mundo virtual alguns anos atrás. Nanorobôs implantados na cabeça, o que aumentará muito nossas habilidades, também existem apenas em filmes e livros.
Por outro lado - agora quase todas as falhas tecnológicas são respondidas "ainda não chegou a hora". Otimismo, pessimismo e um sentimento de inevitabilidade não podem ser tirados da sua cabeça por nenhuma lógica, como se tudo o que já havia acontecido já tivesse acontecido em Tralfamador, não podemos descobrir a data exata.
Se a pergunta “quando” for decidida apenas pela expectativa, a escolha “ser otimista ou pessimista” deve ser feita por nós mesmos.
Kurzweil não parece ter uma única gota de tecnofobia. Ele é um otimista raro e até hoje acredita que a singularidade está se aproximando, e isso não é um problema, mas um desafio, nossa indulgência, de finalmente começar a aumentar o cérebro orgânico com algo que tem pedaços de ferro e microprocessadores. E além do horizonte da singularidade, não é uma perda de controle sobre a tecnologia, nem um cenário em que a IA acorda e mata todos nós - mas uma revolução, como resultado da qual uma pessoa finalmente deixará de ser um ser puramente biológico.
O apresentador do programa Origins da National Geographic, Jason Silva, acredita que isso já aconteceu, simplesmente não percebemos, porque não aconteceu em uma escala de ficção científica, mas como sempre acontece na realidade - gradual e mundana:
Kurzweil e Kevin Kelly dizem que continuaremos a aumentar nosso pensamento, oferecendo cada vez mais maneiras de processar informações para portadores não biológicos. A IA não se rebelará contra nós, tornaremos nossa própria inteligência cada vez mais artificial.
Mas já estamos descarregando parte da consciência em portadores artificiais. Quando escrevemos algo no papel, parte do pensamento acontece apenas neste artigo. Parte do pensamento é que movemos a alavanca. Parte do pensamento acontece quando você olha para seus próprios pensamentos, descarregado no papel e reage ao que você escreveu.
O ambiente artificial já faz parte do aparato de pensamento. Os filósofos David Chalmers e Andy Clark expressaram a tese sobre "consciência expandida", segundo a qual um smartphone já é um complemento ao pensamento, e esse pensamento não se limita ao cérebro, que a consciência realmente existe no ciclo de feedback entre o cérebro, as ferramentas e o ambiente. É por isso que dizemos que nossos pensamentos esculpem o ambiente, e o ambiente afeta os pensamentos. Tudo o que criamos nos cria também. Não há "somos contra eles". Existe uma grande inteligência distribuída, que consiste em partes biológicas e não biológicas.
Portanto, acho que não temos nada a temer. São apenas bilhões de pequenas etapas que expandem nossa capacidade de criar.
Sua atitude otimista é baseada no fato de que nada de novo acontecerá e não haverá nada a perder o controle. Que, desenvolvendo tecnologia, bombeamos nossa própria consciência, e essas coisas são inextricáveis. Se você olhar de perto, isso faz sentido. Acima de tudo, por exemplo, estou impressionado com nosso senso interno de tempo, completamente construído sobre ferramentas.
Tendo inventado e escrito “horas no papel” horas, minutos e segundos, começamos a medir tudo com eles à primeira vista inconscientemente. Você pode mergulhar em qualquer negócio e terminar sem pensar: "Passei três horas". Você pode se deixar levar pelo filme para esquecer tudo, mas nos créditos você sente claramente que duas horas se passaram. Mas se você tirar todo o ambiente, todas as ferramentas e todo o trabalho, a consciência do tempo começará a desaparecer da consciência. Uma pessoa, depois de passar uma semana em uma caverna escura, se enganará em avaliar o tempo decorrido por vários dias. Mesmo sentado em uma sala vazia, é impossível avaliar se uma hora se passou ou duas. Acontece que a sensação do tempo não vive dentro da consciência, mas fora.
E vivemos muito bem com o fato de que o conhecimento da humanidade há muito tempo está armazenado não no cérebro, mas na mídia externa. Que toda a civilização, infra-estrutura e comunicação são construídas sobre coisas descarregadas da memória. Isso é normal porque os portadores parecem ainda mais confiáveis e compreensíveis do que o nosso próprio cérebro.
Mas a tecnologia moderna é construída sobre um paradoxo engraçado. As pessoas não confiam em sua consciência e tentam consolidar tudo além dela e, ao mesmo tempo, consideram a consciência humana o controlador mais confiável. Mas se uma pessoa é tão imprevisível e os mecanismos são tão claros e confiáveis, por que, por exemplo, as diretrizes militares proíbem o desenvolvimento de sistemas de IA sem controle humano?
Pessimismo irracional no fluxo de otimismo?
O controle, a pedra angular do paradoxo do progresso moderno, é a última coisa que estamos prontos para dar ao ambiente externo, apesar de nós mesmos não confiarmos nele.
Sou pessimista na vida, mas sei que é melhor olhar tudo com otimismo. Quanto mais acessível a tecnologia, mais tudo é automatizado - mais fácil é viver. Problemas irão clicar como nozes. Estou otimista em relação à tecnologia, como voar em um avião. Para voar com conforto, você deve acreditar que pousará. É fácil, porque as chances são muito altas. Mas sempre há a menor chance de quebrar. E se a fé nele ganhar otimismo, o vôo se transformará em um inferno de inferno.
Acredito que tanto o otimismo quanto o pessimismo em torno da influência do progresso sobre nós crescem do mesmo lugar. Dei um exemplo com um avião porque sou um aerofóbico. Tentei resolver meu medo e percebi que era apenas o medo da falta de controle que estava por baixo dele.
Eu odiava a primitividade do meu cérebro quando o problema foi resolvido por um simples truque psicológico. O aplicativo ajudou, que monitora o estado da aeronave e explica em movimento todos os sons, inclinações e assim por diante. Tendo recebido a ilusão de controle na forma de conhecimento, me livrei da ansiedade, passando por toda a minha racionalidade e lógica. Afinal, pelo fato de eu saber alguma coisa, a chance de quebrar não diminuiu em um por cento, mas tornou-se psicologicamente mais fácil para mim.
O medo de perder o controle e não ter informações é irracional. As pessoas geralmente são divididas em dois tipos. Aqueles que, quando criança, dormiam de frente para a porta para ver o monstro que entrava nela - e de costas para a porta, de modo que em nenhum caso ele seria visto. O monstro vai te devorar nos dois casos. A única questão é a quantidade de informações recebidas antes da morte inevitável, para que não seja tão assustadora. Embora, qual é a diferença em um sentido global?
Se eu quisesse criar uma IA que deveria assumir o controle de uma pessoa, faria tudo para dar ao usuário a ilusão de abertura, compreensão e controle.
E parece-me que o pensamento dos luditas e tecnofóbicos modernos se baseia precisamente nesse medo irracional - sem saber o suficiente. Os otimistas provavelmente estão calmos sobre o mesmo. Eles têm certeza de que sempre conhecerão e controlarão exatamente o necessário para beneficiar e viver confortavelmente.
Grosso modo, se a programação se transforma em uma conversa humana normal com um sistema de voz e funciona realmente efetivamente, por que não? O pessimista dirá: "como sabemos se o sistema entendeu tudo bem o suficiente". O otimista ficará em silêncio, mostrará o problema que foi resolvido com sucesso e acionará o microfone.
O medo da falta de conhecimento está no entendimento de que o conhecimento existe, mas não pode ser reconhecido. Afinal, não saber o que você não sabe não é tão assustador.
Em 1984, Thomas Pinchon escreveu o ensaio "
É normal ser ludita " e mesmo assim disse que a fonte da ignorância é conhecimento demais.
No mundo moderno, qualquer pessoa que tenha tempo, competência e dinheiro para pagar pelo acesso poderá obter qualquer conhecimento especializado de que possa precisar. O problema, de fato, é como reservar um tempo para ler algo fora da nossa própria especialização.
No texto, Pinchon entende como o medo da tecnologia mudou ao longo do tempo. Após as greves dos trabalhadores (que é de onde veio o nome "Luddites"), que esmagaram teares porque os roubaram seu trabalho, a tecnofobia foi mais bem registrada nos livros de escritores. De fato, os escritores, diferentemente dos cientistas, acham que a ignorância é inevitável, e há muitas coisas que eles nunca entenderão. Os cientistas a todo momento sabem exatamente o que lhes permitirá aprender ainda mais no futuro. Ou seja, a divulgação de todo o conhecimento é uma questão de tempo. Se for muito rude, os escritores acham que não têm nada a controlar, os cientistas acham que controlam o quanto é preciso para assumir o controle ainda mais.
Naqueles dias em que pogroms e a revolução industrial eram um tema quente, Mary Shelley escreveu o romance Frankenstein, ou o moderno Prometeu. Falando um pouco - esta é a primeira ficção científica e imediatamente sobre como o cientista foi morto por sua criação (desculpe pelo spoiler).
Desde então, nos livros de ficção científica sobre tecnologia, o pessimismo e o otimismo mudam constantemente, porque voar para o espaço é legal e o bombardeio nuclear é ruim - mas todos esses são os resultados do progresso moderno. Com o tempo, a tecnofobia dos escritores passou do horror para algo cada vez mais estranho. Ou pela percepção de que eles estavam errados, e você não precisa ter medo da tecnologia. Ou vice-versa - porque tudo já está perdido, os pontos sem retorno são passados e o pessimismo se transforma em um sentimento de desesperança.
Os mainframes atrairão tanta atenção hostil quanto os teares? Eu duvido muito disso. Escritores de todos os tipos fogem em pânico para adquirir processadores de texto. As máquinas já se tornaram tão fáceis de usar que até os Luddites mais mal adaptados podem ficar tão encantados com elas que desistem da velha marreta e batem nas teclas.
Com a alocação correta do orçamento e do tempo do computador, podemos curar o câncer, salvar a humanidade da destruição nuclear, cultivar alimentos [o suficiente] para todos, neutralizar os efeitos da poluição ambiental pela indústria do tráfico - em suma, realizar todos os sonhos tristes do nosso tempo.
Se nosso mundo sobreviver, outro grande desafio se seguirá, e vale a pena prestar atenção: você o ouvirá pela primeira vez quando todas as curvas de pesquisa e desenvolvimento no campo da inteligência artificial, biologia molecular e robótica convergirem. Apenas pense!Será surpreendente e imprevisível, e até os maiores chefes, que sinceramente esperamos, serão pegos de surpresa. Isso, é claro, será algo que todos os luditas exemplares esperam, se Deus quiser, viveremos para ver esse momento.
Ou seja, o medo dos tecnófobos transformou-se não apenas em uma sensação de desesperança, mas em uma expectativa espantosa de que os cientistas ficarão com o nariz. Quando a cobiça por conhecimento e autoconfiança permanecerá de lado.
O pessimismo que perdi agora parece ser um monte de loucos que não entendem nada (se você é um tecnofóbico, vá morar na floresta e não se incomode). Ele se transformou na opinião "queremos o melhor, mas faremos como sempre". Mas é costume pensar em pontos sem retorno no tempo futuro. Pensar que eles já foram concluídos, especialmente em um momento em que não é como computadores - nem mesmo linguagem escrita - é absolutamente selvagem e sem sentido.Uma opinião tão impopular foi expressa pelo antropólogo Yuval Noah Harari no livro Sapiens: A Brief History of Humanity. Segundo ele, criamos nossa super-máquina Tralfamador há dez mil anos, quando fizemos a revolução agrária e, desde então, nossa evolução foi na direção oposta. Alegadamente, o homem-coletor possuía o cérebro mais desenvolvido da história, vivia muito mais confortável e mais feliz.Mas então ele plantou trigo e ficou dependente dele.A revolução agrária não foi de modo algum o começo de uma vida nova e fácil - os fazendeiros antigos viviam muito mais e às vezes com mais fome do que os colecionadores. Caçadores e coletores levavam um estilo de vida mais saudável, não trabalhavam tanto, encontravam-se em atividades mais diversas e agradáveis, com menor probabilidade de sofrer de fome e doenças. Graças à revolução agrária, a quantidade total de comida consumida pela humanidade certamente aumentou, mas mais comida não é necessariamente uma dieta mais saudável. Não, como resultado da explosão demográfica e da elite, o criador ou fazendeiro de gado médio trabalhou mais e comeu pior do que o caçador ou coletor médio. A revolução agrária é o maior golpe da história.
. . – , , . : «, . ! - . . - !»
– , - , – - .
Mas, segundo Harari, os povos antigos que a plantaram não se prenderam. Os primeiros agricultores tiveram tudo bem, eles realmente simplificaram suas vidas e trouxeram o conforto que seus ancestrais buscavam há séculos. Isso tornou-se uma armadilha para os tataranetos, que já haviam perdido a qualidade de seus ancestrais para viver e escolher os melhores. Ficaram apenas com a agricultura e foram gradualmente capturados por todas as deficiências do novo modo de vida.A teoria é especulativa, tensa e cheia de especulações. E talvez a criação de um sistema super automatizado que resolva todos os problemas de nossos descendentes no futuro distante seja considerada prejudicial pela mesma injeção. Mas vamos criar de qualquer maneira. Porque progresso, produtividade e crescimento constante são uma nova religião e o significado de nosso tempo ateísta. E se agora estamos cada vez melhor, por que se preocupar em vão? Ainda acreditamos nisso um pouco mais, e tudo será perfeito. Você só precisa trabalhar um pouco mais.Mas se você afogar o otimismo por um segundo e se lembrar da solutivista "tecnologia resolve os problemas que eles mesmos criam" - o que acontecerá? Nada além de, talvez, a constatação de que você não está sozinho, mas de que está sendo arrastado para trás de um trem em alta velocidade.Um pequeno experimento mental. Imagine que você viu o futuro e sabe que daqui a cem anos a tecnologia sairá do controle, o super-motor explodirá o universo quando testado (ou pelo menos transformará os descendentes em idiotas subdesenvolvidos). Você vai mudar alguma coisa? Parar de desenvolver tecnologia?Ou aqui estão mais alguns detalhes. Se você tivesse um impacto realmente grande no progresso, você o interromperia neste caso? Nesse caso, você não ficaria envergonhado com o pensamento de que sua escolha já estava registrada na linha do tempo? Que influência no futuro não existe? Esse conhecimento realmente não dá controle - é simplesmente conhecimento pelo conhecimento, que globalmente dará apenas contemplação passiva de um monstro entrando em uma sala.Quando tento me responder, apenas me sinto constrangido. Veja como descobrir o acidente de um avião em que você já está voando. A melhor coisa que você pode fazer é não gritar de pânico, mas pedir vodka e fumaça, embora seja proibido.A maioria de nossas vidas é humildade com uma existência inexplicável. Tudo será mais fácil se você apenas fizer um esforço e conscientemente decidir aproveitar essa atração longe de ser interminável. Afinal, sempre pensando bem em algo, você chega à mesma coisa: é melhor não pensar nisso.