Muitos que me conhecem podem confirmar que sou bastante crítico com a massa de questões e, de certa forma, até mostram uma quantidade razoável de maximalismo. É difícil para mim agradar. Especialmente quando se trata de livros. Costumo criticar os fãs de ficção científica, religião, histórias de detetives e muito mais bobagem. Acredito que é hora de fazer coisas realmente importantes e deixar de viver na ilusão da imortalidade.
Durante um dos discursos com um de meus bons amigos, ele, depois de outra de minhas indignações com o fato de que eles constantemente me oferecem bobagens diferentes (a mesma ficção), me aconselhou a trabalhar no livro “Life 3.0. Ser homem ... Tenho vergonha de admitir, baixei-o há muito tempo e nem o notei, juntamente com uma magnífica seleção da Dynasty Foundation. É muito difícil me agradar, porque Ele trabalhou em livros, para dizer o mínimo, não um pouco. Mas gostei deste e decidi não apenas responder-lhe a questão de resolvê-lo ou não, mas também escrever minha crítica, porque, apesar do livro merecer atenção, ainda há trabalho a ser feito.
Gostaria de acreditar que minha análise não se afogará, como sempre na massa de inundações e spam, e alcançará não apenas os leitores, mas também escritores que levarão em conta as deficiências em trabalhos subseqüentes. Obviamente, apenas minha opinião subjetiva é menor, mas tentarei justificá-la o máximo possível. Apesar do fato de que, como sempre catastrófico, não há tempo para tudo e, de fato, sou um escravo pobre; No entanto, considero meu dever cívico como cosmopolita escrever esta resenha, porque Há muito tempo estou interessado em um tópico semelhante e em muitos outros tópicos relacionados. Acredito que muitas das seguintes são as principais tarefas atribuídas à humanidade como um todo e a seus indivíduos. Tão patético quanto parece. Então ...
Life 3.0. Ser humano
Crítica
Os erros de gravação começam literalmente nas primeiras páginas do livro. Cito:
“Como você sabe, há muito tempo não há acordo sobre a questão do que considerar a vida. Um grande número de definições alternativas é proposto, e algumas delas incluem restrições bastante rigorosas: por exemplo, a presença de uma estrutura celular é necessária, o que provavelmente excluirá futuras máquinas pensantes e algumas civilizações extraterrestres. Como não queremos limitar nossos pensamentos sobre a vida futura àquelas espécies biológicas com as quais já estamos familiarizados, aceitemos sua definição mais ampla para incluir qualquer outro processo, se tiver complexidade e capacidade de se reproduzir. O que exatamente é reproduzido não é tão importante (consiste em átomos), a informação (consiste em bits) é importante, que é determinada pelo arranjo mútuo dos átomos entre si. Quando uma bactéria copia seu DNA, não surgem novos átomos, mas os átomos disponíveis se alinham em uma cadeia que repete exatamente o original; portanto, apenas as informações são copiadas. Em outras palavras, podemos considerar viver qualquer sistema de auto-reprodução e capaz de processar informações cujas informações (seu "software", "software") determinam seu comportamento e sua estrutura ("rígida"). "
Não há acordo, mas há mais na compreensão da vida que é inteligível no momento. Seria bom conhecê-los.
Caso contrário, se isso for simplificado e abordado a partir dessa posição, o crescimento de cristais complexos que reproduzem sua estrutura a partir do substrato pode ser atribuído à vida. Ou, talvez, alguns processos de formação de óleo e húmus, onde também existe uma semente, levando ao aparecimento de moléculas da mesma semente. Eles são como ancestrais de enzimas, mas não são considerados uma vida de pleno direito na ciência moderna, porque eles não são capazes de desenvolvimento e mutação. Se não houver variabilidade, isso não é vida. Portanto, proponho, no entanto, restringir um pouco o conceito de vida e revisar que outras características ele pode possuir. Eu também recomendo o meu artigo: "Classificação do potencial da vida".
A seguinte citação:
“Seguindo o próprio universo, a vida se tornou cada vez mais complicada 4 e, como vou explicar agora, parece-me útil introduzir uma classificação das formas de vida de acordo com seus três graus de complexidade: Vida 1.0, 2.0 e 3.0. Como essas três formas diferem umas das outras, em termos gerais, é claramente visível na Fig. 1.1 ....
Três estágios da vida: evolução biológica, evolução cultural e evolução tecnológica. A vida 1.0 não pode afetar "hard" ou "software" durante sua existência
um único organismo: ambos são determinados pelo seu DNA, que pode variar de geração em geração durante um longo período de evolução. ”
Aqui, como eu o entendo, um erro grave. Pode-se ver que o autor não está familiarizado com os estudos modernos de microrganismos. Eles podem mudar de hardware e de software. I.e. a vida 1, de fato, pode fazer o mesmo que a vida 3. Os microorganismos podem até melhor do que os humanos capturar pedaços de DNA. Eles fazem isso de várias maneiras. Diretamente do ambiente (se encontrarem o DNA de alguma célula destruída), ou com a ajuda de bacteriófagos e plasmídeos, ou por reprodução sexual para formar a chamada serra sexual Conjugação em bactérias - Wikipedia. Eles também podem cortar seções irrelevantes com precisão de jóias. Por exemplo, graças ao CRISPR. Portanto, até a própria Life 1.0 pode mudar tanto o hardware quanto o software. Isto é para nós que temos medo de OGM e esquecemos que a LUCA, até certo ponto viva, parece inovadora e inédita. Perdemos essa capacidade e, para os primatas "inteligentes", mudar de vida tornou-se um tabu. Portanto, não é novo, é bem esquecido de idade. Não faz sentido usar esse parâmetro em comparação. O grau de dificuldade é uma coisa, mas a mudança automática (em diferentes níveis de dificuldade) é outra. Você precisa separar as moscas das costeletas. A classificação deve ser significativamente reformulada.
Mas estas ainda são flores. Além disso, não tive a oportunidade de marcar como favorito. Apesar do livro abordar questões extremamente importantes e globais da maneira correta, o autor é muito erudito, mas aparentemente algo não foi suficiente para ele fazer uma interpolação competente e ainda chegar a hipóteses de trabalho razoáveis. pelo menos conclusões preliminares.
Por exemplo, em uma das seções, ele interpola a abordagem desonesta primitiva das pessoas em relação à IA, temendo e considerando a possibilidade de enganar pessoas do lado da IA. Sim, é possível que seja apenas uma IA forte, uma fraude desse tipo ocorre. No entanto, se for sobre inteligência artificial (SII), é improvável que esse engano seja necessário. Só que esse intelecto, sem mentiras e truques, poderá fazer a muitas pessoas exatamente a oferta que elas não podem recusar. Não tenho a oportunidade de pintar tudo aqui, mas para entender por que há mais probabilidades de que a IA não se engane, recomendo elaborar, por exemplo, os livros de Matt Ridley. A origem do altruísmo e da virtude e, por um lado, a evolução de tudo. Após analisar esses trabalhos, podemos concluir que quanto maior o desenvolvimento, maior a tendência ao altruísmo, à cooperação e ao brincar com uma quantidade diferente de zero, em vez de competir. Portanto, quanto mais inteligente a inteligência, maior a probabilidade de ser mais humana, honesta. I.e. a própria inteligência é um recurso poderoso para entender e usar as pessoas, não como concorrentes enganados, mas como aliados. Encontre pontos fracos e fortes nas pessoas, compense o primeiro e use o segundo. Se não houver necessidade de cooperação com as pessoas, dificilmente haverá necessidade de competição, porque existem muitos recursos gratuitos por aí. Os oceanos ainda estão vazios aqui. A massa de espaço vazio abaixo da Terra, já silenciosa para outros planetas. Portanto, uma IA de alta tecnologia localizada em um meio mais eficiente do que a seleção cega de formas biológicas será o local para se movimentar sem nenhuma competição com as pessoas. Simplesmente ocupará a massa daqueles nichos que as pessoas ainda acham, e talvez nunca possam reivindicar. E ele não enganará ninguém. Já, não apenas a IA, mas mesmo pessoas alfabetizadas comuns praticam uma abordagem diferente. Não engano e sigilo, mas abertura máxima, sinceridade e cooperação. Pessoas com uma mentalidade ossificada e arcaica de ladrão não conseguem entender como. Provavelmente, o código da AI simplesmente não será aberto. Como muitos códigos de software livre. E hackers não serão punidos e beliscados, mas incentivados, porque eles reportarão as vulnerabilidades deste código. O mesmo vale para matar como punição e prisões. Isso não será tudo, isso é selvageria. Existem duas maneiras para os marginais: primeiro você precisa estudá-los em detalhes e, em seguida, levar em consideração e ouvi-los comprometer, porque pode ser uma opinião extraordinariamente importante ou reeducar, tratar e não punir.
No geral, sou categórico contra todos esses medos e humores ludistas, a humanidade deve lançar toda sua força na criação do intelecto, porque de fato, nossa inteligência natural também não é muito inteligente. É apenas o número de primatas que você não pode nomear de maneira diferente, eles não percebem. Voltando à interpolação, gostaria de resumir esta parte e continuar. Como vemos, por um lado, Tegmark, não se deve fazer analogias e passar de uma cabeça humana doente para complexos humanos digitais saudáveis: astúcia, engano etc., etc., e por outro lado, ele não pode decidir qual seção com uma compreensão global do significado da vida. Isso também é muito deprimente e mostra que ele trabalhou pouco no trabalho evolutivo. Se ele trabalhasse mais, não teria um dilema sobre quais objetivos, ou, diria mesmo, filosofia e estabelecimento de objetivos, vale a pena definir a IA. Porque Analisando o mundo à nossa volta, podemos concluir que praticamente tudo o que vive e, possivelmente, não vive, luta pela expansão. Muitas formas de vida complexamente desenvolvidas buscam um desenvolvimento ainda maior, a autoperfeição, a expansão de sua influência e a interação com outras pessoas, objetos vivos e não vivos. Portanto, muito provavelmente, a IA chegará a essas conclusões ou tais princípios serão estabelecidos nela. Como resultado, ele continuará, como todos os seres vivos, a desenvolver, melhorar e conquistar novos territórios, transformando o mundo não apenas para si, mas também para seu ambiente.
Eu concordo
Se você revira os olhos quando ouve falar sobre apreensão armada por terminadores robóticos em todo o mundo, sua reação é precisa: esse cenário não é de todo realista. Estes
Os robôs de Hollywood não podem ser mais espertos do que nós e, de fato, serem inteligentes. Na minha opinião, o perigo à espreita na história do Exterminador não é o que poderia acontecer
algo semelhante, mas que distrai nossa atenção dos verdadeiros riscos e perigos associados à inteligência artificial. Transição do mundo atual para um mundo em que
o topo é realmente conquistado pela inteligência artificial universal, requer três etapas lógicas:
- Etapa 1 Crie inteligência artificial universal (AGI) no nível humano.
- Etapa 2 Use este AGI para criar super-mente.
- Etapa 3 Use a supermente para dominar o mundo ou dar a oportunidade de fazê-lo você mesmo.
Pesquise no texto uma história semelhante com a mídia que escreve sobre a guerra dos robôs etc.
Minhas sugestões.
Não vou me cansar de repetir, agora todo mundo deve dedicar todo o seu poder à criação da mente, a saber, a razão, e não a beleza ou outra estupidez, na minha opinião, salvará o mundo. E não separe essa mente (intelecto) estabelecendo limites - artificiais, naturais. Nesta fase, a IA ainda está em sua infância, então o papel da inteligência natural, apoiado pela tecnologia, é muito grande. Não há uma linha clara entre o artificial e o natural. Se queremos criar um intelecto normal, e não o primitivo que agora existe, precisamos usar todas as possibilidades, usar todas as tecnologias, porque eles trabalham em conjunto: a inteligência natural cria artificial, e artificial, pelo menos nos estágios iniciais, estará interessada em modernizar e expandir as capacidades do natural.
Que futuro eu gostaria de ver
Vale ressaltar imediatamente que essa é a maior, no momento, minha previsão otimista. De fato, é improvável que em nossa sociedade arcaica eu seja capaz de viver de acordo com ela. Mas eu quero acreditar. Em parte, eu gostaria que, no final, fosse como no filme: "Perguntas do Universo: podemos viver para sempre?" com Adam Savage do Discovery.
Possíveis problemas
Pessoas gananciosas desacreditarão a IA. Eles começarão a usar os fracos e até fortes, mas não a IA para seus próprios propósitos egoístas. Aqui encontraremos um problema que, se minha memória me serve, é pouco descrito no livro.
Penso que, gostemos ou não, enfrentaremos batalhas severas, cruéis, mas intelectuais no futuro, ao nível de códigos, memes, programas, crenças, etc. Muito provavelmente eles irão principalmente para mídia digital em realidade virtual, o que será ainda mais trivial. Não haverá vítimas e carne rasgada com sangue. A guerra irá para nossos pontos de vista, opiniões, julgamentos. E quanto mais cedo essa guerra começar, melhor para todos. Ela não precisa ter medo, já começou e, se não queremos permanecer de fora, precisamos participar. Não lembro onde li que, se você estiver offline, considere que você não viveu. Parece selvagem, e os obscurantistas (amantes de insetos, florestas e cocô) discutem comigo. Mas se eles pisam o kakahi na floresta e alimentam os mosquitos. então você não precisa discutir com eles. Teremos que discutir com os hipócritas perdidos que, usando a tecnologia, os consideram maus e eles não gostam disso, POR QUE ALGO eles não vão desistir da TI que nos rodeia em todos os lugares.
Links e Comunicação
O autor nas páginas do livro sugeriu repetidamente entrar em contato com ele no site
AgeOfAi.org . Eu tenho duas mãos para essa conexão. Eu acho que isso beneficiaria leitores e escritores. Mas, por algum motivo, minha página de link não foi aberta, mas redirecionada para algum site
futureoflife.org/superintelligence-survey . Talvez, se eu reservar um tempo, tentarei fornecer um link para esta resenha ao autor do livro, apesar de meu artigo estar em russo e o site em inglês. Felizmente, existem tradutores eletrônicos. Também será necessário pesquisar, talvez já existam alguns pensamentos mais sensatos por lá. Melhor ainda é o ziminbookprojects.ru. Esta é provavelmente uma versão semelhante do site anterior, mas em russo. Mas não tenho certeza. De qualquer forma, acho que os links merecem atenção, assim como os tópicos levantados.
Aqui estão algumas citações que eu gostei:
Para os crentes:
“Se todos eles obedecem às leis da física, a alma, portanto, não afeta as partículas das quais você é composto, o que significa que sua consciência, sua mente e sua capacidade de controlar seus movimentos não têm nada a ver com a alma. Se, pelo contrário, as partículas das quais você é composto não obedecem às leis conhecidas da física, porque sua alma as afeta, então essa nova entidade deve ser física por definição, e podemos estudá-la enquanto estudamos os campos. e partículas no passado. "
Muito útil para quem separa ciência da religião. Considerando que a ciência não deve interferir na religião, mas a religião na ciência. No entanto, para fanáticos por religião cega, essa é uma frase vazia. Mas para os que duvidam que são capazes de pensar logicamente, o pensamento é mais do que útil.
Para os cientistas:
“O genoma da bactéria Candidatus Carsonella ruddii, que armazena até 40 kilobytes de informação, enquanto nosso genoma humano armazena cerca de 1,6 gigabytes”
Um fato interessante. Eu tento coletar tal. Talvez seja útil no trabalho, ou apenas na discussão de tópicos sobre bioinformática.
Em geral, o livro pode ser quase completamente desmontado entre aspas e analisado em detalhes, mas, como sempre, não há tempo. A propósito, o amigo que me recomendou esse trabalho não entendeu nada em essência e em sentido, porque Eu ouvi este livro não como sintetizador de fala, mas como um audiolivro. Portanto, parte de sua atenção foi voltada para a BELEZA da voz do locutor, e não para o significado. Já estou calado sobre a impossibilidade de citar e muito mais que não está nos livros de áudio. Bem, isso é assim, um pequeno choro da alma, para os amantes obstinados dos audiolivros. Descrevi tudo isso em detalhes no meu livro Livro 3.0. Escute! "