O que é inteligência artificial ou inteligência artificial forte? Em que estágio está a criação da humanidade da inteligência artificial (RI)? O IR é perigoso ou útil? Essas e outras perguntas que quero destacar neste artigo.A questão da criação de inteligência artificial me interessou em 2003.
De alguma forma, veio de repente: de manhã acordei com o pensamento de que deveria assumir essa tarefa.
Antes de tudo, tentei entender e em que estágio da criação da pesquisa científica somos, que abordagens existem para resolver esse problema e qual é o problema real? Como formulá-lo?
Eu baixei o livro "Um manual sobre criação e educação de inteligência artificial em casa" e mergulhei na leitura ...
Não, claro que não. Eu sabia que ainda não havia uma solução para esse problema e, se houver, todos os trabalhos que existem nessa direção são apenas teorias, e essas teorias não apenas falharam em resolver o problema, mas também não nos aproximaram muito de resolvê-lo. .
Outras teorias têm muitos benefícios. O estudo deles permite que você alcance rapidamente o nível de entendimento do problema que os autores têm. Você pode começar do lugar onde os outros pararam, resumir a experiência, tentar ver o que os antecessores não viram.
Mas quando essas teorias não são confirmadas, então há um mal nelas. É mau seguir o caminho que outros já seguiram e parar. Imponha estereótipos sobre como e de que lado é necessário resolver esse problema.
Guiado por isso, decidi adiar o estudo dos trabalhos de outras pessoas e iniciar minha pesquisa "do zero".
Durante vários anos, desenvolvi ativamente meu conceito, analisei e desenhei o código. Expressei e discuti algumas das minhas idéias no fórum do site ailab.ru.
Não, ainda não tenho um farm de RI no porão da casa e até agora não consegui criar um sistema que possa passar no teste de Turing, mas um certo modelo para criar esse sistema apareceu. As fases ativas do trabalho foram substituídas por menos ativas e, agora, com o passar do tempo, decidi compartilhar minhas idéias com você.
Estou ciente de que muitas das minhas conclusões ou declarações parecem controversas ou mesmo amadoras. Ao mesmo tempo, até que uma teoria seja criada com base na qual uma inteligência artificial completa seja construída, qualquer teoria será controversa e potencialmente incorreta, independentemente da autoridade do autor. Portanto, acho que tenho o direito de compartilhar meus pensamentos e argumentos da maneira que puder.
Dentro da estrutura de um artigo, não será possível acomodar o conceito e o curso do raciocínio (que, na minha opinião, é ainda mais importante que o próprio conceito), por isso planejo escrever vários artigos nos quais descreverei meu modelo e minha visão para a criação de RI.
Este artigo é o primeiro em que quero apresentar ao leitor as definições e expressar minha opinião sobre os perigos e a utilidade da RI às vezes, em oposição à opinião bem conhecida.
O que estamos explorando?
O termo "inteligência artificial" é generalizado, mas não é bem disso que eu quero falar. Se, no início da era do computador, esse termo refletiria o assunto deste artigo, agora seu significado mudou (eu diria mesmo que ele quebrou e esmagou).
Agora, o termo “inteligência artificial” (IA) é entendido como um certo sistema intelectual (ou um programa dotado de funções intelectuais limitadas) capaz de resolver uma gama estreita de problemas (campo de aplicação).
Entre essa definição e a definição do assunto deste artigo, vejo diferenças fundamentais.
Mas antes de falar sobre as diferenças, preciso nomear de alguma forma a “mente” sobre a qual quero falar.
Os termos mais próximos são os termos "inteligência artificial forte" (SRI) e "inteligência geral artificial" (AGI)
A Inteligência Geral Artificial (AGI) é a habilidade de uma máquina que pode executar com êxito qualquer tarefa intelectual que uma pessoa possa executar.
A Inteligência Artificial Forte (SRI) é um programa de computador que pode pensar e estar consciente de si mesmo (reconhecer-se como uma pessoa separada, em particular, entender os próprios pensamentos como uma pessoa).
Ambas as definições, em primeiro lugar, são baseadas em uma referência às habilidades (manifestações) da mente humana. E, em segundo lugar, eles significam um programa (algoritmo) como uma implementação.
Devido a certos pontos, que discutirei mais adiante, gostaria de apresentar meu conceito de "mente ideal". Ideal como um "gás ideal" ou como um "corpo absolutamente preto".
Devido ao fato de que “inteligência artificial” e “mente ideal” terão a mesma abreviação (IR), usarei a abreviação em inglês de “Ideal mind” (MI) quando eu quero dizer exatamente “mente ideal”.
As razões pelas quais considero necessário introduzir um novo conceito são as seguintes:
- Nas duas definições, há uma referência às manifestações da mente humana.
Acredito que não podemos argumentar que a racionalidade (como um fenômeno abstrato) possa existir apenas no corpo humano no planeta Terra.
Vamos fazer uma pergunta: uma pessoa (ser inteligente) poderia aparecer em outro ambiente, em outro corpo, com outras leis físicas, no espaço com um número diferente de dimensões, etc.? Não temos motivos para responder a esta pergunta de forma negativa.
Quero assumir que as manifestações da racionalidade de outro ser seriam muito diferentes.
Na minha opinião, o fenômeno da racionalidade (como uma espécie de abstrato, embora indefinido, mas intuitivamente claro) pode existir em um amplo espectro de ser e, portanto, pode ser considerado um fenômeno ideal.
Não é autônomo no entendimento completo (precisa ser), mas ser (suas propriedades) é apenas a razão da natureza da manifestação da racionalidade, mas não determina sua própria existência.
Em outras palavras, não existem conjuntos de características admissíveis e inaceitáveis do ser para a existência (manifestação) da racionalidade. Embora a manifestação da racionalidade seja impossível sem a existência do ser (com qualquer característica).
É assim que se diz que a lei da gravidade é um princípio ideal, mas sua manifestação é possível apenas no ambiente material.
Com base nisso, podemos observar as manifestações da mente humana apenas nos seres humanos e na realidade que temos. Mas quero dizer que é impossível restringir o fenômeno da racionalidade a essas fronteiras e tentar criar RI, imitando manifestações individuais.
Em outras realidades, a manifestação da racionalidade pode ser diferente e pode haver inúmeras variações.
É como restringir a lei da gravidade à lei de uma maçã que cai na cabeça de Newton e tentar entender o universo imitando uma pancada na cabeça.
Na minha opinião, criando algoritmos que imitam as propriedades individuais da mente humana e combinando-as, você não pode obter RI.
Apesar de destacarmos áreas do cérebro humano e observarmos várias funções dessas áreas, o pensamento humano não se decompõe nesse plano.
- A definição se refere a um programa ou máquina como uma implementação de RI. E, na minha opinião, a prioridade não deve ser um programa, como um algoritmo para resolver um problema específico, mas um conceito, como um princípio ou um conjunto de princípios.
Suponho que as definições de AGI e SII impliquem uma implementação algorítmica e não algorítmica. E aqui, parece-me, é necessário restringir a definição.
Não pode haver algoritmo de IR, pois o algoritmo é criado para resolver um problema específico e o escopo de sua aplicação é limitado a esta tarefa.
O paradoxo é que a RI deve ser capaz de resolver quaisquer problemas, e mesmo aqueles que não existiam no momento de seu nascimento. A abordagem algorítmica não nos dá essa oportunidade, pois a tarefa deve ser colocada antes da escrita do algoritmo.
Se falamos de maneira semelhante sobre redes neurais, então o algoritmo emula apenas uma rede neural, que se baseia em um conceito diferente (não algorítmico). E a criação de um algoritmo para emular uma rede neural não determina quais tarefas essa rede neural resolverá. Essas tarefas serão determinadas pelos dados obtidos no processo de seu treinamento, e a estrutura do NS afetará uma certa eficiência desse NS para uma determinada classe de tarefas e a quantidade de dados. Além disso, estudamos empiricamente as várias configurações do NS, o que sugere que, no momento de projetar a estrutura do NS, sua eficácia na solução de um problema específico não é definível.
Computador e transistor
O cientista americano no campo da inteligência artificial, Marven Minsky, em sua entrevista traçou paralelos entre o princípio do cérebro e do computador. Ele disse que é impossível entender o que é um computador e como ele funciona, mesmo se você estudar em detalhes o princípio de operação dos transistores que compõem um computador. Do mesmo modo, não se pode entender o trabalho do cérebro estudando o trabalho dos neurônios e axônios.
Este é um pensamento muito importante, na minha opinião, e gostaria de analisá-lo com mais detalhes.
Concordo plenamente que é impossível entender o que é um computador e como ele funciona, estudando a operação do transistor. Além disso, se estudarmos a operação do transistor em detalhes, levarmos todas as suas características analógicas, levarmos em conta todos os transitórios e começarmos a emulá-los, podemos chegar à conclusão paradoxal de que criar um processador com sete bilhões de transistores é impossível no atual nível de desenvolvimento da tecnologia de computadores.
Por outro lado, tendo experiência em interagir com um computador (como usuário), podemos chegar à falsa conclusão de que as funções do computador são Word, Ecell e Starcraft. E considerar que, se emularmos essas funções e as combinarmos, obteremos um computador.
Embora o computador seja composto de transistores (não apenas é claro), o transistor não é o "tijolo da essência" do computador, assim como a palavra Excell e Starcraft não é o "tijolo da essência" do computador.
O computador é construído sobre os princípios da lógica binária e seus algoritmos de aplicação. A instrução do processador é muito mais adequada como um "tijolo" do que um transistor. Um transistor é apenas uma implementação (um dos possíveis) desses conceitos (lógica binária, algoritmos, instruções). Ao examinar o hardware de um computador ou como um usuário, é impossível ver instruções e algoritmos do processador.
Entendendo os conceitos de construção de um computador, você pode implementá-lo mecanicamente ou como um grupo de pessoas [Liu Qixin, “O Problema dos Três Corpos”]] ou de várias outras maneiras.
Entendendo a operação do transistor ou as funções aproximadas dos blocos de hardware do computador (obtidos empiricamente), não será possível construir um computador.
Isso pode ser visto em outro plano.
Há uma diferença fundamental entre os departamentos do cérebro, suas funções e os blocos do computador (ou o próprio processador), e há uma provável similaridade.
A diferença é que o computador foi projetado de acordo com uma idéia conhecida anteriormente. Ele não é capaz de se desenvolver e evoluir. Um computador (sua arquitetura de blocos, configuração) conterá informações estáticas sobre o "design". O próprio "conceito" na cabeça de um engenheiro (ou muitos engenheiros) se desenvolverá e evoluirá, mas as informações sobre esse processo na estrutura final do computador estarão ausentes. Ou seja, o conceito evolui separadamente da implementação.
O cérebro, pelo contrário, evolui a si próprio. Ou seja, as informações sobre como (em quais princípios) isso deve acontecer estão embutidas no próprio cérebro, de uma forma ou de outra (a menos, é claro, que Deus seja levado em consideração e que vivamos em uma matriz). E isso nos dá mais chances do que o computador de entender o "design mais alto".
E a provável similaridade é que, como um transistor separado (tanto a implementação da idéia de uma válvula, chave, válvula) quanto a arquitetura do computador (seus blocos, peças, arquitetura da CPU) é apenas uma implementação. Outra implementação poderia ser um modelo de uma máquina de Turing.
Ao mesmo tempo, a máquina de Turing e o computador (no nosso entendimento atual) são baseados no conceito de um algoritmo.
Traçando paralelos com o cérebro, pode-se supor que os neurônios (quando comparados aos transistores) e as regiões cerebrais são uma das realizações possíveis (e não as únicas) de um conceito de nível superior (design). As redes neurais são um dos conceitos possíveis de tal idéia.
Assim, o assunto em discussão neste artigo é o conceito (lei, idéia, efeito) de um intelecto que seria tão universal que poderia ser considerado ideal, isto é, não vinculado à realização ou ao mundo em que ele aparece.
Olhando para o futuro, darei minha definição de racionalidade:
Pensar ou racionalidade é a capacidade de mostrar vontade em relação ao resultado provável (resultado, conseqüência) de um evento, com base na experiência subjetiva e com o objetivo de expandir as possibilidades de sua influência sobre eles no futuro.Além disso (nos seguintes artigos), mostrarei a partir de onde essa definição apareceu e analisarei mais detalhadamente.
A inteligência artificial é perigosa?
Uma questão separada que se coloca: que perigo a inteligência artificial representa para a humanidade e é necessário criá-la?
Eu aposto com aspas.
"Essa máquina começará a viver sua própria vida e a melhorar em um ritmo cada vez mais rápido", acredita Hawking. "As pessoas cujo desenvolvimento é limitado pelo ritmo da evolução biológica, incapaz de competir com esse sistema, ficarão para trás".- Por que Hawking considerava razoável separar pessoas e máquinas e colocá-las uma contra a outra como classes rivais? Por exemplo, não posso competir com o avião em velocidade, mas isso não representa uma ameaça para mim. Além disso, as pessoas não se unem contra aviões e aviões contra pessoas - isso não faz sentido.
- As pessoas inteligentes são uma ameaça para os tolos? É necessário considerar a inteligência artificial em tal plano?
- “Vale a pena ensinar as crianças? Eles podem se tornar mais inteligentes que nós e ficaremos para trás. ” Talvez no futuro, perceberemos como nossos filhos não apenas nossos filhos biológicos.
"Acho que é preciso ter muito cuidado com a inteligência artificial", disse Elon Musk. "Se eles me perguntassem qual é a ameaça mais séria à existência humana, então isso provavelmente é apenas inteligência artificial. Ao desenvolvê-lo, convocamos um demônio. Em todas essas histórias, o herói, tendo representado um pentagrama e armado com água benta, tem certeza de que será capaz de controlar o demônio, mas acontece que isso não é verdade. ”- Por que precisamos controlar tudo, Ilon? Por que algo que você não pode controlar imediatamente a priori é uma ameaça e um demônio? Embora eu saiba. É assim que a mente funciona - o desconhecido é potencialmente perigoso! Então, vamos nos esconder debaixo das cobertas ou pegar uma lasca e ver que tipo de demônio está escondido no armário?
- O sonho de um tolo de contratar pessoas inteligentes para trabalhar para ele não é viável. Se uma pessoa cria uma máquina mais inteligente do que ela mesma, não poderá subordiná-la a si mesma. Mas existe realmente uma ameaça? É necessário traduzir tudo para o plano "quem é mais forte é o inimigo"?
"Não estou preocupado - não apenas porque são décadas antes da criação de inteligência de máquina de alto nível, mas também porque tenho certeza - seremos capazes de controlá-la quando a criarmos." - Yasser Abu-Mostafa, professor de engenharia eletrônica e informática Ciência, Instituto de Tecnologia da Califórnia.Mais uma vez controle. Somente com otimismo. "Nós podemos controlar - tudo ficará bem." :)
"De fato, acredito que esses medos possam ser justificados, e a probabilidade de criar uma inteligência artificial que seja superior à mente humana é muito interessante", disse Andrew Moore, decano do Departamento de Ciência da Computação da Universidade Carnegie Mellon. - Este é um perigo que só pode ser realizado em um futuro distante, mas mais cedo ou mais tarde será necessário pensar sobre isso. Assim que começarmos a abordar a criação de poderosas máquinas superinteligentes, sem dúvida, será necessário parar e pensar no que estamos fazendo. ”Bem, você pode pensar agora. E a questão não acabou ou é inteligência artificial. Vamos primeiro lidar com o comum, e depois ficará claro como medi-lo. Como, por exemplo, o teste de Turing pode apenas dizer "sim" ou "não", mas nada sobre seu nível (força, poder etc.).
Resuma os medos.
Tentei analisar e destacar os principais medos que as pessoas experimentam em relação à inteligência artificial:
- fora de controle;
- Será hostil e pegará todos os recursos da humanidade e matará pessoas;
- expulsar pessoas de todas as áreas de atividade;
- será programado para objetivos "tortos" e atingirá "estupidamente" esses objetivos por todos os meios disponíveis (estamos falando da mente ou de um aspirador de pó robótico?) ;
- essa ferramenta estará disponível apenas para empresas e governos selecionados que a usarão para fins militares e competição;
- a inteligência artificial (todas as máquinas) se unirá contra as pessoas, se levantará e começará uma guerra.
Discutimos a realidade das ameaças
Antes de tudo, quero supor (repito) que é impossível programar inteligência artificial para qualquer finalidade específica em princípio. Se programamos algo para resolver alguns problemas, a inteligência (razão) não estará lá.
A razão artificial e humana deveria ter (eu insisto que seja) princípios básicos semelhantes que subjazem ao efeito da própria racionalidade, eles são necessários e suficientes.
Se você começa com a mente humana, me diga que tipo de tarefas está programada?
Se você responder a essa pergunta, responda à pergunta filosófica sobre o significado da vida.Os significados e tarefas da mente humana (como habilidades) surgem apenas no processo de interação com o mundo exterior (que inclui o próprio corpo humano, incluindo o cérebro). O ser determina a consciência. A civilização (nossa ou outra) define nossa mente, apenas forma os conceitos de bem e mal, amizade, amor, paz e guerra. Esses conceitos e até espaços para esses conceitos não existem no ovo fertilizado.A mente ideal inicial (vazia) é apenas a realização da capacidade de ser potencialmente inteligente. A forma, a natureza da racionalidade - adquiriu coisas no processo de educação e auto-educação dessa mente. Ainda existem instintos inatos, mas mais sobre eles mais tarde.Com base nesse paradigma, a maioria dos medos desaparece por si mesmos.Você não pode programar uma mente má. Você pode educar. Mas você pode educar uma pessoa má e má e, por algum motivo, isso não causa nenhum medo especial.Você não pode controlar a mente. Você pode atrapalhar o trabalho dele, pode ordenar e forçar, mas não haverá controle completo, assim como com uma pessoa. A complexidade da tarefa de controle é comparável com toda a quantidade de cálculos que o cérebro controlado fez desde o seu nascimento (como reescrever toda a cadeia de blocos).Hostilidade e militância também são características. Não educamos nossos filhos hostis a outras pessoas, ensinamos a eles bondade, assistência mútua, a capacidade de encontrar soluções mutuamente benéficas nas interações com outras pessoas inteligentes. E nossa civilização continua a existir e se desenvolver graças a isso. Então, por que teremos que educar nossas criaturas inteligentes artificiais para fazer o oposto?Existe, é claro, uma ameaça (veja o filme Humans), mas suas causas não estão na mente artificial, mas nas próprias pessoas, na xenofobia e em outros medos e vícios.Talvez a IA realmente empurre as pessoas para fora da maioria das áreas de atividade. Mas isso acontecerá mesmo que o FIC não seja inventado. Isso já estava na história e fez a humanidade mudar, dominar novas profissões. Seja bom ou ruim, não ouso julgar, mas talvez nossa sociedade precise de um "empurrão", um forte incentivo para grandes mudanças. Talvez a humanidade precise de uma ameaça que não possa ser resolvida por meios militares ou militares, a fim de direcionar as mentes não para a criação de novas armas, mas para a educação, a ciência e a cognição.Nossa rejeição de criaturas atualmente não biológicas como nossos filhos, em minha opinião, decorre do fato de que não podemos ser eles (não podemos transferir nossa mente para uma máquina), mas eles não podem se tornar nós (mover nossa mente para um ser biológico, como um homem). Se você imagina que, no futuro, essa oportunidade aparecerá (talvez o SRI ajude a inventar essa tecnologia), não haverá medos e preconceitos contra outro ser racional não biológico. Sempre haverá uma oportunidade de mover a mente para uma concha mais adequada. A linha que é formada pela “peculiaridade de implementação” da racionalidade desaparecerá. Comunidade e parentesco serão percebidos não pelo tipo de invólucro material, mas pela essência.Mas a ameaça de que essa tecnologia esteja exclusivamente nas mãos de governos e empresas individuais parece realmente muito perigosa para mim. Imagine que uma pessoa perderia a capacidade de criar sua própria espécie e essa prerrogativa pertenceria apenas a empresas e governos individuais. Isso causaria um viés social tão grande que é difícil imaginar as consequências catastróficas. Portanto, se essa tecnologia for criada, ela deverá se tornar disponível e aberta a todos.E a última coisa que quero dizer aos oponentes da criação de RI. Se você tem medo ou não, ele será criado. Isso acontecerá em 10, 20 ou 100 anos, mas acontecerá necessariamente, pois é inevitável. E você só pode mudar a si mesmo: prepare-se para este evento e conheça o RI como seu filho, a quem você precisa amar e educar, e não como um inimigo que deve ser combatido e oprimido, controlado, explorado de todas as maneiras (contra a vontade dele).E, concluindo este primeiro artigo, gostaria de dizer que uma boa IA pode trazer benefícios à humanidade.Por que criar inteligência artificial.
Por que transformar um homem em um cachorro se uma mulher pode dar à luz a qualquer momento?
Professor Preobrazhensky.
Antes de mais, gostaria de dizer que é impossível relacionar a RI como um instrumento nas mãos do homem. Essa abordagem só levará a grandes problemas.A RI, baseada em princípios semelhantes aos do pensamento humano e criados na civilização humana, será uma pessoa em essência, mas não implementada biologicamente, mas com base na tecnologia digital.Aqui você pode fazer uma comparação com os pais biológicos da criança e seus pais não biológicos que a criaram e criaram.A hereditariedade biológica é importante em nossa compreensão social do parentesco? Muitos concordam comigo que o relacionamento biológico entre mãe e filho é muito menos importante e significativo do que a conexão que surge entre pais e filho após o nascimento, no processo de tutela e educação.E se essa tese for aplicada à conexão entre o “filho da RI” e seus pais humanos que cuidarão dele e o educarão, a falta de uma conexão biológica entre eles não deverá desempenhar um papel significativo.Indivíduos de RI "adultos" educados devem ser percebidos na sociedade como de pleno direito, possuindo o mesmo conjunto de direitos e obrigações que uma pessoa biológica.Somente neste caso entraremos no feliz futuro do progresso, e não no "levante de máquinas" e no genocídio de pessoas biológicas.O aparecimento de uma espécie de pessoas não biológicas dará grandes oportunidades para toda a humanidade:- Pessoas não biológicas terão uma cadeia alimentar diferente e essa cadeia alimentar não se cruzará (competirá) com a cadeia alimentar de criaturas biológicas (incluindo seres humanos biológicos)
- , . . ( ). .
- .
- , ( , , , )
- , , , ().
- Os corpos de pessoas não biológicas não estarão sujeitos ao envelhecimento (eles podem ser alterados).
- Razões não biológicas podem ser salvas e restauradas em caso de perda, clonadas (se a moral do futuro permitir). E essa é a imortalidade prática da mente (individual).
- A mente não biológica pode existir completamente no mundo virtual (matriz)
- O IR pode se mover no espaço na velocidade da luz (entre o transmissor e o receptor).
- O RI pode funcionar em uma linha do tempo diferente (por exemplo, acelerado várias vezes ou vice-versa desacelerado várias vezes).
Esses recursos permitem:- Várias vezes aumentam o número de criaturas inteligentes no planeta sem o problema de superpopulação. Por sua vez, isso aumentará o potencial intelectual da humanidade - acelerará o progresso e a ciência.
- Explore ativamente o espaço, preencha novos planetas. Realizar expedições espaciais distantes, realizar terraformação de planetas para assentamento com espécies terrestres biológicas.
- Elevar o padrão de vida das pessoas.
- Para aumentar a eficiência da vida humana, use os recursos naturais de maneira mais eficiente e muito mais.
Na conclusão do primeiro artigo, quero dar links para obras de arte no campo da inteligência artificial, que em minha opinião não são bem conhecidas, mas merecem ser assim:- O ciclo de vida de objetos de software de Ted Chan
- "A Árvore da Vida" Vladimir Kuzmenko
Para continuar ...