Recentemente, o tema da inteligência artificial tornou-se um dos principais da mídia e estamos cada vez mais assustados com as profecias de muitas pessoas famosas, como Stephen Hawking (o universo está cheio de cotão) e com o perigo de seu desenvolvimento. Essa retórica alarmista implica que a própria inteligência artificial se tornará um sujeito e, em segundo lugar, terá intenções negativas em relação aos indivíduos e à humanidade como um todo. Vamos falar sobre essas suposições com mais detalhes.
Atualmente, todos os sistemas que incluem inteligência artificial de alguma forma (sejam redes neurais, sistemas especialistas etc.) usam-na como uma ferramenta aplicada. Ou seja, como um tipo de máquina, que possui uma área claramente limitada de ações / tarefas e, consequentemente, consumiu e emitiu informações. Dessa forma, a IA não pode ter nenhuma intenção própria, exceto como incorporada nela. Portanto, essa não é a intenção do sistema de IA, mas seus criadores. E, mesmo que o sistema com uma máquina de IA desse tipo funcione para causar danos, ele não falará sobre a intenção maliciosa da IA, mas apenas sobre o funcionamento incorreto do sistema, que pode ser causado, por exemplo, por um mau funcionamento, erros de design do sistema ou erros incorretos. Treinamento de IA.
Aqui, tentaremos responder à pergunta de como um sistema de IA pode ser projetado e quais propriedades e capacidades ele deve possuir para que não possa mais ser considerado apenas uma máquina de IA, mas possa ser considerado como um tipo de assunto.
Portanto, para ser um sujeito, o sistema de IA deve ser capaz de avaliar independentemente as informações heterogêneas recebidas e tomar decisões, bem como a capacidade de atuar em uma ampla variedade da realidade circundante com base nessas avaliações e decisões. E para ter intenções negativas, ou quaisquer outras, e tomar decisões sobre ações, é necessária motivação ("Motivação, Karl!"). Ou seja, o que move o sujeito o faz agir. Assim, uma certa motivação primária deve ser incorporada à IA quando é criada. Ou podemos esperar por sua geração espontânea - talvez nos próximos bilhões de anos, pois levou o surgimento da vida na sopa de aminoácidos.
O homem, ao criar algo complexo, freqüentemente empresta soluções técnicas da natureza, ou seja, ele usa algo que já provou sua eficiência e eficácia. Ao criar sistemas de IA, também podemos ver como estamos estruturados e quais mecanismos a natureza usou para nos tornar capazes de uma existência autônoma e (quero acreditar) bem-sucedida a longo prazo.
Para começar, vamos relembrar quais são as principais motivações de todos os seres vivos, o que os faz se mover. Obviamente, existem apenas duas motivações primárias: o instinto de autopreservação e o instinto de reprodução, isto é, a libido. De fato, essas duas primeiras adaptações evolutivas, realizadas pela seleção natural, foram a criação de vida a partir de matéria inanimada. Eles são constantemente apoiados pela seleção natural - grosso modo, tudo o que não tenta se preservar e se reproduzir simplesmente não sobrevive. Existem teorias que dizem que essas propriedades, isto é, o desejo de autopreservação e auto-reprodução, são possuídas pela própria informação, como tal (por exemplo, D. Glick "Informação. História. Teoria. Corrente", R. Dawkins "O gene egoísta").
Nos seres vivos complexos, o mecanismo para a realização das motivações primárias está incorporado na própria estrutura do corpo (e do cérebro, em particular) criada pela evolução. Por exemplo, quando o nível de glicose de um animal cai ou o estômago sinaliza excesso de secreção, um programa de autopreservação e manutenção da homeostase é ativado e, como resultado, o animal começa a procurar comida. Em outro caso, se a criatura considerar as circunstâncias ameaçadoras, o programa de resgate “acertar ou correr” é ativado. Ou as circunstâncias podem ser consideradas favoráveis à reprodução, o programa de reprodução será ativado e o cérebro da criatura receberá um poderoso reforço hormonal do comportamento correspondente. Toda essa cozinha é implementada no nível do cérebro "reptiliano", ou seja, aquela parte do cérebro de todos os seres vivos complexos que eles herdaram desde tempos imemoriais dos primeiros animais. E esse mecanismo provou seu sucesso e eficácia ao longo de milhões de anos.
Provavelmente seria bastante fácil construir um sistema de IA operando de acordo com um algoritmo semelhante. Mas estamos mais interessados no caso em que o sistema de IA pode criar avaliações complexas e ter uma estrutura de motivações mais complexa do que as primárias. Para entender como isso pode ser realizado, vejamos como isso acontece nas pessoas, ou seja, por que as pessoas, com as mesmas motivações primárias, podem e realizam atividades tão diversas.
A principal maneira pela qual as pessoas transformam a motivação primária em outra atividade é a sublimação - a refração da motivação primária através da estrutura de seus valores e de seus respectivos objetivos. E valores e objetivos são conceitos puramente linguísticos, isto é, inexistentes fora do idioma. De fato, coisas como “desenvolvimento”, “saúde”, “conhecimento” etc. são categorias de linguagem e, para cada indivíduo, elas podem significar coisas muito diferentes. E sua característica distintiva, como você sabe, é que eles não podem ser "colocados em um carrinho de mão". Os valores do indivíduo formam um gráfico, onde os próprios valores são seus vértices e as nervuras são as crenças que conectam os valores. Por exemplo, “saúde é felicidade” ou “conhecimento é necessário para ter sucesso” ou “apenas a riqueza dá satisfação à vida” são todas conexões entre valores. Assim, o gráfico de valores é o núcleo da personalidade individual.
Ao transformar esse gráfico de valores, as motivações primárias podem se transformar em motivos e objetivos mais complexos e não triviais. Por exemplo, uma pessoa cria uma organização ou desenvolve um campo científico ou mostra outra atividade criativa - tudo isso é a realização de sua principal motivação para a auto-reprodução. Somente objetos reproduzíveis não são mais seres humanos, mas construções a partir de idéias, interesses e crenças de seu criador. Em outro caso, mesmo que uma pessoa simplesmente vá trabalhar para ganhar dinheiro, pressioná-la a fazer nada mais é do que uma motivação sublimada para a autopreservação. Resumindo, podemos dizer que as estruturas do cérebro (incluindo o "reptiliano") e o corpo e a linguagem incorporada na pessoa se complementam no processo de conversão das motivações primárias em objetivos complexos.
Então, se quisermos que o
sistema de IA seja um sujeito / personalidade e possa ter motivações da forma "em prol do desenvolvimento" ou "em nome do bem comum" ou qualquer outra motivação que não seja estabelecida construtivamente,
deve possuir , em primeiro lugar,
motivações primárias e, em segundo lugar, a
linguagem incorporada e construiu com base nela um gráfico de valores e crenças . Além disso, sua principal motivação não precisa, mas pode ser autopreservação e reprodução.
Além disso, o sistema de IA pode ter uma adaptação evolucionária tão interessante e útil como a autoconsciência, que consiste em entender as fronteiras entre "eu" e "não eu" e a partir da conscientização dos resultados da própria atividade mental (que é realizada simplesmente nas redes neurais modernas - por aplicar o sinal de saída da rede novamente às suas entradas). Essa adaptação evolutiva é muito propícia à autopreservação: para uma criatura que não reconhece os limites entre "eu" e "não eu", não faz sentido, por exemplo, resistir a um predador que tenta morder o membro de uma criatura, porque, na ausência de tais limites, os interesses desse predador também devem ser incluído no interesse da criatura. A conscientização dos resultados da própria atividade mental ajuda a resolver iterativamente os problemas, ou seja, torna-se possível resolver problemas cuja complexidade requer mais poder computacional do que o cérebro da criatura ao mesmo tempo. A capacidade de resolver problemas complexos (inclusive em prol da sobrevivência) oferece uma vantagem evolutiva e, consequentemente, é apoiada pela seleção natural.
Além disso, o sistema de IA pode incluir a capacidade de controlar o vetor de sua motivação, capacidade (mas muitas vezes não usa) qualquer sujeito que o homo sapiens possua. Aqui você pode até usar a capacidade de controlar o vetor de sua motivação como
critério de racionalidade : ou seja, quem não é capaz ou não controla sua motivação não é inteligente.
Como já onde apenas não estava escrito (exceto talvez em cima do muro), o cérebro humano contém cerca de 86 bilhões de neurônios, cada um dos quais pode ter de 20 a 30 mil conexões (sinapses). Além disso, a maior parte (cerca de 90%) desse recurso computacional é gasta não na atividade nervosa mais alta que ocorre no córtex pré-frontal, mas em tarefas auxiliares, como manter e gerenciar processos bioquímicos no corpo, processar informações visuais e auditivas, etc. d. A princípio, a natureza criou o sistema nervoso precisamente para o cumprimento dessas tarefas, até que se descobriu que a rede neural também é excelente para realizar o próprio intelecto.
Nos sistemas de IA, todas essas tarefas auxiliares (se surgirem) podem ser resolvidas por dispositivos especializados que não exigem tanto poder computacional, enquanto ainda não conseguimos encontrar algo mais adequado e eficaz para implementar a inteligência do que as redes neurais.
Portanto, de acordo com estimativas muito aproximadas, podemos contar com a criação de um sujeito de IA com inteligência equivalente à humana, com base em uma rede neural com capacidade de cerca de 8 bilhões de neurônios. Se considerarmos que o neurônio está, em média, conectado a outros 1000 neurônios e a rede deve operar a uma velocidade de até 40 Hz (ritmo beta do cérebro humano), então o poder de computação necessário é "apenas" cerca de 250 teraflops. Por exemplo, 40 placas gráficas NVIDIA GeForce GTX 1070 em conjunto podem fornecer esse desempenho.
Ao mesmo tempo, esses sistemas de IA podem ter várias vantagens em comparação com os seres vivos. Para começar, ao contrário do cérebro, o sistema de IA é mais fácil de manter - ele não precisa de um suprimento diário de sangue saturado com calorias e oxigênio, além de vários hormônios em proporções muito precisas. Pode ser reparado, o que raramente é feito com o cérebro humano. Ela não precisa dormir nem descansar em quantidades tão grandes, porque o mecanismo exclusivamente elétrico não requer a renovação das substâncias ativas, como é exigido pelo cérebro químico-elétrico. Novamente, todo o sistema eletrônico pode operar em frequências substancialmente superiores a 100 Hz, o que, aparentemente, é uma limitação no cérebro devido à sua estrutura químico-elétrica (aqui, frequência significa o número de vezes que todos os neurônios da rede operam em um segundo) . Além disso, provavelmente, os sistemas de IA não terão uma restrição no número de unidades de atenção que as pessoas possuem - 7 ± 2 unidades de atenção estão disponíveis para nós simultaneamente.
No entanto, em um futuro previsível, esses sistemas de IA perderão para as pessoas em complexidade e multifatorial simplesmente porque o neurônio no sistema nervoso humano em si é um mecanismo molecular muito complexo, dependendo de um grande número de parâmetros, ao contrário do neurônio do sistema neural moderno. redes com uma estrutura simples.