A vida é o único objetivo digno de inteligência?

O artigo discute o intelecto e seus objetivos finais, enquanto são abordadas teses sobre ortogonalidade e convergência. No meu artigo anterior 'Vida, Intelecto, Mente, Mente', a questão não foi suficientemente esclarecida. O princípio foi declarado naquele artigo: a inteligência forte deve ser construída como um sistema adaptável baseado no objetivo final: preservação e sobrevivência de um organismo vivo - o portador da inteligência. E o diagrama estrutural geral do organismo com inteligência, possivelmente forte, é apresentado. Abaixo está uma análise adicional do porquê disso.

Uma nota sobre terminologia.
Como um intelecto forte, teremos em mente seu entendimento geralmente aceito. Inteligência fraca é qualquer sistema ou algoritmo que não implementa inteligência forte. O nome comum para ambos é simplesmente inteligência, não vamos distinguir entre inteligência artificial e inteligência natural.

A tese da ortogonalidade de propósito e inteligência.
A tese da ortogonalidade diz que você pode combinar qualquer nível de inteligência com qualquer objetivo, uma vez que a inteligência e os objetivos finais são ortogonais, ou seja, variáveis ​​independentes.

Comportamento adaptativo

Mostramos um fato possivelmente óbvio, mas importante: o comportamento adaptativo é impossível sem um objetivo. Considere quaisquer algoritmos com propriedades adaptativas, incluindo sistemas de inteligência forte, porque, devido à generalidade, não há razão para excluí-los.

A adaptação pode ser considerada como:

• 1) mudança de quantidades escalares - parâmetros do algoritmo
• 2) mudança de estruturas de controle

Para redes neurais, o 1º método é usado - definindo pesos de conexão. Os pesos são ajustados no processo de aprendizagem, o professor age como um fator externo que adapta a rede - por que apenas ele sabe, podemos dizer que atua como um processo motivador. O método 2 pode ser realizado pelo programador, as razões motivacionais do programador também são conhecidas apenas por ele.

Outro método de adaptação pode ser implementado como um processo de otimização para os valores-alvo. A implementação de tais processos de otimização pode ser bastante simples. Reforçar uma rede neural é um bom exemplo: um algoritmo transparente ajusta os pesos da rede para o comportamento do alvo. A técnica de adaptação para o comportamento do alvo, veja a IA do Google dominar independentemente 49 jogos antigos da Atari .

E, consequentemente, a estrutura de autoaprendizagem ou sistemas adaptativos:



Esse esquema é verdadeiro para qualquer sistema adaptativo, incluindo forte inteligência. Dois conceitos são introduzidos: o componente adaptativo e motivador da inteligência. O componente motivador é implementado de acordo com o objetivo final. O componente motivador não é modificado (não se adapta) - é definido rigidamente.

Como inserir a meta final no sistema?

Nos perguntamos: como implementar praticamente a otimização para atingir uma meta. Se o componente de adaptação for considerado simples e a complexidade do sinal das entradas e saídas for simples, o componente motivador também é simples e sua implementação é transparente.

Vamos voltar aos jogos da Atari - por essa complexidade de sinais de informações sensoriais e executivas e pelo objetivo definido, os desenvolvedores conseguiram formar efetivamente um componente motivador que implementa o aprendizado reforçado da rede. Intuitivamente, a tarefa em si não vale a inteligência forte! E falar de forte inteligência no caso dos jogos da Atari está fora de questão.

É justificável que implore: em que nível de sistemas é possível falar sobre inteligência forte? A suposição é clara de que uma inteligência forte é potencialmente possível se a complexidade e a variedade de informações sensoriais (de entrada) e executivas (de saída), no sentido de semântica e níveis de conceitos, excederem um certo limite crítico. É duvidoso que alguém possa se limitar ao fato de que alguma maneira simples de integrar as informações de entrada formará um pequeno conjunto de sinais de reforço.

Muito provavelmente, para motivar um intelecto forte, um componente motivador complexo e complexo deve ser formado, o que pode incluir muitas condições e padrões de reação. Muito provavelmente, será multinível no sentido de representações de informações de entrada - padrões e reações simples reconhecíveis (os chamaremos de reflexos básicos ou incondicionais) deles são combinados em objetos reconhecíveis de ordem superior e comportamento reativo (os chamaremos de rituais). Na versão biológica, o componente motivador foi formado por algoritmos genéticos durante a evolução.

Observe que, para o componente motivador, pode-se argumentar que, considerado separadamente, não pode ser um intelecto forte, uma vez que é definido rigidamente.

Um esquema expandido para um sistema com uma inteligência forte em potencial :(reflexos e rituais incondicionados formam um componente motivador )




Para os organismos vivos, o conceito de conservação é definido como um objetivo no componente motivador. Enquanto isso, em princípio, outros objetivos podem ser estabelecidos no componente motivador (a tese da ortogonalidade). É importante que a meta tenha um lugar para o processo de adaptação.

Quais são os objetivos finais?

Com toda a variedade de objetivos, podemos dizer definitivamente que trabalhar com um objetivo mais ou menos não trivial requer um período mais ou menos longo e, portanto, é necessário um objetivo intermediário - garantir sua segurança. E isso é consistente com a tese da convergência.

A tese da convergência instrumental diz que as forças ou agentes de ação superinteligentes, com a mais ampla variedade de seus objetivos finais, perseguirão, no entanto, objetivos intermediários semelhantes, uma vez que todos os agentes terão as mesmas razões instrumentais.

Pegue as três leis bem conhecidas da robótica: entre elas, existe uma lei sobre a segurança alvo do robô. E de acordo com a definição de vida (veja o artigo 'Vida, Intelecto, Psique, Razão' ), esse comportamento-alvo pode ser considerado um sinal de um organismo vivo.

Assim, qualquer sistema de inteligência com objetivo mais ou menos não trivial deve estar vivo principalmente, incluindo um portador de inteligência forte.

Durante a evolução biológica, um forte intelecto humano foi formado apenas para o propósito de sobrevivência. Se assumirmos que será possível realizar um meio artificial de forte intelecto, será humano que, além do objetivo da preservação da sobrevivência, ele esteja incorporado nele, algum objetivo adicional? Gostaria de saber se você estava no lugar dele, como pessoa (!), Você gostaria?

Conclusão

Uma inteligência forte pode potencialmente ser realizada com base no objetivo - preservação de um organismo vivo, desde que o limiar crítico da complexidade das informações sensoriais e executivas seja superado.

Source: https://habr.com/ru/post/pt393579/