¿Es la vida el único objetivo digno de la inteligencia?

El artículo analiza el intelecto y sus objetivos finales, mientras que se abordan las tesis sobre la ortogonalidad y la convergencia. En mi artículo anterior 'Vida, intelecto, mente, mente', la pregunta no estaba suficientemente aclarada. El principio se declaró en ese artículo: la inteligencia fuerte debería construirse como un sistema adaptable basado en el objetivo final: preservación y supervivencia de un organismo vivo: el portador de la inteligencia. Y se da el diagrama estructural general del organismo con inteligencia, posiblemente fuerte. A continuación hay un análisis adicional de por qué esto es así.

Una nota sobre terminología.
Como un intelecto fuerte, tendremos en cuenta su comprensión generalmente aceptada. La inteligencia débil es cualquier sistema o algoritmo que no implementa una inteligencia fuerte. El nombre común para ambos es simplemente inteligencia, no distinguiremos entre inteligencia artificial y natural.

La tesis de la ortogonalidad del propósito y la inteligencia.
La tesis de la ortogonalidad dice que puedes combinar cualquier nivel de inteligencia con cualquier objetivo, ya que la inteligencia y los objetivos finales son variables ortogonales, es decir, independientes.

Comportamiento adaptativo

Mostramos un hecho posiblemente obvio, pero importante: el comportamiento adaptativo es imposible sin un objetivo. Considere cualquier algoritmo con propiedades adaptativas, incluidos los sistemas de inteligencia fuerte, porque, debido a la generalidad, no hay razón para excluirlos.

La adaptación puede considerarse como:

• 1) cambio de cantidades escalares - parámetros del algoritmo
• 2) cambio de estructuras de control

Para redes neuronales, se utiliza el primer método: establecer pesos de conexión. Los pesos se ajustan en el proceso de aprendizaje, el maestro actúa como un factor externo que adapta la red; por eso solo él sabe, podemos decir que actúa como un proceso motivador. El programador puede llevar a cabo el método 2; los motivos de motivación del programador también solo los conoce él.

Se puede implementar otro método de adaptación como un proceso de optimización para valores objetivo. La implementación de tales procesos de optimización puede ser bastante simple. Reforzar una red neuronal es un buen ejemplo: un algoritmo transparente ajusta los pesos de la red para el comportamiento objetivo. La técnica de adaptación para el comportamiento objetivo, ver AI de Google dominó de forma independiente 49 viejos juegos de Atari .

Y, en consecuencia, la estructura del autoaprendizaje o los sistemas adaptativos:



este esquema es válido para cualquier sistema adaptativo, incluida una inteligencia fuerte. Se introducen dos conceptos: el componente adaptativo y motivador de la inteligencia. El componente motivador se implementa de acuerdo con el objetivo final. El componente motivador no se modifica (no se adapta), se establece rígidamente.

¿Cómo ingresar el objetivo final en el sistema?

Nos hacemos una pregunta: cómo implementar prácticamente la optimización para lograr un objetivo. Si se supone que el componente de adaptación es simple y la complejidad de la señal de las entradas y salidas es simple, entonces el componente motivador también es simple y su implementación es transparente.

Volvamos a los juegos de Atari: para esta complejidad de señales de información sensoriales y ejecutivas y el objetivo establecido, los desarrolladores pudieron formar efectivamente un componente motivador que implementa el aprendizaje de refuerzo en la red. ¡Intuitivamente, la tarea en sí misma no vale la inteligencia fuerte! Y hablar de inteligencia fuerte en el caso de los juegos de Atari está fuera de discusión.

Suplica justificadamente: ¿en qué nivel de sistemas es posible hablar de inteligencia fuerte? La suposición es clara de que una inteligencia fuerte es potencialmente posible si la complejidad y variedad de información sensorial (entrada) y ejecutiva (salida) en el sentido de la semántica y los niveles de conceptos excede un cierto umbral crítico. Es dudoso que uno pueda limitarse al hecho de que alguna forma simple de integrar la información de entrada formará un pequeño conjunto de señales de refuerzo.

Lo más probable es que, para motivar un intelecto fuerte, se forme un componente motivador complejo y complejo, que puede incluir muchas condiciones y patrones de reacción. Lo más probable es que sea multinivel en el sentido de representaciones de información de entrada: patrones y reacciones simples reconocibles (los llamaremos reflejos básicos o no condicionados) a partir de ellos se combinan en objetos reconocibles de un orden superior y comportamiento reactivo (los llamaremos rituales). En la versión biológica, el componente motivador fue formado por algoritmos genéticos durante la evolución.

Tenga en cuenta que para el componente motivador, se puede argumentar que considerado por separado, no puede ser un intelecto fuerte, ya que se establece rígidamente.

Un esquema ampliado para un sistema con una inteligencia fuerte potencial :(los reflejos y rituales incondicionados forman un componente motivador )




Para los organismos vivos, el concepto de conservación se establece como un objetivo en el componente motivador. Mientras tanto, en principio, se pueden establecer otros objetivos en el componente motivador (la tesis de la ortogonalidad). Es importante que el objetivo tenga un lugar para el proceso de adaptación.

¿Cuáles son los objetivos finales?

Con toda la variedad de objetivos, definitivamente podemos decir que trabajar con un objetivo más o menos no trivial requiere un período más o menos largo y, por lo tanto, existe la necesidad de un objetivo intermedio: garantizar su seguridad y protección. Y esto es consistente con la tesis de la convergencia.

La tesis de la convergencia instrumental establece que las fuerzas de acción superinteligentes, o agentes, con la más amplia variedad de sus objetivos finales, perseguirán objetivos intermedios similares, ya que todos los agentes tendrán las mismas razones instrumentales.

Tome las conocidas tres leyes de la robótica: y entre ellas hay una ley sobre la seguridad del objetivo del robot. Y de acuerdo con la definición de vida (ver el artículo 'Vida, intelecto, psique, razón' ), este comportamiento objetivo puede considerarse un signo de un organismo vivo.

Por lo tanto, cualquier sistema de inteligencia con un objetivo más o menos no trivial debe ser principalmente vivo, incluido un portador de inteligencia fuerte.

Durante la evolución biológica, se formó un intelecto humano fuerte solo con el propósito de sobrevivir. Si suponemos que será posible realizar un portador artificial de inteligencia fuerte, ¿será humano que, además del objetivo de preservación de la supervivencia, se incruste en él, algún objetivo adicional? Me pregunto si estuvieras en su lugar, como persona (!), ¿Te gustaría?

Conclusión

Se puede obtener una inteligencia fuerte sobre la base del objetivo: la preservación de un organismo vivo, siempre que se supere el umbral crítico de complejidad de la información sensorial y ejecutiva.

Source: https://habr.com/ru/post/es393579/