Recientemente, el tema de la inteligencia artificial se ha convertido en uno de los principales medios de comunicación y nos asustan cada vez más las profecías de muchas personas famosas, como Stephen Hawking (el universo está lleno de pelusas) y el peligro de su desarrollo. Tal retórica alarmista implica que la inteligencia artificial en sí misma, en primer lugar, se convertirá en un sujeto, y en segundo lugar, tendrá intenciones negativas en relación con los individuos y la humanidad en su conjunto. Hablemos de estos supuestos con más detalle.
Actualmente, todos los sistemas que incluyen inteligencia artificial de alguna forma (ya sean redes neuronales, sistemas expertos, etc.) lo utilizan como una herramienta aplicada. Es decir, como un tipo de máquina, que tiene un área claramente limitada de acciones / tareas y, en consecuencia, consume y emite información. De esta forma, la IA no puede tener ninguna intención propia, excepto si está implícitamente integrada. Así que esta no es la intención del sistema de IA, sino sus creadores. E, incluso si el sistema con una máquina de IA y funciona de manera que dañe, no hablará sobre la intención maliciosa de la IA, sino solo sobre el funcionamiento incorrecto del sistema, que podría ser causado, por ejemplo, por un mal funcionamiento, errores de diseño del sistema o incorrectos Entrenamiento de IA.
Aquí intentaremos responder a la pregunta de cómo se puede diseñar un sistema de IA y qué propiedades y capacidades debe poseer para que ya no pueda considerarse solo una máquina de IA, sino que pueda considerarse como un tipo de tema.
Entonces, para ser un sujeto, el sistema de inteligencia artificial debe poder evaluar de forma independiente la información heterogénea entrante y tomar decisiones, así como la capacidad de actuar en un amplio rango sobre la realidad circundante sobre la base de estas evaluaciones y decisiones. Y para tener intenciones negativas, o cualquier otra, y tomar decisiones sobre acciones, se necesita motivación ("¡Motivación, Karl!"). Es decir, lo que mueve al sujeto lo hace actuar. En consecuencia, una cierta motivación primaria debe estar integrada en la IA cuando se crea. O podemos esperar su generación espontánea, tal vez los próximos mil millones de años, como lo hizo para el surgimiento de la vida en la sopa de aminoácidos.
El hombre, cuando creaba algo complejo, a menudo tomaba prestadas soluciones técnicas de la naturaleza, es decir, usaba algo que ya había demostrado su eficiencia y efectividad. Al crear sistemas de IA, también podemos ver cómo estamos estructurados y qué mecanismos utiliza la naturaleza para hacernos capaces de una existencia autónoma a largo plazo y (quiero creer) exitosa.
Para empezar, recordemos qué motivaciones primarias tienen todos los seres vivos, lo que los hace moverse. Obviamente, solo hay dos motivaciones principales: el instinto de autoconservación y el instinto de reproducción, es decir, la libido. De hecho, estas dos primeras adaptaciones evolutivas, que se llevaron a cabo por selección natural, fueron la creación de vida a partir de materia inanimada. Están constantemente respaldados por la selección natural: en términos generales, todo lo que no trata de preservarse y reproducirse simplemente no sobrevive. Hay teorías que dicen que tales propiedades, es decir, el deseo de autoconservación y auto-reproducción, son poseídas por la información en sí, como tal (por ejemplo, D. Glick "Información. Historia. Teoría. Corriente", R. Dawkins "El gen egoísta").
En los seres vivos complejos, el mecanismo para realizar las motivaciones primarias está incrustado en la estructura misma del cuerpo (y del cerebro, en particular) creado por la evolución. Por ejemplo, cuando el nivel de glucosa de un animal cae o el estómago señala un exceso de secreción, se activa un programa de autoconservación y mantenimiento de la homeostasis y, como resultado, el animal comienza a buscar alimento. En otro caso, si la criatura considera que las circunstancias son amenazantes, entonces se activa el programa de rescate "golpear o correr". O las circunstancias pueden considerarse como propicias para la reproducción, entonces el programa de reproducción se activará y el cerebro de la criatura recibirá un poderoso refuerzo hormonal del comportamiento correspondiente. Toda esta cocina está implementada al nivel del cerebro "reptiliano", es decir, esa parte del cerebro de todas las criaturas vivientes complejas que heredaron desde tiempos inmemoriales de los primeros animales. Y dicho mecanismo ha demostrado su éxito y efectividad durante millones de años.
Probablemente sería bastante fácil construir un sistema de IA que funcione de acuerdo con un algoritmo similar. Pero estamos más interesados en el caso en que el sistema de IA podría construir evaluaciones complejas y tener una estructura de motivaciones más compleja que las primarias. Para comprender cómo se puede lograr esto, veamos cómo sucede esto en las personas, es decir, por qué las personas, que tienen las mismas motivaciones primarias, pueden y realizan actividades tan diversas.
La forma principal en que las personas transforman las motivaciones primarias en otra actividad es la sublimación: la refracción de las motivaciones primarias a través de la estructura de sus valores y sus objetivos correspondientes. Y los valores y objetivos son conceptos puramente lingüísticos, es decir, inexistentes fuera del idioma. De hecho, cosas como "desarrollo", "salud", "conocimiento", etc., son categorías de lenguaje, y para cada individuo individual pueden significar cosas muy diferentes. Y su característica distintiva, como saben, es que no se pueden "poner en una carretilla". Los valores del individuo forman un gráfico, donde los valores mismos son sus vértices, y las costillas son las creencias que conectan los valores. Por ejemplo, "la salud es felicidad" o "el conocimiento es necesario para tener éxito" o "solo la riqueza da satisfacción a la vida" son conexiones entre valores. Por lo tanto, el gráfico de valores es el núcleo de la personalidad individual.
Transformando a través de este gráfico de valores, las motivaciones primarias pueden transformarse en motivos y objetivos más complejos y no triviales. Por ejemplo, una persona crea una organización o desarrolla un campo científico o muestra otra actividad creativa; todo esto es la realización de su motivación principal para la auto-reproducción. Solo los objetos reproducibles ya no son seres humanos, sino construcciones a partir de las ideas, intereses y creencias de su creador. En otro caso, incluso si una persona simplemente va a trabajar para ganar dinero, empujarlo a hacerlo no es más que una motivación sublimada para la autoconservación. Resumiendo, podemos decir que las estructuras del cerebro (incluido el "reptil") y el cuerpo y el lenguaje incrustado en la persona se complementan en el proceso de convertir las motivaciones primarias en objetivos complejos.
Entonces, si queremos que el
sistema de IA sea un sujeto / personalidad y pueda tener motivaciones de la forma "por el bien del desarrollo" o "en nombre del bien común" o cualquier otra motivación que no se establezca de manera constructiva,
debe poseer , en primer lugar,
motivaciones primarias y, en segundo lugar, el
lenguaje incrustado y construido sobre la base de un gráfico de valores y creencias . Además, su motivación principal no tiene que ser así, pero puede ser la autoconservación y la reproducción.
Además, el sistema de IA puede tener una adaptación evolutiva tan interesante y útil como la autoconciencia, que consiste en comprender los límites entre el "yo" y el "no yo" y desde la toma de conciencia de los resultados de la actividad mental propia (que se realiza de manera bastante simple en las redes neuronales modernas, por aplicando la señal de salida de red nuevamente a sus entradas). Esta adaptación evolutiva es muy propicia para la autoconservación: para una criatura que no reconoce los límites entre "yo" y "no yo", no tiene sentido, por ejemplo, resistir a un depredador que intenta morder la extremidad de una criatura, porque en ausencia de tales límites, los intereses de este depredador también deberían ser incluido en los intereses de la criatura. El conocimiento de los resultados de la propia actividad mental de uno ayuda a resolver problemas de forma iterativa, es decir, es posible resolver problemas cuya complejidad requiere más poder de cómputo que el cerebro de la criatura a la vez. La capacidad de resolver problemas complejos (incluso por el bien de la supervivencia) brinda una ventaja evolutiva y, en consecuencia, está respaldada por la selección natural.
Además, el sistema de IA puede incluir la capacidad de controlar el vector de su motivación, que capacidad (pero muy a menudo no usa) de cualquier sujeto que posea el homo sapiens. Aquí incluso puede usar la capacidad de controlar el vector de su motivación como
criterio de racionalidad : es decir, alguien que no puede o no controla su motivación no es inteligente.
Como ya donde solo no estaba escrito (excepto quizás en la cerca), el cerebro humano contiene alrededor de 86 mil millones de neuronas, cada una de las cuales puede tener hasta 20-30 mil conexiones (sinapsis). Además, la mayor parte (alrededor del 90%) de este recurso informático se gasta no en la actividad nerviosa realmente más alta que ocurre en la corteza prefrontal, sino en tareas auxiliares, como el mantenimiento y la gestión de procesos bioquímicos en el cuerpo, el procesamiento de información visual y auditiva, etc. d. Al principio, la naturaleza creó el sistema nervioso precisamente para el cumplimiento de estas tareas, hasta que se descubrió que la red neuronal también es excelente para realizar el intelecto mismo.
En los sistemas de inteligencia artificial, todas estas tareas auxiliares (si surgen) pueden resolverse mediante dispositivos especializados que no requieren una potencia informática tan grande, mientras que todavía no hemos podido encontrar nada más adecuado y efectivo para implementar inteligencia que las redes neuronales.
Por lo tanto, según estimaciones muy aproximadas, podemos contar con la creación de un sujeto de inteligencia artificial con inteligencia equivalente a la humana sobre la base de una red neuronal con una capacidad de aproximadamente 8 mil millones de neuronas. Si consideramos que la neurona está conectada en promedio a otras 1000 neuronas y la red debería funcionar a una velocidad de hasta 40 Hz (ritmo beta del cerebro humano), entonces la potencia informática necesaria es "solo" aproximadamente 250 teraflops. Por ejemplo, 40 tarjetas gráficas NVIDIA GeForce GTX 1070 en conjunto pueden proporcionar dicho rendimiento.
Al mismo tiempo, tales sistemas de IA pueden tener una serie de ventajas en comparación con los seres vivos. Para empezar, a diferencia del cerebro, el sistema de IA es más fácil de mantener: no necesita un suministro diario de sangre saturada con calorías y oxígeno, así como varias hormonas en proporciones muy precisas. Se puede reparar, lo que rara vez se hace con el cerebro humano. Ella no necesita dormir ni descansar en tales cantidades, porque el mecanismo exclusivamente eléctrico no requiere la renovación de sustancias de trabajo, como lo requiere el cerebro químico-eléctrico. Nuevamente, todo el sistema electrónico puede operar a frecuencias sustancialmente mayores a 100 Hz, lo cual, aparentemente, es una limitación en el cerebro debido a su estructura químico-eléctrica (aquí, frecuencia significa la cantidad de veces que todas las neuronas de la red operan en un segundo) . Además, probablemente, los sistemas de IA no tendrán una restricción en la cantidad de unidades de atención que tienen las personas: 7 ± 2 unidades de atención están disponibles para nosotros simultáneamente.
Sin embargo, en el futuro previsible, tales sistemas de IA perderán a las personas en complejidad y multifactor simplemente porque la neurona en el sistema nervioso humano en sí es un mecanismo molecular muy complejo, que depende de una gran cantidad de parámetros, a diferencia de la neurona de la neuronal moderna redes que tienen una estructura simple.