El concepto de una mente ideal. IA universal

¿Qué es la inteligencia artificial o inteligencia artificial fuerte? ¿En qué etapa se encuentra la creación de la inteligencia artificial (IR) de la humanidad? ¿Es peligroso o útil el IR? Estas y otras preguntas que quiero destacar en este artículo.

El tema de la creación de inteligencia artificial me interesó en 2003.

De alguna manera sucedió de repente: por la mañana me desperté con la idea de que debía asumir esta tarea.
En primer lugar, traté de entender, y en qué etapa de la creación de la investigación científica estamos, ¿qué enfoques existen para resolver este problema y cuál es el problema real? ¿Cómo formularlo?

Descargué el libro de texto "Un manual sobre creación y educación de inteligencia artificial en el hogar", y me puse a leer ...

No, claro que no. Sabía que todavía no existía una solución a este problema, y ​​si es así, todos los trabajos que existen en esta dirección son solo teorías, y estas teorías no solo no han logrado resolver el problema, sino que tampoco nos han acercado mucho a resolverlo. .

Otras teorías tienen muchos beneficios. Su estudio le permite alcanzar rápidamente el nivel de comprensión del problema que tienen los autores. Puede comenzar desde el lugar donde otros se detuvieron, resumir la experiencia, tratar de ver lo que los predecesores no vieron.

Pero cuando estas teorías no se confirman, entonces hay maldad en ellas. Es malo seguir el camino que otros ya han seguido y pararse. Imponer estereotipos sobre cómo y desde qué extremo es necesario resolver este problema.

Guiado por esto, decidí posponer el estudio de los trabajos de otras personas y comenzar mi investigación "desde cero".

Durante varios años, desarrollé activamente mi concepto, analicé y esbocé el código. Expresé y discutí algunas de mis ideas en el foro del sitio ailab.ru.

No, todavía no tengo una granja de IR en el sótano de la casa y hasta ahora no he logrado crear un sistema que pueda pasar la prueba de Turing, pero ha aparecido un cierto modelo para crear dicho sistema. Las fases activas del trabajo fueron reemplazadas por otras menos activas, y ahora, con el paso del tiempo, decidí compartir mis ideas con usted.

Soy consciente de que muchas de mis conclusiones o declaraciones parecen controvertidas o incluso aficionadas. Al mismo tiempo, hasta que se cree una teoría sobre la base de la cual se construya una inteligencia artificial completa, cualquier teoría será controvertida y potencialmente incorrecta, independientemente de la autoridad de su autor. Por lo tanto, creo que tengo derecho a compartir mis pensamientos y argumentos en la forma en que pueda.

Dentro del marco de un artículo, no será posible acomodar tanto el concepto como el curso de razonamiento (que en mi opinión es aún más importante que el concepto en sí), por lo que planeo escribir varios artículos en los que describiré mi modelo y mi visión para construir IR.

Este artículo es el primero en el que quiero presentarle al lector las definiciones y expresar mi opinión sobre los peligros y la utilidad de IR a veces, a diferencia de la opinión bien conocida.

¿Qué estamos explorando?

El término "inteligencia artificial" está muy extendido, pero esto no es exactamente de lo que quiero hablar. Si en los albores de la era de la computadora este término reflejaría el tema de este artículo, ahora su significado ha cambiado (incluso diría que se ha roto y aplastado).

Ahora, se entiende que el término "inteligencia artificial" (IA) significa un cierto sistema intelectual (o un programa dotado de funciones intelectuales limitadas) capaz de resolver un rango estrecho de tareas (campo de aplicación).

Entre esta definición y la definición del tema de este artículo, veo diferencias fundamentales.

Pero antes de hablar sobre las diferencias, necesito nombrar de alguna manera la "mente" de la que quiero hablar.

Los términos más cercanos son los términos "inteligencia artificial fuerte" (SRI) e "inteligencia general artificial" (AGI)

La Inteligencia General Artificial (AGI) es la habilidad de una máquina que puede llevar a cabo con éxito cualquier tarea intelectual que una persona pueda hacer.

Strong Artificial Intelligence (SRI) es un programa informático que puede pensar y ser consciente de sí mismo (reconocerse a sí mismo como una persona separada, en particular, para comprender los propios pensamientos de una persona).

Ambas definiciones, en primer lugar, se basan en una referencia a las habilidades (manifestaciones) de la mente humana. Y, en segundo lugar, se refieren a un programa (algoritmo) como implementación.

Debido a ciertos puntos, que discutiré más adelante, me gustaría presentar mi concepto de "mente ideal". Ideal como "gas ideal" o como "cuerpo absolutamente negro".

Debido al hecho de que “inteligencia artificial” y “mente ideal” tendrán la misma abreviatura (IR), utilizaré la abreviatura en inglés de “Mente ideal” (IM) cuando me refiero exactamente a “mente ideal”.

Los motivos por los que considero necesario introducir un nuevo concepto son los siguientes:

• En ambas definiciones hay una referencia a las manifestaciones de la mente humana.

Creo que no podemos argumentar que la racionalidad (como fenómeno abstracto) solo puede existir en el cuerpo humano en el planeta tierra.

Hagamos una pregunta: ¿podría una persona (ser inteligente) aparecer en otro entorno, en otro cuerpo, con otras leyes físicas, en el espacio con un número diferente de dimensiones, etc.? No tenemos ninguna razón para responder esta pregunta en forma negativa.

Quiero asumir que las manifestaciones de la racionalidad de otro ser serían muy diferentes.
En mi opinión, el fenómeno de la racionalidad (como algo abstracto, aunque indefinido, pero intuitivamente claro) puede existir en un amplio espectro de seres y, por lo tanto, puede considerarse un fenómeno ideal.

No es autónomo en la comprensión completa (necesita ser), pero el ser (sus propiedades) es solo la razón de la naturaleza de la manifestación de la racionalidad, pero no determina su existencia misma.

En otras palabras, no hay conjuntos admisibles e inaceptables de características del ser para la existencia (manifestación) de la racionalidad. Aunque la manifestación de la racionalidad es imposible sin la existencia del ser (con alguna característica).

Así es como se dice que la ley de la gravedad es un principio ideal, pero su manifestación solo es posible en el entorno material.

En base a esto, podemos observar las manifestaciones de la mente humana solo en humanos y en la realidad que tenemos. Pero quiero decir que es imposible limitar el fenómeno de la racionalidad a estos límites e intentar crear IR, imitando manifestaciones individuales.

En otras realidades, la manifestación de la racionalidad puede ser diferente y puede haber innumerables variaciones de este tipo.

Es como reducir la ley de la gravedad a la ley de una manzana que cae sobre la cabeza de Newton y trata de entender el universo imitando un golpe en la cabeza.

En mi opinión, crear algoritmos que imiten las propiedades individuales de la mente humana y combinarlos entre sí no puede obtener IR.

A pesar del hecho de que identificamos áreas del cerebro humano y observamos varias funciones de estas áreas, el pensamiento humano no se presta a la descomposición en tal plano.

• La definición se refiere a un programa o máquina como una implementación de IR. Y en mi opinión, la prioridad no debe ser un programa, como un algoritmo para resolver un problema específico, sino un concepto, como un principio o un conjunto de principios.
  

Supongo que las definiciones de AGI y SII implican una implementación algorítmica y no algorítmica. Y aquí, me parece, es necesario limitar la definición.
No puede haber un algoritmo IR, ya que el algoritmo se crea para resolver un problema específico y el alcance de su aplicación se limita a esta tarea.

La paradoja es que IR debe ser capaz de resolver cualquier problema, e incluso aquellos que no existían en el momento de su nacimiento. El enfoque algorítmico no nos brinda esa oportunidad, ya que la tarea debe plantearse antes de escribir el algoritmo.

Si hablamos de manera similar sobre las redes neuronales, entonces el algoritmo solo emula una red neuronal, que se basa en un concepto diferente (no algorítmico). Y la creación de un algoritmo para emular una red neuronal no determina qué tareas resolverá esta red neuronal. Estas tareas estarán determinadas por los datos obtenidos en el proceso de su capacitación, y la estructura del NS afectará una cierta eficiencia de este NS para una determinada clase de tareas y la cantidad de datos. Además, estudiamos las diversas configuraciones del NS empíricamente, lo que sugiere que al momento de diseñar la estructura del NS, su efectividad para resolver un problema específico no es definible.

Computadora y transistor

El científico estadounidense en el campo de la inteligencia artificial, Marven Minsky, en su entrevista trazó paralelos entre el principio del cerebro y la computadora. Dijo que es imposible entender qué es una computadora y cómo funciona, incluso si estudia en detalle el principio de funcionamiento de los transistores que componen una computadora. Del mismo modo, uno no puede entender el trabajo del cerebro al estudiar el trabajo de las neuronas y los axones.

Este es un pensamiento muy importante, en mi opinión, y me gustaría analizarlo con más detalle.
Estoy completamente de acuerdo en que es imposible entender qué es una computadora y cómo funciona, estudiando el funcionamiento del transistor. Además, si estudiamos el funcionamiento del transistor en detalle, tomamos todas sus características analógicas, tomamos en cuenta todos los transitorios y comenzamos a emularlos, podemos llegar a la conclusión paradójica de que crear un procesador con siete mil millones de transistores es imposible en el nivel actual de desarrollo de la tecnología informática.

Por otro lado, al tener experiencia en la interacción con una computadora (como usuario), podemos llegar a la falsa conclusión de que las funciones de la computadora son Word, Ecell y Starcraft. Y considerar que si emulamos estas funciones y las combinamos, obtendremos una computadora.
Aunque la computadora consiste en transistores (no solo por supuesto), no el transistor es el "ladrillo de la esencia" de la computadora, así como la palabra Excell y Starcraft no son el "ladrillo de la esencia" de la computadora.

La computadora se basa en los principios de la lógica binaria y sus algoritmos de aplicación. La instrucción del procesador es mucho más adecuada como "ladrillo" que como transistor. Un transistor es solo una implementación (una de las posibles) de estos conceptos (lógica binaria, algoritmos, instrucciones). Al examinar el hardware de una computadora o al examinarlo como usuario, es imposible ver las instrucciones y los algoritmos del procesador.

Al comprender los conceptos de construir una computadora, puede implementarla mecánicamente o como un grupo de personas [Liu Qixin, "El problema de los tres cuerpos"] o de muchas otras maneras.
Al comprender el funcionamiento del transistor o las funciones aproximadas de los bloques de hardware de la computadora (obtenidos empíricamente), no será posible construir una computadora.

Esto se puede ver en otro plano.

Existe una diferencia fundamental entre los departamentos del cerebro, sus funciones y los bloques de la computadora (o el procesador mismo), y existe una similitud probable.

La diferencia es que la computadora está diseñada de acuerdo con una idea previamente conocida. No es capaz de desarrollarse y evolucionar. Una computadora (su arquitectura de bloques, configuración) contendrá información estática sobre el "diseño". El "concepto" en sí mismo en la cabeza de un ingeniero (o muchos ingenieros) se desarrollará y evolucionará, pero la información sobre este proceso en la estructura final de la computadora estará ausente. Es decir, el concepto evoluciona por separado de la implementación.

El cerebro, por el contrario, evoluciona a sí mismo. Es decir, la información sobre cómo (sobre qué principios) debería suceder esto está incrustada en el cerebro mismo de una forma u otra (a menos, por supuesto, que se tenga en cuenta a Dios y que vivamos en una matriz). Y esto nos da algunas oportunidades más que la computadora para entender el "diseño más alto".

Y la similitud probable es que como un transistor separado (tanto la implementación de la idea de una válvula, llave, válvula) como la arquitectura de la computadora (sus bloques, partes, arquitectura de CPU) es solo una implementación. Otra implementación podría ser un modelo de una máquina de Turing.
Al mismo tiempo, la máquina de Turing y la computadora (según nuestro conocimiento actual) se basan en el concepto de un algoritmo.

Al establecer paralelos con el cerebro, se puede suponer que tanto las neuronas (en comparación con los transistores) como las regiones del cerebro son una de las posibles (no las únicas) realizaciones de un concepto (diseño) de nivel superior. Las redes neuronales son uno de los posibles conceptos de tal idea.

Por lo tanto, el tema de discusión en este artículo es el concepto (ley, idea, efecto) de tal intelecto que sería tan universal que podría considerarse ideal, es decir, no vinculado a la realización o al mundo en el que aparece.

Mirando hacia el futuro, daré mi definición de racionalidad:

El pensamiento o la racionalidad es la capacidad de mostrar voluntad con respecto al resultado probable (resultado, efecto) de un evento, basado en la experiencia subjetiva y con el objetivo de expandir las posibilidades de su influencia en ellos en el futuro.

Además (en los siguientes artículos) le diré desde dónde apareció esta definición y la analizaré con más detalle.

¿Es peligrosa la inteligencia artificial?

Surge una pregunta por separado: ¿qué peligro representa la inteligencia artificial para la humanidad y es necesario crearla?

Apuesto con comillas.

"Tal máquina comenzará a vivir su propia vida y mejorará a un ritmo cada vez más rápido", cree Hawking. "Las personas cuyo desarrollo está limitado por el ritmo de la evolución biológica, al no poder competir con dicho sistema, se quedarán rezagadas".

1. ¿Por qué Hawking consideró razonable separar a las personas y las máquinas y ponerlas unas contra otras como clases rivales? Por ejemplo, no puedo competir con el avión en velocidad, pero no representa una amenaza para mí. Además, las personas no se unen contra los aviones, y los aviones contra las personas, esto no tiene sentido.
2. ¿Son las personas inteligentes una amenaza para los tontos? ¿Es necesario considerar la inteligencia artificial en tal plano?
3. “¿Vale la pena enseñar a los niños? Pueden volverse más inteligentes que nosotros y nos quedaremos atrás de ellos ”. Quizás en el futuro, percibiremos como nuestros hijos no solo nuestra descendencia biológica.

"Creo que hay que tener mucho cuidado con la inteligencia artificial", dijo Elon Musk. "Si me preguntan cuál es la amenaza más grave para la existencia humana, entonces probablemente se trate de inteligencia artificial". Al desarrollarlo, convocamos a un demonio. En todas esas historias, el héroe, después de haber representado un pentagrama y armado con agua bendita, está seguro de que podrá controlar al demonio, pero resulta que esto no es así ".

1. ¿Por qué necesitamos controlar todo, Ilon? ¿Por qué algo que no puedes controlar inmediatamente a priori es una amenaza y un demonio? Aunque lo se. Así es como funciona la mente: ¡lo desconocido es potencialmente peligroso! Entonces, ¿nos esconderemos debajo de las sábanas o tomaremos una astilla y veremos qué tipo de demonio se esconde en el armario?
2. El sueño de un tonto para contratar personas inteligentes para trabajar para él es casi imposible. Si una persona crea una máquina más inteligente que él, no podrá subordinarla a sí misma. ¿Pero hay realmente una amenaza? ¿Es necesario traducir todo al plano "quién más fuerte es el enemigo"?

"No estoy preocupado, no solo porque probablemente haya pasado décadas antes de la creación de inteligencia artificial de alto nivel, sino también porque estoy seguro de que podremos controlarlo cuando lo creemos". - Yasser Abu-Mostafa, profesor de ingeniería electrónica y computación Ciencia, Instituto de Tecnología de California.

De nuevo control. Solo con optimismo. "Podemos controlar, todo estará bien". :)

"De hecho, creo que tales temores pueden justificarse, y la probabilidad de crear una inteligencia artificial que sea superior a la mente humana es muy interesante", dijo Andrew Moore, decano del Departamento de Ciencias de la Computación de la Universidad Carnegie Mellon. - Este es un peligro que solo se puede realizar en un futuro lejano, pero que tarde o temprano será necesario pensarlo. Tan pronto como comencemos a acercarnos a la creación de potentes máquinas superinteligentes, sin duda, será necesario detenerse y pensar en lo que estamos haciendo ".

Bueno, puedes pensar ahora. Y la pregunta no ha terminado o es inteligencia artificial. Primero tratemos con lo ordinario, y luego quedará claro cómo medirlo. Dado que, por ejemplo, la prueba de Turing solo puede decir "sí" o "no", pero nada sobre su nivel (fuerza, potencia, etc.).

Resume los miedos.

Traté de analizar y resaltar los principales temores que las personas experimentan en relación con la inteligencia artificial:

• fuera de control;
• Será hostil y tomará todos los recursos de la humanidad, y matará personas;
• expulsar a personas de todas las áreas de actividad;
• será programado para objetivos "torcidos" y logrará "estúpidamente" estos objetivos por todos los medios disponibles (¿estamos hablando de la mente o de una aspiradora robótica?) ;
• esta herramienta estará disponible solo para corporaciones y gobiernos seleccionados que la usarán con fines militares y de competencia;
• La inteligencia artificial (todas las máquinas) se unirá contra las personas, se levantará y comenzará una guerra.

Discutimos la realidad de las amenazas.

En primer lugar, quiero suponer (repito) que es imposible programar la inteligencia artificial para cualquier propósito específico en principio. Si programamos algo para resolver algunos problemas, entonces la inteligencia (razón) no estará allí.
La razón artificial y humana debería tener (insisto en que es) principios básicos similares que subyacen al efecto de la racionalidad misma, son necesarios y suficientes.

Si comienzas desde la mente humana, dime qué tipo de tareas está programada.Si responde esta pregunta, responda la pregunta filosófica sobre el significado de la vida.

Los significados y las tareas de la mente humana (como habilidades) surgen solo en el proceso de interacción con el mundo exterior (que incluye el propio cuerpo humano, incluido el cerebro). El ser determina la conciencia. La civilización (la nuestra u otra) define nuestra mente, solo forma los conceptos de bien y mal, amistad, amor, paz y guerra. Estos conceptos e incluso espacios para estos conceptos no existen en el óvulo fertilizado.

La mente ideal inicial (vacía) es solo la realización de la capacidad de ser potencialmente inteligente. La forma, la naturaleza de la racionalidad: cosas adquiridas en el proceso de educación y autoeducación de esta mente. Todavía hay instintos innatos, pero más sobre ellos más adelante.
Basado en este paradigma, la mayoría de los miedos desaparecen por sí mismos.
No puedes programar una mente malvada. Puedes educar. Pero puedes educar a una persona mala y mala, y por alguna razón esto no causa ningún temor especial.

No puedes controlar la mente. Puede interrumpir su trabajo, puede ordenar y forzar, pero no habrá un control completo, así como con una persona. La complejidad de la tarea de control es comparable con la cantidad total de cálculos que el cerebro controlado ha realizado desde su nacimiento (cómo reescribir toda la cadena de bloques).

La hostilidad y la militancia también son rasgos. No educamos a nuestros hijos hostiles hacia otras personas, les enseñamos amabilidad, asistencia mutua, la capacidad de encontrar soluciones mutuamente beneficiosas en las interacciones con otras personas inteligentes. Y nuestra civilización continúa existiendo y desarrollándose gracias a esto. Entonces, ¿por qué tendremos que educar a nuestras criaturas artificiales inteligentes para hacer lo contrario?

Hay, por supuesto, una amenaza (ver la película Humans), pero sus causas no están en la mente artificial, sino en las personas mismas, la xenofobia y otros miedos y vicios.

Quizás la IA realmente empuje a las personas fuera de la mayoría de las áreas de actividad. Pero esto sucederá incluso si el FIC no se inventa. Esto ya estaba en la historia e hizo que la humanidad cambiara, dominara nuevas profesiones. Ya sea bueno o malo, no me atrevo a juzgar, pero tal vez nuestra sociedad necesita un "impulso", un fuerte incentivo para cambios importantes. Quizás la humanidad necesita una amenaza que no puede resolverse por medios militares o militares para dirigir sus mentes no a la creación de nuevas armas, sino a la educación, la ciencia y la cognición.

Nuestro rechazo de las criaturas que actualmente no son biológicas como nuestros hijos, en mi opinión, se debe al hecho de que no podemos ser ellos (no podemos transferir nuestra mente a una máquina), pero no pueden convertirse en nosotros (mover nuestra mente a un ser biológico, como un hombre) Si imagina que en el futuro tal oportunidad aparecerá (tal vez el SRI solo ayudará a inventar tal tecnología), entonces no habrá miedos y prejuicios contra otro ser no biológico razonable. Siempre habrá una oportunidad de mover la mente a un caparazón más adecuado. La línea que está formada por la "peculiaridad de implementación" de la racionalidad desaparecerá. La comunidad y el parentesco se percibirán no por el tipo de caparazón material, sino por la esencia.

Pero la amenaza de que esta tecnología estará exclusivamente en manos de gobiernos y corporaciones individuales me parece realmente muy peligrosa. Imagine que una persona perdería la capacidad de crear su propia especie y esta prerrogativa pertenecería solo a corporaciones y gobiernos individuales. Esto causaría un sesgo social tal que incluso es difícil imaginar las consecuencias catastróficas. Por lo tanto, si se crea esta tecnología, debería estar disponible y abierta a todos.

Y lo último que quiero decir a los opositores de la creación de IR. Ya sea que le tengas miedo o no, se creará. Esto sucederá en 10, 20 o 100 años, pero sucederá necesariamente, ya que es inevitable. Y solo puedes cambiarte a ti mismo: prepárate para este evento y conoce a IR como tu hijo, a quien debes amar y criar, y no como un enemigo que debe ser combatido y oprimido, controlado, explotado en todos los sentidos (contra su voluntad).

Y en conclusión de este primer artículo, me gustaría decir que una buena IA puede ser buena para la humanidad.

¿Por qué crear inteligencia artificial?

¿Por qué convertir a un hombre en un perro si alguna mujer puede parirlo en cualquier momento?
Profesor Preobrazhensky.

En primer lugar, me gustaría decir que es imposible relacionarse con IR como un instrumento en manos del hombre. Este enfoque solo conducirá a grandes problemas.

IR, construido sobre principios similares que tanto el pensamiento humano como la educación civil, serán una persona en esencia, pero no implementada biológicamente, sino sobre la base de la tecnología digital.

Aquí puede hacer una comparación con los padres biológicos del niño y sus padres no biológicos que lo criaron y criaron.

¿Es importante la herencia biológica en nuestra comprensión social del parentesco? Muchos estarán de acuerdo conmigo en que la relación biológica entre una madre y un niño es mucho menos importante y significativa que la conexión que surge entre los padres y un niño después de su nacimiento, en el proceso de tutela y educación.

Y si aplicamos esta tesis a la relación entre el "hijo de IR" y sus padres humanos que lo cuidarán y lo criarán, entonces la falta de una conexión biológica entre ellos no debería desempeñar un papel importante.

Las personas con IR "adultas" educadas deben ser percibidas en la sociedad como personas de pleno derecho, que tienen el mismo conjunto de derechos y obligaciones que una persona biológica.
Solo en este caso entraremos en el feliz futuro del progreso, y no del "levantamiento de máquinas" y el genocidio de las personas biológicas.

La aparición de una especie de personas no biológicas dará grandes oportunidades a toda la humanidad:

1. Las personas no biológicas tendrán una cadena alimentaria diferente y esta cadena alimentaria no se cruzará (competirá) con la cadena alimentaria de las criaturas biológicas (incluidos los humanos biológicos)
2. , . . ( ). .
3. .
4. , ( , , , )
5. , , , ().
6. Los cuerpos de las personas no biológicas no estarán sujetos al envejecimiento (se pueden cambiar).
7. La razón no biológica puede guardarse y restaurarse en caso de pérdida, clonarse (si la moral del futuro lo permite). Y esta es la inmortalidad práctica de la mente (individual).
8. La mente no biológica puede existir plenamente en el mundo virtual (matriz)
9. IR puede moverse en el espacio a la velocidad de la luz (entre el transmisor y el receptor).
10. El IR puede funcionar en una línea de tiempo diferente (por ejemplo, acelerado varias veces o viceversa, más lento).

Estas características le permitirán:

1. Varias veces aumentan el número de criaturas inteligentes en el planeta sin el problema de la sobrepoblación. Esto a su vez aumentará el potencial intelectual de la humanidad: acelerar el progreso y la ciencia.
2. Explora activamente el espacio, puebla nuevos planetas. Realice expediciones espaciales lejanas, realice terraformaciones de planetas para asentarse con especies biológicas terrestres.
3. Elevar el nivel de vida de las personas.
4. Para aumentar la eficiencia de la vida humana, use los recursos naturales de manera más eficiente y mucho más.

En conclusión del primer artículo, quiero dar enlaces a obras de arte en el campo de la inteligencia artificial, que en mi opinión no son bien conocidas, pero merecen ser así:

1. El ciclo de vida de los objetos de software por Ted Chan
2. "El árbol de la vida" Vladimir Kuzmenko

Continuará ...