Sobre las barreras para el uso de sistemas de signos en inteligencia artificial

¿Por qué necesitamos sistemas de signos?


El sistema de signos actúa como portador de pensamientos, ideas, emociones, experiencias, sensaciones, organización de la memoria: los productos de los procesos mentales, que proceden, de acuerdo con las ideas de la ciencia moderna, en el cerebro humano y los animales superiores. Un sistema de signos es un medio de indicar tales productos. Parece que en este momento la única forma de transmitir información sobre los resultados del pensamiento, la memoria, las emociones, las sensaciones, la imaginación es codificar esta información utilizando un sistema de signos. No podemos (¿todavía?) Intercambiar directamente pensamientos, emociones, sensaciones sin recurrir a uno u otro sistema de signos. Necesitamos sistemas de signos para compartir los resultados de tales procesos. Los sistemas de signos son un compañero de los procesos indicados y, tal vez, hay una retroalimentación en la que los procesos mentales evolucionan bajo la influencia de los sistemas de signos, se desarrollan juntos.

Aparentemente, un pensamiento nunca puede expresarse de manera precisa e inequívoca solo por medio de un sistema de signos, es decir La codificación es una aproximación, un cierto modelo. Siempre existe la oportunidad de aclarar algo indicado por un signo. No es por nada que existe la frase "palabras selectas", un intento de expresar un pensamiento usando signos. La expresión de pensamiento absolutamente precisa e inequívoca a través de las palabras, muy probablemente, no existe. Para expresar pensamientos, ideas científicas, un científico escribe no una palabra u oración, sino toda una serie de artículos, cada uno de los cuales describe cada vez con mayor precisión lo que quería describir, expresado en su trabajo. La respuesta a la pregunta es si el signo del pensamiento, la emoción, es idéntico, más bien negativo.

Por ejemplo, considere la sensación de rojo. Si los agentes de comunicación saben qué es el color rojo, tienen una experiencia sensorial adecuada, pueden usar cualquier sistema de signos adecuado para transmitir información sobre esta experiencia sensorial: diga la palabra "rojo" o dibuje un círculo rojo en una hoja de papel y muéstrese este signo. Si no existe tal experiencia, entonces es imposible transmitir información sobre el "enrojecimiento"; es imposible hablar sobre el color rojo a alguien que no sabe qué es el color rojo. Puede tratar de explicar que el color rojo son ondas electromagnéticas con una longitud de onda de aproximadamente 700 nanómetros, pero la sensación de "enrojecimiento" de dicha información no aparecerá, el conocimiento de qué color rojo todavía no estará disponible, porque no intercambiamos experiencia sensorial directamente: intercambiamos signos que indican, incluido, desencadenar una experiencia sensorial similar con otros agentes de comunicación. Es decir el signo es un "envoltorio" del producto del proceso mental, pero no el producto en sí.

Barrera de entendimiento


De ahí el problema de la barrera de la comprensión. Las tecnologías modernas de IA resuelven con bastante éxito problemas relacionados con el estudio de los sistemas de signos. Los éxitos de la IA en el reconocimiento de patrones (signos) son obvios: discurso escrito (OCR), discurso oral (Alice, Siri), música (Shazam), imágenes; en el modelado de lenguajes naturales: la asignación de partes del discurso, miembros de oraciones y nombres propios, traducción automática. Al mismo tiempo, todos estos son ejemplos de estudio y trabajo con sistemas de signos, nada más. En general, en el estudio de los sistemas de signos, la humanidad está en constante evolución. La aparición y el desarrollo de la escritura, la ciencia, la cultura, el arte, los deportes: todo esto está estrechamente relacionado con la invención, el uso, el estudio y el desarrollo de los sistemas de signos.

Las capacidades informáticas que utilizan operaciones con signos también están creciendo, comenzando con el ábaco babilónico, inventado en 3000 a. C., y Pascalina Blaise Pascal con el aritmómetro Leibniz en el siglo XVII hasta la tecnología informática moderna. Y si el progreso es obvio en el estudio y el trabajo con los sistemas de signos, todavía se observan dificultades insuperables con el modelado de los procesos mentales.

En los humanos (¿animales?), El signo se vincula automáticamente con el producto del pensamiento, la emoción, etc., porque es evolutivo y está diseñado para codificar lo último. AI no tiene tales productos, por lo tanto, los caracteres reconocidos no están vinculados a nada, no codifican nada, pero permanecen como si fueran solos, permanecen simplemente como caracteres "desnudos" sin indicar nada, es decir no lleve ninguna carga significativa o sentida; no hay comprensión del signo reconocido. Por lo tanto, una persona que ha experimentado miedo sabe lo que es y puede intentar denunciarlo, es decir. transmitir y almacenar información sobre su experiencia de experiencia sensorial, utilizando la posesión de cualquier sistema de signos. Por ejemplo, puede:

  • dibuja una imagen en la pared de la cueva;
  • escribir un ensayo en lenguaje natural;
  • componer un poema;
  • crear una pieza musical;
  • poner una señal en el emoticón de chat;
  • finalmente, no haga nada (signo en blanco).

AI no sabe qué es el miedo, por lo tanto, no puede igualar ningún signo con el miedo. Y tampoco puede sentir ningún signo reconocido como miedo. Un piloto automático bajo el control de la IA, que se encuentra con un obstáculo en el camino, no entenderá nada, no sentirá nada, no pensará, no se molestará, no se alegrará, no tendrá miedo, no habrá reflejo. Por lo tanto, para AI, cualquier signo se refiere a un producto inexistente de procesos mentales que no existen en él.

Barrera de reconocimiento


De esto se desprende otra barrera: la barrera para la calidad del reconocimiento de caracteres. La calidad se entiende como fidelidad, corrección, precisión de reconocimiento de un signo en relación con el estándar. La calidad está limitada por una barrera para la comprensión. AI no puede evaluar la calidad de la imagen reconocida, porque no hay retroalimentación del pensamiento y otros procesos mentales para corregir errores de reconocimiento. En la oración "ama yla amu", una persona que habla ruso probablemente podrá restablecer las palabras distorsionadas.

Por ejemplo, tal restauración de significado es posible: "mamá lavó el marco", porque La secuencia de estos caracteres codifica un proverbio cómico familiar, que está codificado por un conjunto de tales palabras: "mamá lavó el cuadro". Una persona pudo recuperar palabras de signos incorrectamente reconocidas: "ama" -> "madre", "yla" -> "jabón", "amu" -> "marco". Para AI, faltan las tres palabras en una oración en el diccionario del idioma ruso. Pensar, "ajustarse" a cualquier significado comprensible y conocido no lo es, porque en la memoria de la IA, de hecho, no hay significados almacenados en absoluto. Al mismo tiempo, si una persona no tiene pensamientos familiares codificados por palabras similares, las palabras "ama yla amu" no se vincularán a ningún pensamiento, simplemente porque no existen, es decir. Los procesos de pensamiento y codificación están interconectados y trabajan constantemente en conjunto. Parece que esto se determina evolutivamente: cualquier signo encontrado debe decodificarse, "atornillarse", "ajustarse" a algún significado conocido, es decir Existe una necesidad automática de comprender un signo, reconocerlo, vincularlo con algo familiar y comprensible. Es necesario comprender qué beneficio y qué daño causa la señal codificada por este signo. Un hombre me sonríe, bueno, un perro me ladra, mal. Si no sabe qué es bueno y qué es malo, ni la sonrisa ni los ladridos tienen sentido. AI no sabe qué es bueno y qué es malo para él.

En un intento fallido de hacer coincidir el signo con el significado, una persona puede tener otros pensamientos sobre esta propuesta, que puede expresar, por ejemplo, con las palabras: "No entiendo qué es, vayamos mejor desde aquí", "qué podría significar, ¿interesante? "," ¿qué tipo de basura se escribe aquí? "," tal vez significaba "mamá lavó el marco", no estoy seguro, pero será mejor que responda esta pregunta de la prueba ", etc. Es decir En cualquier caso, se hará algún tipo de conclusión sobre los signos percibidos. Una opción de rastreo falso también es posible. Por ejemplo, si la fuente del texto es una herramienta electrónica, donde las reglas de ortografía a menudo se descuidan, las palabras "ama" y "amu" en el original podrían escribirse con una letra mayúscula: "Ama" y "Amu", es decir. ser nombres propios Comprender ese conjunto de caracteres ya no estaría relacionado con el proverbio "la madre lavó el marco". Uno puede fantasear y proponer esta versión de reflexión: "Ama era Amu", cierta Ama, una mujer, era representante de cierta tribu Amu. De aquí puede surgir el siguiente pensamiento: Ama es un nombre de un idioma extranjero, porque mi conocimiento me dice que en el idioma ruso no hay nombre para Ama, y ​​no he oído hablar de la tribu Amu. Por lo tanto, el proceso de pensamiento gira más y más hasta llegar a una conclusión. En sí mismo, la corrección o falsedad de la conclusión no es importante, lo principal es que se haga la conclusión. La conclusión puede ser verdadera y falsa, una persona puede tener razón o no en sus suposiciones. Es decir Los signos incorrectos, inexactos, erróneos y falsos pueden llevar a conclusiones falsas. Esto se basa en juegos entretenidos e intelectuales, cuando, en base a información incompleta o contradictoria, se propone restaurar el significado original. Acabamos de jugar un juego así arriba: ¿qué se imaginó en el mensaje "ama yla amu": "la madre lavó el marco" o "Ama fue Amu"?

Ver también juego de teléfono estropeado. El reconocimiento de imagen también está aquí: el efecto "parecía, imaginado". El reconocimiento de sonido también está aquí: el efecto fue "escuchado". Un buen ejemplo de artefactos auditivos es el reconocimiento de palabras en idiomas tonales, como el chino. La palabra "shi", cuando se pronuncia en un tono ascendente (denotado por shi2), significa el número "diez", y en un tono descendente (denotado por shi4), el verbo-conectivo "be". El pronombre "I" en chino se pronuncia "wo" en un tono descendente-ascendente (denotado por wo3). Entonces la frase "wo3 shi4 ..." para una persona que habla chino podría indicar el comienzo de la oración "Yo soy ...", "Yo soy ..." o simplemente "Yo ...". Al mismo tiempo, la frase "wo3 shi2 ..." suena sin sentido, porque conduce por un camino falso: el oyente construye el pensamiento "Tengo diez ...", que no tiene sentido según la gramática del idioma chino. Pero dado que el pensamiento está tratando de dar signos de significado, intentará comparar las interpretaciones más posibles de "wo3 shi2 ..." - "Tengo diez ..." para obtener el resultado esperado. Por ejemplo, el interlocutor puede pensar en sí mismo o volver a preguntar: "¿probablemente quisiste decir wo3 shi4 en lugar de wo3 shi2?"

Es decir Se intentará restaurar los signos distorsionados para obtener al final un significado adecuado desde el punto de vista del oyente. AI es incapaz de esto, porque No tiene ningún punto de vista. Los productos de otros órganos sensoriales tienen artefactos de reconocimiento similares.

Una vez más, en la IA, los personajes no se pueden vincular a nada, de ahí las barreras para la comprensión y la calidad del reconocimiento de los personajes. Para AI, un elefante en un apartamento de la ciudad común, que terminó allí por alguna razón, debido a la operación del algoritmo de reconocimiento de imágenes, es una situación normal. Para una persona, un absurdo, porque El sentido común dicta que incluso si un elefante, incluso si fuera un bebé elefante, pudiera caber en el apartamento, no está completamente claro cómo llegó allí: la puerta del apartamento es demasiado estrecha para que pueda entrar, la capacidad de elevación del elevador no corresponde a la masa del elefante y otras restricciones del mundo real. En consecuencia, el elefante en la habitación de la imagen es una ilustración de un cuento de hadas, un fotomontaje o, en general, un error de reconocimiento de patrones, es decir. Me pareció que la imagen muestra un elefante, se llega a una conclusión. AI no tiene un pensamiento tan crítico, no puede entender el significado transmitido por esos signos que podría reconocer, no puede corregir el error de reconocimiento, no puede sacar conclusiones.

El estudio de los sistemas de signos: ¿un callejón sin salida?


El estudio de los sistemas de signos no permite el estudio del pensamiento y otros procesos mentales que ocurren directamente en el cerebro. ¿Significa esto que estudiar los sistemas de signos no tiene sentido? No, no lo hace. Los sistemas de signos son un medio de codificar y transmitir nuestros pensamientos, por lo tanto, de hecho, no tenemos más remedio que estudiar el primero. Simplemente no hay otras formas en las humanidades: lingüística, psicología, sociología y otras relacionadas.

El único trabajo que podemos hacer para aprender a comprender mejor nuestros pensamientos es estudiar los sistemas de signos. El estudio de los sistemas de signos no responde a las preguntas sobre la estructura y las propiedades del pensamiento; estas preguntas permanecen abiertas hasta ahora. Los signos son punteros a los pensamientos, quizás incluso desencadenantes de pensamientos, pero no los pensamientos mismos, lo que significa que estudiamos solo punteros a entidades, pero no a las entidades mismas. Al estudiar los sistemas de signos, estudiamos las propiedades de los sistemas de signos, pero no las propiedades de aquellas entidades para las que se utilizan estos sistemas de signos para codificar.

Por ejemplo, al estudiar el vocabulario y la sintaxis del idioma ruso, estudiamos el sistema de signos del idioma ruso, pero no los pensamientos en sí, que se expresan con el idioma ruso. Admitimos que ahora ni siquiera está claro cuál es la estructura, cuáles son las propiedades de los pensamientos y no los signos. Lo único obvio es que el pensamiento puede expresarse con cierto grado de precisión, aproximación con la ayuda de cualquier sistema de signos. Por ejemplo, un pensamiento que se expresa en ruso con las palabras "tristeza", "tristemente" se puede expresar con la ayuda de tales sistemas de signos:

  • Idioma ruso: frases "Estoy triste", "están tristes", etc.
  • Inglés: la frase "Me siento triste", "se ven tristes", etc.
  • una obra de arte en la que prevalecerán los tonos fríos;
  • una pieza musical donde prevalecerán las claves menores;
  • Baile "triste" con suaves movimientos "tristes";
  • una fotografía de la cara triste de una persona o animal;
  • smiley :-( en la cultura moderna de la comunicación electrónica.

La precisión de la transmisión de este pensamiento por los sistemas de signos anteriores es diferente. La capacidad de los sistemas de signos para transmitir pensamientos corresponde a las necesidades de la transferencia de pensamientos lo mejor posible, teniendo en cuenta las capacidades de un organismo vivo: órganos sensoriales, coloración, medios de transmisión de danzas, feromonas, etc. Es por eso que en los lenguajes naturales hay tantas ambigüedades, incertidumbres y redundancia, todo esto tiene un solo propósito: codificar y transmitir con mayor precisión pensamientos, emociones, etc., incluso si esto requiere la introducción de redundancia y otras subóptimas en términos de la cantidad de transmisión información y tiempo de transmisión. Las personas refinan constantemente la información recibida, tratan de asegurarse de que entienden los signos reconocidos correctamente, encuentran el significado en ellos: piden frases, releen textos, escuchan música, buscan nuevos significados en caracteres previamente reconocidos.

El chico leyó en Internet que la niña se alisa el cabello, lo que significa que le gustaba. ¿Es estúpido? Quizás, pero tal es nuestra naturaleza: comparar signos con significados. Para pensar, buscar soluciones, sentir, reconocer signos y unir sus significados, establecer metas - vivir - los procesos mentales no se detienen durante toda la vida. A AI no le importa la información de entrada y salida, porque no hay nada con lo que compararlo, nada a lo que vincularse.

Los sistemas de signos son imperfectos, pero son lo único que la evolución nos ha dado para el intercambio de productos de procesos psíquicos. Quién sabe, quizás la naturaleza ya haya probado otros modos de transmisión, pero no tuvieron éxito, y al final fueron los sistemas de signos los que se enraizaron.

Source: https://habr.com/ru/post/es432508/


All Articles