Prólogo
Hace tiempo que me interesa el problema de la conciencia y su conexión con el cerebro. Una vez me encontré con un experimento mental muy interesante llamado "Sala China". No recuerdo en qué publicación leí por primera vez sobre él, pero él estaba muy interesado en mí, así que comencé a estudiar el tema. Solo después de leer el artículo original [1], me di cuenta de que, en la mayoría de las fuentes, las ideas del autor se presentan de manera simplista, distorsionadas y no se entienden completamente. El experimento con la sala china plantea preguntas e intenta dar respuestas. Las preguntas son muy interesantes y las respuestas, en mi opinión, no son satisfactorias. Por lo tanto, pensé durante mucho tiempo y decidí formular una solución a este problema yo mismo, que será mi artículo.
Esencia
En 1980, el filósofo John Searle presentó por primera vez su experimento mental en un artículo en Mentes, cerebros y programas de The Behavioral and Brain Sciences. El experimento causó mucha controversia entre las personas involucradas en problemas de la filosofía de la conciencia y la inteligencia artificial. El propósito declarado del artículo era probar dos afirmaciones: 1) La intencionalidad de una persona (y animales) es el resultado de las propiedades causales del cerebro; y 2) La ejecución informática de un programa no puede ser una condición suficiente para la apariencia de intencionalidad.
Tres décadas antes del lanzamiento del artículo de Searle, Alan Thuring formuló su conocido criterio para una máquina inteligente, también conocida como la Prueba de Thuring: una computadora capaz de mantener un diálogo (textual) y, por lo tanto, pasar como una persona debe considerarse razonable. A finales de los años 70, las computadoras y los programas de inteligencia artificial habían llegado al punto en que algunos de sus desarrolladores comenzaron a afirmar que sus máquinas podían entender inglés. El artículo de Searle, que contiene el experimento que se describe a continuación, fue en gran parte una reacción a tales afirmaciones y la opinión general de que una computadora es, en principio, capaz de comprender el habla humana.
¿Cuál fue el experimento? Searle sugirió presentar la habitación en la que se encuentra la persona. Dentro de la habitación, se pueden servir tarjetas con caracteres chinos dibujados en ellas. La persona dentro de la habitación no habla ni lee chino, por lo que no entiende el significado de los jeroglíficos. Al mismo tiempo, la persona recibió instrucciones detalladas sobre cómo operar con tarjetas entrantes y qué tarjetas responder. Por lo tanto, una persona fuera de la sala puede hacer varias preguntas con la ayuda de tarjetas y recibir respuestas inteligibles. La persona que hace las preguntas debe tener la impresión de que la persona que está dentro de la habitación habla chino y entiende el significado de su diálogo, pero en realidad solo sigue sin pensar las instrucciones y no entiende una palabra. Además, la persona en la sala ni siquiera puede aprender gradualmente el idioma, ya que para él las tarjetas sin significado en chino son la única forma de comunicarse con el mundo exterior.
En este ejemplo, es fácil ver el paralelo con la computadora. La computadora también opera con datos en código binario, lo que no tiene absolutamente ningún sentido, la máquina simplemente realiza operaciones aritméticas y lógicas de acuerdo con las instrucciones establecidas en ella.
Según Searle, una computadora (o una sala china) no es capaz de entender, porque opera solo con construcciones sintácticas. El hombre, a su vez, percibe y opera con significados, y no solo con los símbolos en sí mismos, de los cuales la computadora no es capaz. Para resumir las ideas de Searle expuestas en el artículo, no se opone a la idea de la existencia de inteligencia artificial como tal. Su idea principal es que, para la existencia de la conciencia, un programa formal no es suficiente, pero se necesita un medio con propiedades que den lugar a la intencionalidad, pero un programa formal no tiene sentido y no puede servir como portador de comprensión o conciencia: "... solo una máquina podría pensar, y solo tipos muy especiales de máquinas, a saber, cerebros y máquinas con poderes causales internos equivalentes a los cerebros ... La intencionalidad en los seres humanos (y animales) es un producto de las características causales del cerebro ... La creación de instancias de un programa de computadora nunca es en sí misma una condición suficiente de intencionalidad ”[1]. Por lo tanto, Searle dice que la intencionalidad es una propiedad necesaria para la aparición del pensamiento, y esta intencionalidad es un producto de ciertas propiedades intrínsecas del cerebro. Una máquina con las mismas propiedades es capaz de pensar. Una computadora clásica no posee tales propiedades, por lo tanto, no importa qué programa esté escrito, no es capaz de conducir a la aparición del pensamiento y, como resultado, a la aparición de la conciencia.
"El objetivo del ejemplo de la sala china era tratar de mostrar esto mostrando que tan pronto como incorporamos algo al sistema que realmente tiene intencionalidad (un hombre), y lo programamos con el programa formal, se puede ver que el El programa formal no tiene intencionalidad adicional. "No agrega nada, por ejemplo, a la capacidad de un hombre para entender chino". [1]
(El objetivo del ejemplo de la sala china era tratar de reflejar esto mostrando que tan pronto como ponemos algo realmente intencional (humano) en el sistema y lo programamos con un programa formal, podemos asegurarnos de que este programa formal no tenga ningún efecto intencionalidad adicional. No agrega nada, por ejemplo, la capacidad de una persona para entender chino).
Las ideas expuestas por Searle no pueden considerarse completas, lo que generó bastante controversia en torno a ellas. Sin embargo, estas disputas no condujeron a una conclusión final. Ni los opositores de Searle, ni sus partidarios ni el filósofo mismo llegaron a la solución de preguntas importantes, cuyas respuestas deberían basarse en los pensamientos sobre la conciencia y la IA: "¿Qué propiedades del cerebro dan lugar a la intencionalidad?", "¿Cuál es el punto? ¿Y cómo surge? ”,“ ¿Cuál es el proceso de formación de la comprensión? ”.
En este artículo intentaré dar respuestas a estas preguntas.
En primer lugar, vale la pena tratar con la intencionalidad, una propiedad intrínseca del cerebro, que, según Searle, es tan necesaria para la existencia de la conciencia. Para hacer esto, quiero alejarme un poco del tema principal y considerar brevemente el origen y la evolución de los organismos vivos.
La evolución biológica puede verse como una continuación de la evolución química, que a su vez es una continuación de la evolución física. Según los conceptos cosmológicos modernos, después de una explosión más grande, se liberó una gran cantidad de energía / sustancia que, a medida que el universo se expandió y se enfrió, se condensó en una gran cantidad de varias partículas. La vida útil de la mayoría de las partículas, debido a su inestabilidad, resultó ser extremadamente corta, y con el tiempo solo quedaron las partículas más estables, lo que se convirtió en la base para la formación de átomos de elementos químicos conocidos. Los átomos de la sustancia interactuaron, formando varios compuestos. El más estable de ellos acumulado, inestable decaído y unido en los estables. Como resultado de estas condiciones únicas en la Tierra, aparecieron compuestos que no solo eran lo suficientemente estables, sino que también podían producir duplicados de sus moléculas, luego eran los ancestros del ADN. Gradualmente, tales moléculas de replicación, mediante recombinación aleatoria, evolucionaron a un estado en el que no solo podían reproducir su propia especie, sino que también creaban condiciones favorables a su alrededor para una existencia y reproducción estables. Este entorno favorable creado se ha convertido en el entorno interno de las bacterias y los organismos unicelulares, y las moléculas de control, que ya pueden llamarse ADN, han adquirido la función de apoyar el equilibrio dinámico del cuerpo (entorno interno): la homeostasis. Luego hubo mutaciones y selección natural que crearon ese mundo viviente que conocemos. La idea de que todos los organismos vivos son solo mecanismos complejos para la propagación de una molécula de ADN no es nueva, y ha sido examinada en detalle, por ejemplo, por Richard Dawkins [2]. Por lo tanto, se puede rastrear cómo el origen de la vida se deriva de las leyes fundamentales del Universo existente. En términos generales, toda la evolución del Universo es solo un movimiento caótico de energía que obedece a las leyes probabilísticas. Lo que sucede con mayor probabilidad permanece en el tiempo es lo que es más estable. Una célula viva, la unidad de vida más pequeña, puede considerarse como una gran planta química con muchos procesos químicos complejos, que por sí solos no tienen ningún propósito interno, pero juntos mantienen un ambiente interno estable de la célula, que es necesario para la existencia y replicación del ADN. Decimos que el objetivo de todos los seres vivos es la supervivencia y la reproducción, este es sin duda el caso desde el punto de vista de la biología, pero cabe señalar que el hombre mismo "asignó" estos objetivos a los seres vivos para describir el comportamiento general de los organismos vivos. Si somos consistentes con las reflexiones sobre la evolución descritas anteriormente, debemos admitir que los organismos vivos no tienen una meta o intencionalidad inherente en principio, al igual que no hay una meta para una manzana que cae: cae en obediencia a las leyes físicas fundamentales (podemos decir que la manzana busca caerse, pero esto no significa que el deseo de caerse se deba a algunas intenciones intrínsecas inherentes de la manzana). Un organismo vivo: una forma de existencia de la materia debido solo a las leyes físicas fundamentales, no hay necesidad de magia adicional. Escribo sobre esto para mostrar que, en términos de intencionalidad, no hay una diferencia fundamental entre los vivos y los no vivos. El ADN es una molécula, no tiene y no puede tener objetivos, solo las direcciones son leyes físicas y químicas, siguiendo las cuales existe y controla la célula.
Además en este artículo, cuando las palabras de propósito, necesidad e intencionalidad se usan en relación con los organismos vivos, debe recordarse que estos conceptos son solo abstracciones convenientes que se usan para describir el comportamiento detrás del cual hay procesos reales causados por leyes objetivas fundamentales y no por factores subjetivos nebulosos.
Como ya se mencionó, la principal característica distintiva de los organismos vivos de las estructuras físicas inanimadas es la capacidad de los primeros para replicar y mantener un ambiente interno estable: la homeostasis. Estas son precisamente las propiedades (!), Pero por conveniencia llamaremos a estas propiedades metas y volveremos al hecho de que las metas de los organismos vivos son la reproducción y el mantenimiento de la homeostasis. Considere el comportamiento estándar de un organismo vivo.
Un organismo vivo no puede existir pasivamente, esperando favores del mundo exterior, tiene que influir activamente en el medio ambiente para lograr sus objetivos: sobrevivir y multiplicarse. Estas metas son los puntos de partida para su comportamiento. Pero, ¿cómo te comportas exactamente? La pregunta principal que enfrenta cualquier organismo vivo en un momento dado es "¿Qué hacer a continuación?". Considere un hipotético organismo unicelular simple. En el esquema de su trabajo, hay tres elementos principales: el entorno externo, el estado interno y el programa (1). Cada uno de ellos puede ser el iniciador del movimiento. Por ejemplo, para responder a la pregunta principal, se verifica un estado interno del cuerpo, que determina las necesidades actuales (por ejemplo, nutrición). En la célula, esta verificación se produce debido al movimiento aleatorio de las moléculas de la sustancia del entorno interno. Los organelos individuales y el ADN interactúan con los productos químicos y reaccionan en consecuencia. En respuesta al estado interno, se lanza un programa que está determinado por el ADN, y en organismos multicelulares más complejos, el programa está determinado por el sistema nervioso. El programa inicia un proceso que cambia el estado interno, que a su vez cambia el entorno externo (por ejemplo, el cuerpo se mueve en el espacio). El entorno externo actúa sobre el estado interno y el ciclo se cierra. Este esquema se aplica tanto a los organismos más simples como a los más complejos, incluidos los humanos. Además, este esquema es aplicable a varias partes del cuerpo, sus diversos sistemas de diferentes niveles ".
(1)
Recordaremos el esquema considerado y volveremos a la sala china. Como dije, el principio de su funcionamiento es esencialmente idéntico al dispositivo de una computadora estándar, y el experimento en sí demuestra perfectamente las capacidades limitadas de la máquina para comprender el mundo que la rodea. Pero bueno, ¿no está el cerebro en la misma situación que una persona dentro de una habitación china? De hecho, el cerebro está lidiando con la misma alfabetización china. El cerebro se sienta en la oscuridad del cráneo, aislado de todo excepto del código sin sentido que recibe de los sentidos. Si conectamos el electrodo a una célula nerviosa, cualquier célula nerviosa, no importa si pertenece al cerebro o la retina del ojo, todo lo que vemos es una serie de sobretensiones. Para conveniencia de la observación, tales pulsos a menudo se conectan a un altavoz, luego se escuchan como un chirrido desigual. Tal chirrido es producido por las células nerviosas de los órganos perceptivos: células retinianas, células ciliadas del oído, etc. Este es el chirrido del cerebro y recibe de los sentidos. Todo lo que el cerebro puede saber sobre el mundo exterior es que parece el zumbido de miles de millones de células. En este estruendo no hay absolutamente nada que indique la presencia de espacio y tiempo, la existencia de objetos o personas a su alrededor. Sonidos, formas, colores, olores: todo esto no parece una charla extraña y sin sentido. Por nuestra propia experiencia, sabemos que el cerebro aún logró descifrar este código y usarlo con bastante éxito para orientarse en el mundo. ¿Por qué el cerebro hace esto, pero es fundamentalmente imposible para una persona en una habitación (o computadora) china? Después de todo, ¡están en la misma posición! De hecho, la última afirmación es errónea: su posición es fundamentalmente diferente.
El hecho es que el método de establecer un experimento mental privó a una persona dentro de la habitación de una oportunidad fundamentalmente importante: una persona no puede hacer preguntas afuera. Las condiciones del experimento dicen que puede aceptar tarjetas, manipularlas de acuerdo con las instrucciones y responder así las preguntas que se le plantean, aunque la persona misma no comprende cuáles son estas preguntas, ni siquiera comprende cuáles son estas preguntas. Además, una persona, que opera dentro de una habitación china, no persigue ningún objetivo con sus manipulaciones: no hay intencionalidad. Las tarjetas no afectan el estado de una persona dentro de la habitación, no son útiles ni dañinas, por ejemplo, para sobrevivir. Aunque se puede decir que las cartas afectan el estado interno de la habitación en su conjunto, ya que la hacen manipular, pero esta influencia es neutral, no acerca el sistema al objetivo y no lo elimina, ya que no hay un objetivo desde el principio, excepto la manipulación por el bien de la manipulación, como Sin comentarios. Si consideramos el trabajo de una célula nerviosa y las señales que recibe (de naturaleza química), resulta obvio que afectan directamente el trabajo de la célula. Cambian su estado interno. Al mismo tiempo, una célula nerviosa tiene un modo operativo óptimo y un estado interno, una composición química óptima. Por lo tanto, las señales no solo cambian el trabajo de la celda, sino que también cambian su estado interno en relación con el valor objetivo (óptimo). El estado interno objetivo lo establece el programa, que está escrito en ADN. El ADN está en una posición similar al cerebro y al control de calidad, porque no entra en contacto directo con el mundo exterior, sino solo a través del entorno intracelular. Por lo tanto, el estado interno óptimo, que es el objetivo del funcionamiento de la célula, es tanto una condición como la causa de la intrinsicidad inherente a esta célula, es establecida por el programa (ADN).
Podemos decir que el programa en sí mismo es portador de intencionalidad. ¿Pero de dónde vino la intencionalidad? Como ya se mencionó, el ADN existe y funciona de acuerdo con las leyes físicas / químicas. La replicación y otras funciones asociadas con el mantenimiento de la homeostasis son propiedades del ADN derivadas de estas leyes, y no los objetivos o necesidades del ADN. Al igual que el enrojecimiento es una propiedad de una manzana roja, no su intención. Se sigue, como ya dije al comienzo del artículo, que lo que llamamos intencionalidad de los organismos vivos, en esencia, no lo es. Por lo tanto, la pregunta "¿de dónde viene la intencionalidad?" no tiene sentido La intencionalidad no está allí, ya que no está en ningún otro lado. Solo hay una cadena de causas y efectos que sigue las leyes físicas universales. La intencionalidad es una invención humana y una abstracción conveniente, sin embargo, también escribí esto. Pero continuaremos usando este concepto, ya que es conveniente para describir el comportamiento complejo de los organismos. Para resumir un poco, construyamos una cadena lógica de ocurrencia de "intencionalidad":
Leyes físicas → Leyes químicas → ADN + evolución → Replicación y homeostasis → Estado interno objetivo → Intencionalidad (comportamiento objetivo)
Volvamos al tema de la "comprensión". ¿En que consiste? ¿Cuándo podemos decir que la sala china "entendió"? ¿Dónde está el límite entre el sistema de comprensión y el sistema incapaz de comprender? ¿Una sola célula es capaz de "entender"? , ?
, , ? , , .
, « », , , . , , , ( ) . , . (1) (2), .
(2)
, , , , () – , () – , () – . , : ; , ; ; ; . , . , «» , «» , .. . , , , , «» — . , , , , . . , , , , , .
. / . - , . , , .. . , - «» ( ) , . , «» , .
, , - . , : . . , , .. . , , , , - , . , , .. , . , . , , , . , .
. , , , . , , , .
, , , , . « » . «», .
Para resumir. (, ) ? :
1. . – / ;
2. . , , ;
3. . , , . , .. ( – ).
4. , . / . , , , , ( ) .
- .
, . « »? , . . , . () , , , . , . , , , .
, .. 4- ? , – . , , , . , . – .
– . . , / . , 25 . , . 25 , . . , ( 23 ), . .
, 4- () . – . «» 25 . . – . , , , , , «» «». «» – . – . – . , . . – . , .
, . - , - , - . , , [3]. , , , . .
, , . , . (1) .
, , . , , , . (, ). (1) : . → . → → . → . . «», . , , , .
, () , , () , . , « ?». , , (1): « ( )?».
Conclusión
En conclusión, volvamos a los puntos expuestos por John Searle en su artículo.
1) La intencionalidad del hombre (y los animales) es el resultado de las propiedades causales del cerebro.
Esta afirmación es solo parcialmente cierta. Si miras con más cuidado, las raíces de la intencionalidad son más profundas. El portador de la intencionalidad de todos los seres vivos es el ADN. Esta es una molécula compleja con una propiedad clave: la capacidad de autorreplicarse. Fue esta propiedad la que hizo posible la evolución del ADN, durante el cual la molécula construyó a su alrededor organismos vivos cada vez más complejos. Es el ADN el que determina la estructura, el desarrollo y el comportamiento de un organismo vivo. El sistema nervioso central aparece algo más tarde en el proceso de evolución. Es necesario para manejar un organismo multicelular grande y complejo y es capaz de expandir significativamente el repertorio conductual. El cerebro es una estructura compleja, dinámica y autoorganizada.
El estado interno del cerebro, por un lado, refleja las características individuales del mundo externo, por otro lado, contiene información sobre el estado y el funcionamiento del cuerpo. El objetivo del cerebro es mantener el estado interno óptimo del cuerpo. Para lograr esto, el cerebro actúa tanto de forma reactiva como proactiva. Como se puede ver en el razonamiento, el cerebro encaja bien en el esquema del mundo externo <-> Estado interno <-> Programa. El cerebro, como el ADN, actúa como el portador del programa. Este programa está parcialmente establecido por el ADN durante el desarrollo del cuerpo, parcialmente formado por la experiencia de la vida. Se almacena en la estructura de las conexiones de la red neuronal y la actividad actual de las neuronas. El programa es portador de intencionalidad: la orientación del pensamiento y el comportamiento. Por lo tanto, podemos decir que la intencionalidad del cerebro está determinada por la estructura de sus conexiones neuronales y las propiedades de las neuronas mismas, y ambas están determinadas en su mayor parte por el ADN.
2) La ejecución informática de un programa no puede ser una condición suficiente para la apariencia de intencionalidad.
Como se ha demostrado, el portador de la intencionalidad en los organismos vivos es precisamente el programa codificado en la estructura del ADN. El medio físico en sí no es fundamental en este caso, lo principal es que pueda interactuar con el entorno interno y tener suficiente capacidad estructural para acomodar el programa. En este sentido, el ADN de ninguna manera es preferible a los elementos semiconductores que componen una computadora. Cualquier organismo es, en última instancia, una máquina, una solución de ingeniería con talento para la evolución. Cualquier máquina es el medio físico de un programa que se registra en la estructura de la máquina misma. Al mismo tiempo, cualquier programa necesita un medio físico para ser lanzado.
¿Cómo se relaciona todo lo anterior con la capacidad de una computadora para comprender el habla humana? Cualquier influencia externa tiene sentido solo si está integrada en la cadena de interacciones causales de lo externo. Medio (exposición) → Int. Estado → Programa → Interno Estado → Ext. Medio ambiente (impacto). Esto también se aplica a las palabras, con una advertencia, ya que las palabras son abstracciones de alto nivel, la cadena causal se verá más complicada para ellas, aunque retendrá la estructura general y el significado. En otras palabras, una palabra, como todo lo demás, tiene sentido solo si puede afectar el estado interno de tal manera que lo cambie del estado objetivo. Para una persona, la palabra "rojo" es de gran importancia. Por ejemplo, las bayas rojas están maduras y las bayas verdes no. Esta es información útil para la supervivencia. Para una computadora, para que la palabra rojo tenga un significado, además, similar al humano, necesita sensores que detecten el rojo, el objetivo y la relación del rojo con el objetivo. En uno, Searle tenía toda la razón, las computadoras modernas solo pretenden entender, porque su "conocimiento" sobre las palabras no se basa en la experiencia real, sino en otras palabras, que en teoría pueden dar lugar a un cierto grado de comprensión, pero completamente diferente de la humana. Además, las computadoras y los programas modernos no están dotados de estados objetivo internos, lo que hace que tenga sentido.
PD La cadena de pensamiento en este artículo va de abajo hacia arriba, desde conceptos y objetos elementales hasta más complejos y abstractos. Las reflexiones siguen la lógica de la evolución y generalmente se basan en el paradigma evolutivo. Este enfoque le parece al autor el más científico. La terminología también se desarrolla de abajo hacia arriba. Como resultado, los conceptos modernos obtienen una nueva interpretación. El autor no se propuso el objetivo de sustituir términos, y aún más, no quería usar esto como un dispositivo complicado para facilitar la tarea de explicar el fenómeno del pensamiento. Una nueva interpretación de los términos es una consecuencia inevitable del pensamiento consistente basado en un enfoque científico. La filosofía moderna de la conciencia a menudo utiliza un enfoque de arriba hacia abajo y, por lo tanto, constantemente hace malabares con los términos que se refieren entre sí. Como resultado, la imagen se asemeja a un intento de salir del pantano con su propio bigote. La diferencia de este artículo es que el pensamiento se deriva directamente de las leyes fundamentales. Por lo tanto, el pensamiento se ve privado de un halo de misterio y deja de ser prerrogativa del hombre, los animales superiores e incluso los animales en general.
Puede notar que en el artículo el concepto de pensamiento se equipara con el concepto de comprensión. Es necesario aclarar este punto para evitar malentendidos. Si hablamos de pensar en su definición clásica, entonces este es un proceso complejo de varios niveles, y la comprensión es solo una parte de él. Además, la comprensión en la forma en que se usa en este artículo también es inferior a su original generalmente aceptado. Puede traer una jerarquía de conceptos existentes generalmente aceptados que estén cerca del problema discutido aquí:
Sensación → Percepción → Comprensión → Pensamiento
Estrictamente hablando, lo que yo llamo el acto de pensar aquí está más cerca en sus propiedades al nivel más bajo de esta jerarquía: la sensación. Aquí está la definición de sensación tomada de Wikipedia: " Sensación , experiencia sensorial: el proceso mental más simple, que es un reflejo mental de las propiedades y condiciones individuales del ambiente externo, sujeto de estímulos internos o externos y estímulos con la participación del sistema nervioso". En cuanto a la percepción , se basa en sensaciones, pero es un proceso más complejo, que implica extraer activamente información del mundo exterior, incluso influyendo en el mundo. La comprensión implica no solo la percepción de la información, sino también la integración de la información recibida en su propia estructura de conocimiento. El pensamiento está en la parte superior de la cadena, incluye todos los niveles anteriores y otros procesos, lo que implica el manejo de la información recibida (análisis, síntesis, abstracción, clasificación, etc.). Dado que cada nivel posterior de la jerarquía de conceptos dada incluye el anterior, los conceptos se cruzan. Si gradualmente pasa del pensamiento en su totalidad y complejidad, tal como se representa en los humanos, a niveles de pensamiento más elementales, como en los animales más simples, entonces puede notar que los conceptos de sensación, percepción, comprensión y pensamiento gradualmente se unen y toman exactamente esa forma , que recibieron en este artículo, convirtiéndose en un concepto único. Si analizamos el acto elemental de pensamiento descrito anteriormente, entonces incluye los rudimentos de todos los conceptos incluidos en la cadena. La consideración de pensar en su nivel elemental le permite deshacerse del exceso de cáscaras y ver la esencia del proceso. El concepto de pensamiento así formado de nuevo es un buen punto de partida para una mayor reflexión e investigación.
1. Searle J. Mentes, cerebros y programas. La filosofía de la inteligencia artificial / Boden M (ed.) Oxford. 1990. Publicado por primera vez en la revista: The Behavioral and Brain Sciences, 1980, No. 3, pp. 417-424.
2. Dawkins, Richard. Gen egoísta. - Per. del ingles M .: AST: CORPUS, 2013
3. Chalmers D. La mente consciente: en busca de una teoría fundamental. M .: URSS, 2013