¿Los robots necesitan empatía?

Estamos al borde de una revolución en robótica, y los científicos e ingenieros están tratando de entender cómo esto afectará a las personas. Las opiniones se dividieron en dos campos: el futuro nos promete un robo-apocalipsis a la "Terminator", o los robots tomarán el lugar de los perros en el papel de los mejores amigos del hombre. Y desde el punto de vista de varios pensadores y visionarios modernos, el segundo escenario es posible solo si los robots tienen empatía . Más precisamente, en inteligencia artificial.

Las consecuencias de la falta de alma AI recientemente sintió completamente a Microsoft, después de haber sufrido un fiasco aplastante con su famoso bot de chat llamado Thay. Ha sido programado para aprender a través de la interacción con los usuarios de Twitter. Como resultado, multitudes de trolls convirtieron instantáneamente a la niña de 19 años, que desempeñaba el papel de un bot, en una racista nazi sexualmente preocupada . Los desarrolladores tuvieron que deshabilitar el bot un día después del lanzamiento. Este caso demostró tan claramente la importancia del problema de la IA que entró en las filas, que una de las divisiones de Google, DeepMind, junto con especialistas de Oxford, comenzó a desarrollar la tecnología de " interruptor de emergencia " para la IA hasta que se convirtió en una amenaza real.

La conclusión es que la IA, que no es inferior en nivel de razón a una persona, y que se basa solo en el desarrollo y la optimización independientes, puede llegar a la conclusión de que las personas quieren apagarla o evitar que obtenga los recursos que desean. Y de acuerdo con esta conclusión, la inteligencia artificial decidirá actuar contra las personas, independientemente de cuán razonables sean sus sospechas. Un teórico bastante conocido, Eliezer Yudkowsky, escribió una vez: “La IA no te amará ni te odiará. Pero entonces estás hecho de átomos, que él puede usar para sus necesidades ".



Y si la amenaza de la IA que "vive" en una supercomputadora basada en la nube le parece bastante efímera ahora, ¿qué puede decir sobre un robot de pleno derecho, en cuyo cerebro electrónico surge la idea de que interfiere con su vida?



Una forma de asegurarse de que los robots, y en general la IA, se mantendrán en el lado bueno, es llenarlos de empatía. No es el hecho de que esto sea suficiente, pero esta es una condición necesaria en la opinión de muchos expertos. Simplemente nos veremos obligados a crear robots capaces de empatía.

No hace mucho tiempo, Elon Musk y Stephen Hawking escribieron una carta abierta al Centro para el Estudio del Riesgo Existencial (CSER), que pedía más esfuerzos para estudiar "trampas potenciales" en el campo de la IA. Según los autores de la carta, la inteligencia artificial puede volverse más peligrosa que las armas nucleares, y Hawking generalmente cree que esta tecnología acabará con la humanidad. Para protegerse contra el escenario apocalíptico, se propone crear una IA fuerte (AGI, inteligencia general artificial) con un sistema psicológico incorporado similar al humano, o modelar completamente las reacciones nerviosas humanas en la IA.

Afortunadamente, aún no se ha perdido el tiempo y usted puede decidir en qué dirección debemos avanzar. Según la comunidad de expertos, la aparición de una IA fuerte, no inferior a los humanos, es posible en el rango de 15 a 100 años a partir del momento actual. Al mismo tiempo, los límites del rango reflejan grados extremos de optimismo y pesimismo, mientras que los términos más realistas son 30-50 años. Además del riesgo de obtener una IA peligrosa sin principios morales, muchos temen que la actual agitación económica, social y política pueda llevar al hecho de que los creadores de una IA fuerte inicialmente tratarán de convertirlos en una nueva arma, un medio de presión o competencia. Y lejos del último papel, el capitalismo desenfrenado en forma de corporaciones jugará aquí. Las grandes empresas siempre buscan implacablemente optimizar y maximizar los procesos,y sin duda habrá una tentación de "nadar por boyas" en aras de obtener ventajas competitivas. Algunos gobiernos y corporaciones probablemente intentarán atraer a AI fuertes para administrar los mercados y las elecciones, así como desarrollar nuevas armas, y otros países tendrán que responder adecuadamente a estos pasos, involucrándose en la carrera armamentista de AI.



Nadie puede argumentar que la IA necesariamente se convertirá en una amenaza para la humanidad. Por lo tanto, no hay necesidad de tratar de prohibir el desarrollo en esta área, y esto no tiene sentido. Parece que las leyes de la robótica de Azimov por sí solas no pueden hacernos, y por defecto necesitamos introducir fusibles "emocionales" para hacer que los robots sean pacíficos y amigables. Para que puedan crear una apariencia de amistades, pueden reconocer y comprender las emociones de las personas, posiblemente incluso empatizar. Esto se puede lograr, por ejemplo, copiando la estructura neural del cerebro humano. Algunos expertos creen que es teóricamente posible crear algoritmos y estructuras computacionales que pueden actuar como nuestros cerebros. Pero como nosotros mismos no sabemos cómo está organizado, esta es una tarea para el futuro lejano.

Ya hay robots en el mercado que son capaces de reconocimiento puramente técnico de algunas emociones humanas. Por ejemplo, Nao : con una altura de solo 58 cm y un peso de 4,3 kg, el robot está equipado con un software de reconocimiento facial. Es capaz de hacer contacto visual y reaccionar cuando le hablan. Este robot se ha utilizado con fines de investigación para ayudar a niños autistas. Otro modelo del mismo fabricante, Pepper , es capaz de reconocer palabras, expresiones faciales y lenguaje corporal, actuando de acuerdo con la información recibida.



Pero ninguno de los robots modernos es capaz de sentir. Para hacer esto, necesitan conciencia de sí mismos, solo entonces los robots pueden sentir lo mismo que los humanos, pueden pensar en los sentimientos.


Todos somos más capaces de imitar la apariencia de una persona en robots, pero con el mundo interior todo es mucho más complicado.

Tener empatía significa ser capaz de comprender en los demás los mismos sentimientos que una vez experimentaste. Y para esto, los robots deben pasar por su propio período de crecimiento, con sus éxitos y fracasos. Tendrán que experimentar afecto, deseo, éxito, amor, ira, ansiedad, miedo, tal vez celos. Para que el robot, pensando en alguien, piense en los sentimientos humanos.

¿Cómo proporcionar a los robots tal maduración? Buena pregunta Es posible crear emuladores / simuladores virtuales en los que la IA obtendrá experiencia emocional, para que luego puedan cargarse en los cuerpos físicos. O formar patrones / recuerdos artificiales y estampar robots con un conjunto estándar de valores morales y éticos. Tales cosas fueron previstas por el escritor de ciencia ficción Philip K. Dick , en sus novelas los robots a menudo operan con recuerdos artificiales. Pero la emotividad de los robots puede tener otro lado: en la reciente película Ex MachinaSe describe una situación en la que un robot controlado por una IA fuerte demuestra emociones de manera tan confiable que engaña a las personas y las obliga a seguir su plan. Pregunta: ¿cómo distinguir cuando un robot solo está reaccionando astutamente a una situación, o cuando realmente experimenta las mismas emociones que usted? ¿Hacer de él un halo holográfico, cuyo color y patrón confirman la sinceridad de las emociones expresadas por el robot, como en el anime "Time of Eve" ( EVE no Jikan )?



Pero supongamos que pudimos resolver todos los problemas anteriores y encontrar respuestas a las preguntas planteadas. ¿Los robots serán iguales a nosotros entonces, o estarán debajo de nosotros en la escala social? ¿Deberían las personas manejar sus emociones? ¿O será una especie de esclavitud de alta tecnología, según la cual los robots con IA fuerte deberían pensar y sentirse como queremos?



Hay muchas preguntas difíciles para las que aún no hay respuesta. Por el momento, nuestras estructuras sociales, económicas y políticas no están listas para cambios tan radicales. Pero de todos modos, tarde o temprano tendremos que buscar soluciones aceptables, porque nadie puede detener el desarrollo de la robótica, y algún día se creará una IA fuerte capaz de funcionar en un cuerpo antropomórfico. Necesitamos prepararnos para esto de antemano.

Source: https://habr.com/ru/post/es397209/