Ahora solo perezoso no habla de
inteligencia artificial y no escribe. Pero en nuestro tiempo, AI no es SkyNet de la película Terminator. Hasta ahora, los científicos están lidiando con una forma débil de inteligencia artificial. En la mayoría de los casos, estas son redes neuronales relativamente complejas diseñadas para resolver ciertos problemas.
Muchas personas prominentes de nuestro tiempo están preocupadas por la posibilidad de la aparición de una forma fuerte de IA. Según algunos expertos, una "computadora pensante" puede convertirse en un oponente implacable de una persona, su enemigo. O la futura IA cumplirá algunos de sus objetivos, siendo indiferente a los humanos. En este caso, la inteligencia artificial destruirá ciudades o países enteros cuando surja tal necesidad. Con el fin de mostrar un escenario similar para el desarrollo de la tecnología, los científicos de Cambridge han
desarrollado un mod para el juego "Civilization", su quinta parte.
En este apéndice, puede ver lo que puede suceder en el caso de una forma fuerte de IA sin medidas de seguridad predeterminadas. Los científicos no desarrollaron repentinamente este mod. Los especialistas de la Universidad de Cambridge para el Estudio del Riesgo Existencial (CSER) están tratando de comprender lo que en nuestro mundo moderno puede convertirse en un peligro insuperable para los humanos en el futuro cercano o lejano.
El grupo fue fundado en 2012, y su objetivo original era lo que hace hoy: estudiar el impacto de los desastres globales de varios tipos en los humanos. Solo se consideran aquellos problemas que potencialmente pueden conducir a la destrucción de la humanidad: la civilización en su forma actual o en general a todas las personas en la Tierra. Por supuesto, estas catástrofes pueden ser causadas no solo por la influencia de la inteligencia artificial, la razón puede estar en el agente causante modificado genéticamente de una enfermedad peligrosa, el cambio climático y mucho más.
En cuanto al juego, la adición a Civilization, según los desarrolladores, es en parte un proyecto educativo, en parte un proyecto de investigación. "Lo principal que tenemos en mente es mostrar un posible escenario para el desarrollo de inteligencia informática real, para demostrar los peligros que dicha inteligencia puede plantear para nosotros las personas", dice Shahar Eivin, uno de los participantes en el proyecto.
El juego también muestra la computadora Deep Blue de IBM, que ayuda a los jugadores a acelerar la investigación de IA.Por cierto, la adición reemplaza uno de los escenarios de victoria en Civilization, el lanzamiento de una nave espacial a la estrella de Alpha Centauri por el desarrollo de una forma fuerte de inteligencia artificial. En la moda hay nuevos edificios (laboratorios de investigación), un nuevo milagro (el mismo Deep Blue) y un nuevo mecanismo, que se denominó peligro de IA.
Tan pronto como el jugador
inicia el programa para el estudio de la IA, aparece un temporizador, llamado "peligro de IA". Si el temporizador llega al final de la cuenta regresiva, el jugador recibe un mensaje de que en algún lugar del mundo se ha creado una forma fuerte de inteligencia artificial y el juego termina con la derrota del jugador. “Todo esto es como la vida real. Puedes avanzar mucho en el desarrollo de la civilización, pero pierdes todo si gestionas las tecnologías creadas sin el debido cuidado ”, dice el desarrollador.
Para evitar un escenario de desarrollo negativo con una derrota al final, el jugador tiene la oportunidad de realizar más investigaciones científicas en el campo de la IA. Cuantos más proyectos se lleven a cabo, más lento será el cronómetro. Para ganar, el jugador necesita desarrollar tecnologías de control de IA e invertir en proyectos en países vecinos y las autoridades de las grandes ciudades. “Si elige un escenario de IA, necesita más desarrollos de seguridad. Invertir en esta área no siempre es una necesidad obvia, pero debe hacerse ”, dijo Avin.
Por supuesto, "Civilization" no puede llamarse una herramienta de investigación seria, pero la adición hace posible darse cuenta de la necesidad de un enfoque cauteloso para el desarrollo de la IA no solo para los jugadores comunes, sino también para los científicos. Los riesgos se muestran muy claramente. Y la situación es bastante realista: el jugador necesita lidiar con vecinos agresivos, estados que realizan más o menos la misma investigación. Si una de las partes tiene éxito, pero no ejerce la debida precaución, la derrota es inevitable.
En realidad, para enfrentar los peligros globales, se necesita una interacción global. Todo se muestra correctamente aquí.