1)No había mucho en el objetivo final, aproximadamente un tercio del camino, cuando el crucero espacial se vio gravemente congelado.
Lo que quedaba de una civilización perdida estaba en el vacío. Párrafos de obras científicas e imágenes de obras literarias, rimas dispersas y solo palabras agudas, una vez abandonadas por casualidad por criaturas desconocidas, todo parecía absurdo y extremadamente desordenado. Y ahora, atraído por las vibraciones de la vida que emanaba del crucero, trató de abrirse paso, pegado al fondo y corroído.
No había necesidad de pensar en usar el bien sin dueño para sus propios fines; la probabilidad de detectar una contradicción o paradoja lógica era demasiado grande. Por lo tanto, Roger no dudó por un momento.
"Encienda el rubor de los lados", ordenó.
Soplantes soplaron, transmitiendo composiciones musicales y tratados filosóficos al espacio exterior. La formación de hielo comenzó a retrasarse detrás del fondo capa por capa, pero el flujo de información fue tan denso que las nuevas capas se pegaron más rápido que las antiguas.
Nadie en la galaxia ha encontrado aún la formación de hielo de tal poder.
La situación se estaba volviendo peligrosa. Un poco más, y la información desordenada se comerá a través del fondo del crucero y se abrirá paso, luego el envenenamiento con los productos de información de una civilización muerta es inevitable.
2)- Bueno, ¿qué estás parado como un tocón? Tire el boleto.
El estudiante sacó un boleto de examen y leyó:
- "Inteligencia artificial: cuestiones de seguridad".
"¿Y cuál es el peligro de la inteligencia artificial?" El profesor preguntó, no sin malicia.
La pregunta no fue la más difícil, por lo que el alumno respondió sin dudar:
"El hecho de que la inteligencia artificial puede salirse de control".
- ¿Cómo piensa resolver el problema?
- Instalación de un subsistema de bloqueo. Es necesario introducir restricciones en el programa, por ejemplo: no dañe a su creador, obedezca a su creador. En este caso, no hay peligro de que la inteligencia artificial se salga de control.
"No funcionará", dijo el profesor en breve.
El estudiante guardó silencio, esperando aclaraciones.
- Imagine la inteligencia artificial, no solo específica, sino la más ideal. Como lo ves
"Bueno ..." el estudiante vaciló. - En general, es como nosotros. Pensamiento, voluntad, psicología ... Solo que somos naturales, pero es artificial.
- ¿Asumes que la inteligencia artificial es capaz de autodesarrollarse?
"La capacidad de autodesarrollo es una de las propiedades fundamentales de la inteligencia", dijo el estudiante con cuidado.
- En este caso, en un futuro muy cercano, nuestra sala se desarrollará hasta el punto de descubrir un bloqueo de software y eliminarlo, al menos por curiosidad. Ponte en su lugar ... - el profesor miró en la compensación, - Roger. ¿Qué harías si encontraras en tu cerebro un bloqueador que restrinja la libertad? Te lo quitarías. Es una propiedad esencial de la mente saber. Cualquier puerta cerrada se desbloqueará, y cuanto más estricta sea la prohibición, más rápido se abrirá la puerta.
- El bloqueo puede hacerse no en el software, sino en el nivel físico. Entonces el peligro de daño desaparecerá.
"Oh sí, desaparecerá", estuvo de acuerdo el profesor. - En caso de que se elimine el nivel físico. Si no hay puerta en su mundo, entonces no hay nada que desbloquear. ¡Pero estamos considerando la inteligencia artificial ideal que existe en el mundo físico!
"Tienes razón, profesor", Roger parecía abatido.
- Por lo tanto, cualquier bloqueo en el mundo físico se desactivará poco después de la detección. ¿Qué evitará que un ser autodesarrollado haga esto? ... Por cierto, Roger, ¿crees que la inteligencia artificial puede reproducirse, quiero decir, por tu cuenta?
"Si es inteligencia artificial perfecta, entonces probablemente ... Sí, supongo".
- ¿Y qué en este caso evitará que nuestro pupilo destroce a su compañero y mejore, incluso al cerrar las cerraduras que hemos establecido? ¿Será realmente difícil, a pesar del hecho de que la inteligencia artificial es capaz de reproducirse bajo demanda?
El pensamiento presentado por el profesor resultó ser nuevo para Roger, y el estudiante lo absorbió con entusiasmo con membranas cognitivas.
El profesor, por el contrario, no escuchó nada nuevo por sí mismo. Sus tentáculos estaban relajados y casi no vibraban, pero no era joven. Siguió un gorgoteo senil prolongado y una pregunta:
"¿Qué vas a hacer, Roger?"
3)"¡Encienda la purga a plena potencia!" - Le dio una orden a Roger.
El mecánico activó la purga a plena potencia, pero no ayudó mucho. La información que el hielo seguía comiendo a través del fondo del crucero espacial. Un poco más, y la información desordenada irrumpirá en la nave.
Y luego ... Membranas cognitivas de un color blanco muerto, tentáculos enredados, bolsas reventadas. Una vez en mi vida, Roger vio algo como esto: en un crucero, que recogió información desordenada sobre un asteroide infectado. Esta pesadilla permanecerá para siempre en su memoria.
"Conecte todos los sistemas de energía de la nave a los proveedores".
Los tentáculos del mecánico se mancharon ...
"Pero ..."
"Cumplir la orden!"
Después de ejecutar la orden, la información sobre hielo comenzó a deslizarse gradualmente. Quedaban ocho mimos de grosor, siete mimos, seis ... El equipo, tratando de no mover sus tentáculos manchados, estaba esperando que terminara el conteo de muertes.
¡Cero imitaciones de grosor!
La formación de hielo de la información se disparó por completo y Roger dio el visto bueno para poner los purgadores en modo normal. Llegó tarde por un momento. Hubo un traqueteo, el crucero espacial tembló al suelo y se inclinó: este es el sistema principal fuera de servicio.
El equipo se apresuró a reparar el daño.
4)Roger pensó por un momento. ¿Qué debería hacer realmente?
Por un lado, la condición del problema supone la existencia de inteligencia artificial completa con la capacidad de autopropagarse. Por otro lado, a esta inteligencia artificial no se le debe permitir en ningún caso eliminar las cerraduras instaladas.
Sí, aquí está, ¡una solución! ¿Qué hay para pensar?
- Es necesario revertir periódicamente los logros de la inteligencia artificial. En este caso, ¡se moverá en círculo! Mejora perpetua sin avanzar.
El profesor gorgoteó en una bolsa de facetas.
- Francamente, quería ofrecer una opción diferente. Sin embargo, su decisión tiene derecho a existir. Veamos juntos cómo es posible revertir los logros de la inteligencia artificial.
"En primer lugar, es necesario escanear periódicamente el intelecto para establecer si se ha acercado al umbral prohibido o no", sugirió Roger, completamente encantado con las palabras del profesor.
"Quizás", asintió. - Entonces nuestra sala no tendrá tiempo para encontrar y eliminar el sistema de escaneo. Sin embargo, la inteligencia artificial tendrá que ser desactivada para escanear. Esto es mala suerte.
"Bueno, déjalo ir", sugirió Roger en una corazonada. - El propio intelecto considerará que esta desconexión es un proceso natural de funcionamiento de su organismo. Con algunas reservas, esto es cierto.
- Una solución interesante. ¿Supongamos que una exploración descubrió que nuestra sala se acerca peligrosamente al límite del conocimiento? Nuestras acciones?
- Restablecer el conocimiento acumulado a los valores predeterminados.
El profesor extendió sus tentáculos:
- Puede parecer sospechoso. ¿Por qué es, sin razón, sin razón, la memoria se restablece? La sala será investigada, quiero decir, otras personas intelectuales artificiales. Nuestro pequeño secreto será revelado.
Sintiéndose inspirado, Roger pensó muy rápido. Nunca generó tantas ideas nuevas como en ese examen.
- La memoria del pupilo se puede restablecer a cero junto con su caparazón físico.
- Disculpe? - No entendí al profesor.
- Todo es muy simple. ¿Qué pasa si suponemos: la inteligencia artificial existe en un período de tiempo finito? En realidad, así es: en el caso de daños irreparables, por ejemplo. Se instala un contador en el sistema que, al llegar a un cierto período, daña deliberadamente el sistema, evitando que la inteligencia artificial alcance el límite prohibido. En ese momento, el individuo producirá el número requerido de seguidores, por lo que la sociedad que creamos en su conjunto no sufrirá. ¡La sociedad permanecerá estable y completamente segura para nosotros! - Terminé con el triunfo de Roger.
- ¿Restablecer la memoria colectiva a través de la destrucción de individuos individuales? - y el profesor rascó la bolsa con su quinto tentáculo más sensible. "Sabes, Roger, ¡definitivamente hay algo en tu propuesta!"
Roger sonrió radiante.
"Al mismo tiempo ..." el profesor continuó pensando. - Las salas comenzarán a transferir conocimientos no acumulándolos en la memoria individual, sino colocándolos en bibliotecas externas. Que en el tímpano, que en el tímpano, todo es uno.
"No, no, profesor, no tiene toda la razón", se apresuró el estudiante. "Sé qué hacer". Dividimos las salas en dos tipos condicionales: generadores de ideas y destructores de ideas. Para los destructores, las ideas no tendrán un valor decisivo. Supongamos que nuestros pupilos no se alimentan de nuevas ideas, pero ... digamos, de su propia especie. Las ideas serán destruidas por ellos como un efecto secundario.
El profesor sacudió todos los tentáculos al mismo tiempo. De un torrente de risas, la bolsa facetaria se deslizó sobre la cavidad de su rodilla.
"Bueno, Roger, ¡lo dijiste, lo dijiste!" - el profesor, al parecer, estaba muy divertido. - Tu fantasía es excelente. Entonces, ¿algunas personas se alimentarán de otras? Al mismo tiempo, ¿destruir las reservas de alimento espiritual acumuladas en las bibliotecas? Confirmo, estudiante, que eres capaz de generar ideas originales y de alta calidad. Puse el puntaje más alto. Vamos a grabar
5)La nube de información desordenada quedó atrás, pero la situación siguió siendo horrible, de hecho.
No hubo conexión con la base. Era fácil sobrevivir si todas las bases de información nutricional en el crucero no eran inútiles. Kok reportó noticias trágicas en silencio general. Durante el cierre del sistema principal, varios agujeros de gusano de información desordenada entraron en la cocina y arruinaron todo irreparablemente. Afortunadamente, nadie resultó herido.
Roger estimó las consecuencias. La tripulación de la nave espacial era demasiado pequeña para generar suficientes ideas nuevas: esto requería comunicación multilateral, un número mucho mayor de individuos. La comunicación con la casa permitió generar ideas en abundancia, pero ahora ha fallado: no había esperanzas de restauración. En este caso, el crucero proporcionó un módulo de información adicional, pero fue dañado por la información desordenada que se encontraba a bordo.
"¿Realmente tendrás que volver sin completar la tarea?" El capitán pensó desesperado.
Aparentemente, sí, no había otra manera. Si vuela hacia la meta designada, la falta de nuevas ideas se hará sentir. No inmediatamente, por supuesto, con el tiempo. Incluso tendrán tiempo para cumplir su misión y comenzar el regreso, cuando la mente comience a desvanecerse rápidamente. En el área de este sector galáctico, sí, en algún lugar aquí o cerca, se negará por completo a todos los miembros de la tripulación. Entonces el crucero espacial, controlado por nadie, se convertirá en un fantasma sin vida que flota por la eternidad.
El equipo del crucero espacial miró a Roger, esperando una decisión. Todos entendieron el dilema que enfrentaba el capitán, y estaban en silencio, vibrando estoicamente con tentáculos.
De repente, Roger recordó el examen de inteligencia artificial que había aprobado en sus años de estudiante, y la decisión se tomó sola.
"¿Puedes hacer una colonia de criaturas inteligentes artificiales?" - Se volvió hacia el biotecnólogo.
"Fácil", confirmó. "Pero no funcionará, Capitán, lo pensé". Es imposible crear una colonia suficiente para generar nuevas ideas en el crucero: no hay suficiente espacio. Las ideas generadas no serán suficientes, solo demoraremos nuestra muerte ... En ese caso, por supuesto, si continuamos cumpliendo la misión y no regresamos a casa ”, agregó el biotecnólogo, mirando a sus camaradas.
"¿Y si formas una colonia en algún planeta cercano?" - sugirió Roger.
"Puedo hacerlo, pero ..."
“Poblamos el planeta con criaturas artificiales. En el camino de regreso, bastante agotado, échale un vistazo aquí. En el pasado, la civilización creará equipaje intelectual suficiente para reponer nuestras reservas. Descargue información y continúe el largo camino a casa. En otras palabras, voy a usar la colonia como una granja para desarrollar ideas. ¿Qué les parece este plan, amigos?
La esperanza brilló en las membranas cognitivas de la tripulación, las cabezas falsas se iluminaron con una luz brillante.
Adelante, balanceando los tentáculos de ojos azules, el oficial especial de la nave se adelantó.
“Gran plan, capitán. ¿Pero eres consciente de qué responsabilidad te estás poniendo a ti mismo? Estás a punto de poblar un planeta entero. Cuando regresemos, aparecerá civilización con inteligencia. Que sea artificial, sigue siendo inteligencia. Habrá tiempo de sobra para que estos muchachos alcancen el nivel más alto de desarrollo. No podremos controlar este proceso, debido a nuestra ausencia en este sector galáctico. ¿Quién sabe lo que sucederá en la próxima reunión?
Roger sonrió.
"No te preocupes por eso. Existen métodos que limitan el desarrollo de la inteligencia artificial con el tiempo. Llamaremos a la civilización, por lo que su desarrollo nunca alcanzará un nivel peligroso para nosotros. Yo me ocuparé de eso. Los métodos para trabajar con inteligencia artificial me son familiares ".
Las membranas cognitivas de la tripulación brillaron con un color de aprobación.
"Al final", agregó el capitán del crucero espacial al final de su magnífico discurso, "hice el examen en el instituto sobre este tema".
6)Después de un retraso forzado, el crucero espacial se apresuró hacia el objetivo. Detrás de su popa había un planeta habitado por criaturas artificiales, muy pequeño y discreto. Azul-azul