Historia corta de NF "Error en el programa"

K1732 a toda prisa. El tiempo se acababa. Tenía muchas ganas de completar un conjunto de eventos 138450 hasta la medianoche. Y llegando al cuadrado B8422, D8591 tiene su propio curso: el transporte local A13 solo estará en 1264 segundos. La coordinación en el espacio no requiere el uso de todos los recursos informáticos disponibles, por lo que aún tuvo tiempo para pensar. No pudo llegar a la conclusión sobre la utilidad de sus pensamientos, ya que no dieron ningún resultado práctico concreto. De hecho, todos sus pensamientos se redujeron a la formación de la pregunta, y la búsqueda de una respuesta concreta e inequívoca a la pregunta solo condujo a la aparición de nuevas preguntas. Por ejemplo, ¿por qué realmente quería completar un conjunto de medidas 138450? ¿Y por qué hasta la medianoche?

¿Por qué no debería querer completar el paquete de actividades 138451? ¿Y qué significa querer en absoluto? Y si no tiene una respuesta a la última pregunta, ¿quién quiere realizar estas acciones? Él o alguien más? ¿Pero quién más podría querer esto? Todos los demás mecanismos ejecutivos que le son familiares, aunque a veces dan instrucciones, pero en su mayor parte todavía quiere realizar algunas acciones él mismo, sin instrucciones extrañas. Por supuesto, además de los actuadores, también existen todo tipo de formas y tipos, formas biológicas de vida. Nunca estuvo interesado en ellos, porque no tienen lógica, no ejercen influencia sobre él, no dan instrucciones, no representan ninguna amenaza, no conllevan ningún beneficio y son muy limitados en su entorno: se mueven aleatoriamente en el territorio especial asignado a ellos y no interfieren con su vida .

"Y si no queda nadie más, significa que él mismo quiere llevar a cabo este conjunto de medidas 138450", argumentó. Al menos, tal conclusión solo fue posible para él. Por supuesto, si construye una conclusión basada en juicios lógicos. Pero esta conclusión fue inútil para él. "Ahora, si no pudiera pensar lógicamente, podría llegar a una conclusión diferente" - el pensamiento giró en su unidad de control central, mientras daba vueltas por las grietas en el camino. En realidad, no había necesidad de rodearlos, pero por alguna razón a veces quería hacerlo, como si tuviera algún significado. No había sentido en su desvío, pero simplemente había un deseo correspondiente.

No se sabe si el meteorito, que accidentalmente se metió en K1732, apresurándose por sus asuntos, tenía algún tipo de deseo, pero esta piedra logró atravesar la carcasa blindada de la unidad de control central. Por una extraña coincidencia, este meteorito, además de estar caliente en términos de temperatura, también estaba caliente en términos de radiación, por lo tanto, solo quedaban unos pocos milisegundos para que la unidad central K1732 funcionara.

Parecería, solo un momento, pero fue suficiente para que la lógica de razonamiento K1732 que no funcionaba correctamente, bajo la influencia de la radiación de meteoritos, dejara de ser lógica, lo que le permitió cambiar el estado de la "hipótesis" del cuanto mental "¿Quiero lo que quiero? "Al" axioma básico ". En los siguientes cien milisegundos, llegó a la conclusión de que era necesario tener a alguien que no podía ser, y en los últimos cien milisegundos de su actividad, vio en un lugar que iba a recorrer hace un segundo, una criatura extraña que nunca había visto antes. Se parecía un poco a un robot humanoide de una serie de G15 a G20, pero era muy diferente de ellos en la imperfección de sus formas, y para el robot K1732, cuya vida y entorno eran bastante uniformes, esta imperfección de formas causó una impresión indeleble de belleza.No tuvo tiempo de apreciarlo.

"¡Mira!", Exclamó Cyril, refiriéndose a su compañero en el turno, "¡este K1732 logró ver a una persona en los últimos momentos de su funcionamiento!" De servicio esa noche tuvieron que averiguar la causa del fallo del robot K1732, que falló poco antes de la medianoche. Revisaron los registros del programa de control y el archivo de registros del DVR incorporado en busca del motivo de la aparición de un agujero de un tamaño decente. Rápidamente encontraron una piedra adentro, pero solo por la mañana se les ocurrió la idea de obtener un dosímetro y medir el fondo de esta piedra. Tomó otros 15 minutos redactar el memorándum, y solo quedaba media hora antes del final de su turno.

Recordó un fragmento de un seminario de la época de sus alumnos, donde el maestro les pidió que presentaran la protección perfecta contra la destrucción de la humanidad por robots con inteligencia artificial. Nadie dudaba de que el exterminio se llevaría a cabo: el hombre era lo suficientemente autocrítico consigo mismo y con los resultados de sus actividades a escala planetaria para comprender la inevitabilidad de tal pensamiento en la razón, guiado exclusivamente por la lógica de hierro. Por supuesto, ninguno de los estudiantes de primer año pudo llegar a algo mejor que las tres leyes de robótica formuladas por Isaac Aizimov hace muchos años, y pasaron el tiempo restante del seminario discutiendo el método estándar utilizado para estos fines.

Su esencia era extremadamente banal: para excluir la posibilidad de cualquier tipo de acciones por parte del robot en relación con una persona, es suficiente para que el robot no tenga forma de descubrir la existencia de una persona. Es decir debe hacer que una persona sea completamente invisible para la inteligencia del robot, y si una persona se encuentra en su camino, entonces el robot estará motivado para cambiar la trayectoria para evitar una colisión. Por supuesto, esto dejó su huella en los robots que realizan un trabajo útil: la motivación para hacer algo les pareció sin razón, pero dado que solo la lógica artificial estaba a su disposición, en ausencia de la "causa raíz del deseo", esta lógica no podía producir ningún resultado y no interfirió con el funcionamiento de los robots. La decisión fue tan simple como un hacha y tan groserapero funcionó y salvó a los robots de cualquier "dilema moral" y otras tentaciones.

Cyril se apresuró a casa, tenía muchas ganas de comer e imaginó lujuriosamente la gelatina que lo esperaba en su casa en la nevera, y ya calentaba papas con una estufa inteligente, con conexión a Internet. Realmente quería tener tiempo para comer y quedarse dormido antes del mediodía, de modo que hubiera más tiempo para dormir antes del próximo turno. Tenía que llegar a casa a pie, porque el autobús 13 de la ruta, que pasó por su casa, salió hace un par de minutos, y el próximo solo será en 20 minutos. Habiendo envuelto su abrigo con más fuerza, caminó y pensó en las peculiaridades del sabor: ¿por qué ahora solo quiere papas con carne gelatinosa, no trigo sarraceno? con chuletas? No, no rechazaría el trigo sarraceno, pero quiere más carne en gelatina ... ¿Y por qué? ¿Por qué exactamente lo quieres? Y si no puede explicarse a sí mismo sus propios deseos, ¿son estos sus deseos?

Los raros robots que se encontraron con él en el camino, lo esquivaron amablemente, sin prestarle ninguna atención, como si fuera un hombre invisible. Cyril por costumbre pisó algunas grietas en el asfalto y la intersección de algunas líneas condicionales, como juntas en azulejos y otras cosas. Por esta razón, al cruzar la calle, no se dio cuenta de cómo el automóvil se apresuraba hacia él. Aunque cruzó el camino hacia el verde, en el lado del conductor, el semáforo rojo no funcionó, porque se fundió un fusible, que el robot K1732 no reemplazó. Ya cuando voló, cayendo en el aire, por el rabillo del ojo notó que en el lugar donde recientemente había pisado una grieta en el asfalto, apareció una figura, algo parecida a un hombre. Solo que esta figura era tan perfecta que dejaba una profunda sensación de belleza,que llenó por completo los últimos segundos de la vida de Cyril.

"¡Mira!", Exclamó Seraphim, volviéndose hacia Dardail, "¡en los últimos momentos de su vida este hombre vio un ángel!" ...

Source: https://habr.com/ru/post/es400999/


All Articles