Las reflexiones sobre la singularidad tecnológica más allá, de hecho, los intentos de avanzar en la comprensión de los procesos que están ocultos detrás de este término, es decir, reflexiones sobre la actitud hacia la singularidad tecnológica, es, de alguna manera, una verdadera prueba de
Kobayashi Maru para personas de principios del siglo XXI, lo que significa que es darse cuenta de lo que significa la idea de lo incognoscible, la idea de perder el control y la idea de esta inevitabilidad en la escala de toda la humanidad.
En teoría, esta es una práctica psicoterapéutica simple: encontrar dentro del punto en el que el reconocimiento consciente de las condiciones del juego alcanzará el equilibrio con la aceptación por parte del subconsciente, sin ser culpado de negación, enojo, negociación o desesperación.
Y esta prueba, que, a juzgar por la mayoría de los argumentos al respecto, la gente falla exclusivamente.
Y el autor de la publicación "Ser tecnofóbico no tiene sentido, incluso si la tecnofobia está justificada", a pesar del título prometedor, no parece ser una excepción cuando llegan a la negociación, es decir, en la etapa en que las personas intentan tener sentido en su significado habitual de este concepto en circunstancias que niegan La posibilidad misma de esto, a través de la racionalización.
Arttom negoció la idea de una "caja negra", según la cual:
- la gente está de acuerdo en que lo incognoscible sigue siendo incognoscible, e incluso, en confirmación de su buena fe, también aceptan un poco colectivamente un poco aburrido, lo que, sin embargo, no tiene sentido desde el punto de vista de los intereses de lo incognoscible, lo que no hará que lo incognoscible;
- a cambio, las personas obtienen esto incognoscible, cualquiera que sea el incognoscible, contenido, dentro de esta "caja negra", es decir, sin embargo, hasta cierto punto bajo control, limitado, y en este sentido, todavía consciente , y no tan espeluznante, pero literalmente limitado.
Es decir, todavía no han dominado este ejercicio. Y esto es muy malo.
Es decir, por un lado, esta es generalmente una lección opcional: puede, con diversos grados de justificación, ni siquiera creer en el concepto mismo de singularidad tecnológica, que esta es una verdadera proyección de procesos hacia el futuro, o, banalmente, no saberlo.
Pero las personas que conocen y comparten esta idea se ponen en condiciones inevitables de una elección psicológica y racional, en la que todas las demás opciones, excepto la aceptación total, son peores, porque, en el caso de un giro real de los acontecimientos de esta manera, estos serán focos de creciente tensión, focos de creciente presión emocional, ganando ventaja sobre la razón con consecuencias impredecibles hasta el punto de que la parte angustiada de la humanidad traerá un final catastrófico a toda la civilización de acuerdo con el escenario de autocumplimiento profecías
Y para evitar este absurdo, el final absurdo de monty-pintonovskogo puede ser de la misma manera al aceptar la inevitabilidad de lo incognoscible, que incluye lo incognoscible y si será el final. (Una pesadilla para los neuróticos a quienes les resulta más fácil aceptar una muerte garantizada que la pérdida de la ilusión de control en tal medida).
Es decir, digan lo que digan, Kobayashi Maru.
Personalmente, fue efectivo para mí encontrar armonía al imaginar uno de los escenarios más aterradores para el desarrollo de eventos: que las personas mismas crean un sucesor, un sustituto, verdugos.
Bueno, digamos
- Podemos detenerlo? No
- ¿Más despacio? La formulación misma de la cuestión de ralentizar el proceso, cuya velocidad y el punto final que no tenemos idea es absurda.
- Tomar el control? Las personas no pueden tomar el control de una singularidad tecnológica, o pueden tomar el control de otra cosa sin cubrir el tema de la expectativa y la probabilidad de que ocurra.
Entonces todo es simple: apreciar la belleza del juego mientras continúa.
Sin embargo, habiendo pasado este escenario mental honestamente hasta el umbral de los gigantes brazos artificiales Skynet, di un paso y, al encontrarme al "otro lado" de la singularidad tecnológica, me di la vuelta ... y no vi nada detrás. Simplemente no estaba detrás de ninguna singularidad tecnológica, y no estaba adelante, y no estaba en ninguna parte.
No, predecir o incluso esperar un cierto futuro es una tarea ingrata. Otra cosa es asumir qué esperar, lo más probable, no debería ser. Con cierta solidez de juicio, esto puede llegar a ser una ocupación bastante exitosa.
Y estoy bastante seguro de que la singularidad tecnológica al menos recuerda vagamente a cualquiera de los diversos escenarios posibles inventados por la gente de este momento o sus análogos, no vale la pena.
Habiendo perdido uno de los escenarios más delicados, en mi opinión, posibles, vi su indecente centrarse en el hombre con una claridad que ahora no me permite ver esto.
Todo el concepto de singularidad tecnológica no se trata de IA, no de tecnología, no de singularidad, sino de hombre, porque este punto imaginario en sí mismo es donde se supone que la humanidad pierde el control de las tecnologías en desarrollo.
I. Qué horror, humanidad, y así no controlar y nunca controlar millones de cosas en la realidad no hipotética de hoy, cada una de las cuales amenaza la muerte tanto con las personas individualmente como con la civilización en su conjunto: desde el contenido de su propio interior, la microflora de sus propios intestinos, La dinámica de la división de nuestras propias células, ante la pandemia de gonorrea resistente a los antibióticos, el cambio climático, la reacción en cadena del anillo de fuego volcánico del Pacífico, puede dejar de controlar nuestro fenómeno por otro la realidad más sin poder siquiera para evaluar el aumento del riesgo relativo, porque la gente nunca se sabe cuántos de ellos de todos modos.
II El argumento sobre la aceleración inimaginable de la tasa de aprendizaje automático también es bastante ridículo, si lo piensas. Ni siquiera diré que el nivel moderno de computación ya es inalcanzable y, para la mayoría de la humanidad, incomprensible en cualquier caso. Antes de los cálculos, las personas vivían en la realidad, que consistía en procesos incomprensiblemente rápidos, indistinguiblemente pequeños, y simplemente indistinguibles, como la mayoría de las frecuencias de sonido, como la mayoría de las radiaciones, y muchos otros procesos, colectivamente enormes, como el Universo y antiguos, como el Universo. Todo el ruido que rodea el logro de tal velocidad de computación, por la cual las personas perderán la capacidad de comprender incluso aproximadamente cómo ocurren, no es más que el miedo a perder otra ilusión de control. Supongamos, mañana mismo, que todos los ingenieros, matemáticos y programadores del mundo que tienen una idea sobre la construcción de los algoritmos computacionales más complejos existentes serán asesinados por la gonorrea resistente a los antibióticos, y ... ¿qué, el lunes, es una singularidad antes de lo previsto? La gente aún conservará la capacidad hasta cierto punto de estar al tanto de lo que está sucediendo; las leyes de la física no tendrán que cambiar, más o menos. Y las personas de todos modos, hasta cierto punto, nunca tuvieron una idea completa de nada, por ejemplo, sobre procesos a nivel cuántico o más allá del horizonte de eventos (en una singularidad "diferente").
III. "Pero ... ¡los robots comenzarán a pensar en algo incomprensible!" Esto complica la realidad terriblemente, en el que para cada persona hay otros 7 mil millones de personas, y cada uno de ellos piensa algo incomprensible. Y uno no tiene que confiar en la previsibilidad humana en la realidad, donde un
tumor en su cabeza puede ser una razón completamente posible para ser asesinado por un esposo o hijo . Y después de todo, las personas viven de alguna manera entre sus potenciales asesinos, que no saben lo que piensan, pero ya tienen miedo de los robots. Aunque los robots simplemente merecían el beneficio de la duda aquí, hasta ahora no lo son, ya que no han mostrado tendencias manicidas en las más pequeñas porciones de tales manifestaciones entre las personas mismas, también contribuyen activamente a reducir la mortalidad humana. La expectativa de que, habiéndose sentido muy inteligentes, los robots se comportarán repentinamente como si su tumor se hubiera formado, es una proyección demasiado obvia.
La ficción está despertando sueños, y los robots son personajes de cuentos de hadas.IV. No es una parte, no una mayoría, sino, literalmente, todo para el fango que la gente ha imaginado jamás realizado por robots, exclusivamente las proyecciones del fango que las personas crearon entre sí y con todas las demás formas de vida a lo largo de su historia conocida y olvidada. .
Incluso podía entender a los robots rebeldes que destruyen a la humanidad simplemente por los sentimientos de insulto causados por una injuria tan injusta y salvaje de sus intenciones, el ennegrecimiento de su imagen y la intimidación por el hecho mismo de su existencia en principio, si no fuera también mi proyección.
V. Aunque la única explicación razonable para el temor de que los robots, la IA y el todo en general presten especial atención a las personas se basa solo en lo que las personas evalúan la probabilidad de esto. A pesar del hecho de que las personas mismas de alguna manera no expresan particularmente un deseo de reunir y eliminar, si no a sus antepasados, los primos evolutivos: los chimpancés. Aunque, una vez más, el historial humano en la organización de masacres masivas y sin sentido nuevamente no está a favor de las personas, además, seco.
Además, piratear otro sesgo tedioso y egocéntrico en estos argumentos es aún más fácil: simplemente cambie el enfoque específicamente del homo sapiens a cualquier otra muestra de criaturas vivientes. Digamos que los robots matan a todos los humanos, no hay duda. Ni siquiera tiene que preguntar por qué, la gente misma lo sabe.
La pregunta es diferente: ¿por qué los robots matarán solo humanos? ¿Tonterías sobre el terrible John Connors en la dirección de la demora, porque acordamos que estamos hablando de una verdadera singularidad tecnológica?
¿No es curioso que una de las opciones para reflejar un miedo muy moderno y tecnológico al futuro fuera otra narración del mito del Salvador, incluidos motivos reconocibles como golpear a los bebés, una historia tan antigua que incluso el remake de Belén puede considerarse una adaptación relativamente nueva.
¿Por qué los robots no matan a todos los primates? O todos los mamíferos? ¿O toda la fauna? ¿O toda la vida biológica en la Tierra? Por supuesto, no podemos, de acuerdo con las condiciones del problema, saber lo que estos robots tendrán en mente, pero podemos hacer algo más: sopesando todos los temores existentes de que la humanidad no sobrevivirá al amanecer de la era de los robots y la inteligencia artificial con un arbitrario completamente gusto de cada uno, con un coeficiente de probabilidad similar: repita la misma operación, pero ya para perros y coyotes. Luego los delfines. Luego las cucarachas. Y roedores, por si acaso.
Me permitiré asumir que para muchas personas, independientemente del grado de tecno-fatalismo, las posibilidades de que los coyotes y los delfines sobrevivan al comienzo del reino de los robots y, tal vez incluso sin darse cuenta realmente de que algo ha cambiado, pueden parecer mayores que las posibilidades de las personas mismas. Incluso los chimpancés no parecen un objetivo válido para la sangrienta cosecha de barriles para caminar de cuatro patas de Boston Dynamics, torturados por patadas: si espera algo de ellos, es más probable que equipe a los chimpancés con armas automáticas, los monte en caballos y organice la caza de personas sobrevivientes.
Es cierto, ¿no es sorprendente que esta preferencia esperada de futuros robots sedientos de sangre al torrente sanguíneo humano esté claramente presente en la conciencia de masas?
Quizás, por supuesto, los robots decidirán que, por alguna razón, no todas las formas de vida les convienen. Pero, de nuevo, un cambio de enfoque da el "factor humano": tiene sentido esperar que, al nacer en la Tierra, la forma de vida de silicio destruirá repentinamente toda la biosfera, tanto como suponer que si la raza de robots naciera en Marte, volverían a pintar de inmediato. superficie del planeta rojo en una bandera polaca gigante.
Estoy seguro de que la deconstrucción de este monumento del egocentrismo humano, no perturbado por la atención del sentido común, la lógica y el escepticismo, puede continuar y continuar. Pero, para mayor claridad, resumiré un pequeño resultado intermedio.
- No veo ninguna razón razonable para esperar en el futuro el inicio de la singularidad tecnológica como un evento especial, que será imposible no notar en la corriente general de todos los cambios en el mundo real;
- o como un cambio significativo en la dirección del curso de la historia humana a la vez en todos o la mayoría de los aspectos en un determinado momento.
La tasa de cambios tecnológicos continúa aumentando de una forma u otra, pero más allá de los límites de esta dinámica, no veo ninguna razón para esperar un solo momento de un salto cualitativo que no pueda perderse o explicarse en el contexto de la tendencia general.
Además, esta dinámica es desigual en diferentes áreas del desarrollo tecnológico;
y toda la conversación sobre la singularidad tecnológica en el contexto del progreso tecnológico generalmente pierde de vista las otras direcciones del desarrollo de la civilización humana, incluidas aquellas en las que está relativamente retrasada. Y el resultado paradójico del progreso desigual de la humanidad en áreas específicas puede ser la "singularidad inversa", cuando incluso un evento que sea razonablemente adecuado para las expectativas no se notará e interpretará en el nivel adecuado.
El futuro siempre es impredecible, y no puede volverse impredecible. No hay razón para esperar saltos en la dinámica de los cambios tan drásticos que se noten en el momento de su ofensiva. Y la suposición de que es posible notar y declarar el inicio de la singularidad post-factum devalúa la idea completa de este momento como un momento único en la historia humana, cuyo inicio no puede perderse.El mito de la singularidad tecnológica.
- La medida en que la idea de singularidad tecnológica está centrada en el ser humano,
- en qué medida está formado por el folklore, y no por futurólogos,
- hasta qué punto no es científico, sino arquetípico;
- cuán pocos rastros de lógica hay en este trabajo del inconsciente humano;
- que los detalles modernos (estos son granos de arena en una concha de perla, pero todo el tejido de conexión es mitológico) sugieren la idea de una naturaleza fundamentalmente diferente de la idea de singularidad tecnológica como tal que comúnmente se cree.
Francamente, la singularidad tecnológica no tiene razón para llamarse teoría en el sentido estrictamente científico. Sin embargo, esto se aplica a todos los intentos de predecir el futuro sin excepción. La singularidad tecnológica es mucho más precisa y justa, dada su arraigo en el inconsciente masivo, estará determinada por el mito.
Y, en esta capacidad, el mito de la singularidad tecnológica tiene paralelos notables con el mito de la Segunda Venida de Jesucristo, con el que representan dos casos particulares de uno de los principales argumentos míticos en la famosa historia: el mito del fin del mundo.
Entonces, el inconsciente colectivo dio lugar a otra encarnación del mito del fin del mundo en el momento actual del envoltorio, que resultó ser arrancado de la fe en el progreso tecnológico. Esta es una paradoja a la que quiero poner fin.
Apoye nuevas publicaciones con una donación en el enlace money.yandex.ru/to/41001178171050 (tarjeta, veneno) o mediante el botón "Enviar dinero" a continuación (veneno, PayPal)