Varias de las novelas de Kurt Vonnegut tienen el planeta ficticio de Tralfamador. Sus habitantes viven en cuatro dimensiones y ven a la vez todo el tiempo de principio a fin. Saben cómo comenzó el universo y saben cómo va a morir: los científicos de prueba de Tralfamador lanzarán un súper motor, explotará y destruirá todo. Pero ni siquiera están tratando de prevenir una catástrofe. No hay indicios en su pensamiento de que el curso de los eventos deba cambiarse. Continúan avanzando hacia este motor, porque en su mundo todo lo que sucede ya ha sucedido.
A veces me parece, pensamos de la misma manera, solo un poco menos consciente. La idea de que no se puede detener el progreso nos da un optimismo inquebrantable. Si no se detiene, entonces todo va como está y hay continuos éxitos sin fin por delante. Debemos relajarnos y remar con la corriente. Incluso los escenarios inquietantes responden en un rincón de la conciencia con deleite romántico. "¿Los autos se volverán inteligentes y matarán a todos?" Clase! ¡Como una película! Se refiere a esto con un grave pesimismo, casi una locura.
Está claro que la realidad siempre es más aburrida que la ficción, y los alarmistas y los luditas suelen morir antes de que el progreso justifique sus temores. Pero según algunos futurólogos, incluso en nuestra vida podemos ser testigos de grandes puntos sin retorno, que estamos felices de apresurar a toda velocidad.
Recientemente,
fillpackart escribió una
columna sobre niveles de abstracción en lenguajes de programación modernos. Supuestamente, entre el código y la ejecución en el hardware hay tantas capas automatizadas de interpretación y compilación que comenzamos a perder el control sobre cosas de bajo nivel.
Discutimos mucho este tema y, por supuesto, no creemos que todos los programadores deban abandonar los lenguajes familiares y cambiar a un martillo con un soldador. La abstracción es genial. Capacidades modernas, facilidad para resolver problemas y nivel de comodidad: todo está bien. Probablemente, ser desarrollador es genial como nunca antes.
Pero el mundo es una cosa llena de paradojas. Pensar en lo que sucederá con la industria en diez años parece importante. Pero después de 60–70–170, de alguna manera ya no es tanto. Es como si no nos preocupara. Incluso si sobrevivimos, para entonces la presión atmosférica y las llamadas de los nietos serán más importantes para nosotros. Pero al menos por un segundo, imagine lo que sucederá si aumenta constantemente el grosor de las abstracciones y aumenta la comodidad de la programación. Si automatizas, automatizas y automatizas.
Creo que en este caso, los descendientes de nuestros descendientes heredarán la "caja negra", una tecnología que funciona por sí sola, entendible solo para él y para nosotros, creadores muertos hace mucho tiempo (que dejaron algún tipo de documentación ilegible de antaño), de alguna manera. La tecnología no necesitará saber, solo necesita mantenimiento. Y estoy seguro de que sobre esto el negocio de TI construirá su cultura, y cada manifiesto leerá: "No llegue al núcleo de la tecnología, solo deje que resuelva problemas".
Imagínense cómo serían las conversaciones entonces, en el año 2199. Probablemente algo en el espíritu: "Según nuestras observaciones, si decimos el sistema la palabra" cumplir ", resultará 0,8 segundos más rápido que si decimos" hacer ". Y si mantiene una pausa de tres segundos al final del discurso de apertura y luego agrega "espárragos", la conversión aumentará en un 3% ".
Y si tiene una mejor opinión de la humanidad, mire a las personas que pusieron un enlace en Facebook en el primer comentario. Hoy estamos comenzando bailes "justificados racionalmente" con una pandereta junto al fuego, si solo el algoritmo popular solo cierra un poco la pared con nosotros.
La pregunta realmente importante no es "¿La tecnología se convertirá en una caja negra", sino "Cuándo sucederá esto". Y hay personas mucho más inteligentes que yo que creen que la magia, en lugar de la ciencia, comenzará antes de lo que me pareció.
El verano pasado, escuché un discurso de Leonid Tkachenko de MTS en una conferencia de big data. Al principio habló sobre la muerte de una empresa de telecomunicaciones, luego divirtió a la gente con predicciones:
Existe una teoría sobre la singularidad tecnológica. La inteligencia humana está creciendo muy lentamente, mientras que la inteligencia artificial está creciendo rápidamente. Estamos progresando de manera contundente, apareándonos accidentalmente cuando externamente le gusta a alguien, y la evolución humana es lenta. Somos lo mismo que hace un millón y medio de años. El cerebro progresa durante mucho tiempo porque todo sucede al azar.
Cuando hablamos de IA, la entrenamos a propósito para mejorarla cada vez más. No se empareja con nadie por accidente; hace lo que queremos. Y según algunas estimaciones, la inteligencia artificial alcanzará a los humanos en 2030–40.
Esto significa que el progreso tecnológico irá más allá. El no se detendrá. Pero la IA lo moverá. No podremos entender lo que se le ocurrió, y él continuará haciendo avances tecnológicos.
Y hay una pregunta ética separada: ¿funcionará en nuestra contra? ¿Cuánto podemos controlarlo? Después de todo, él será más fuerte. Si él trabajará por nuestro bien, o nos convertiremos en vacas.
Las vacas viven en la Tierra, nadie las extermina. Pero las vacas ni siquiera entienden que las personas aún viven en la Tierra y las usan como quieren. Sí, las vacas no se borran de la faz de la Tierra, pero los dueños de la vida ahora, por supuesto, estamos contigo. En algún momento, alguien más puede convertirse en el propietario, esto puede suceder. Y este momento está cerca.
Leonid, cuando dijo esto, se basó en las predicciones de Vernon Vinge y Raymond Kurzweil. Vinge es escritor, y aunque el término "singularidad tecnológica" le pertenece, su pronóstico es demasiado optimista (¿pesimista?). Supuestamente, perderemos el control sobre el progreso tecnológico para 2030. Kurzweil es ingeniero y contó un poco más de tiempo, para 2045.
Ambos pronósticos se basaron en la ley de Moore sobre un aumento constante en la frecuencia de los procesadores. "Se trata de hardware y software", dijo Kurzweil en 2006.
En mi libro, La singularidad está cerca, escribí que necesitamos lograr 10 billones (10 16 ) de operaciones por segundo para proporcionar el equivalente funcional de todas las áreas del cerebro, incluso menos según algunas estimaciones. Algunas supercomputadoras ya están en alrededor de 100 billones (10 14 ), y llegaron a 10 16 para el final de esta década.
Las supercomputadoras con un billón de operaciones ya están en el proyecto, y dos fabricantes japoneses planean llegar a 10 16 en unos pocos años. Para 2020, las computadoras con 10 billones de operaciones costarán mil dólares.
El hecho de que el hierro alcance tales capacidades fue controvertido cuando escribí el primer libro en 1999, y ahora esta es una opinión muy popular. Las disputas ahora conducen más a los algoritmos.
Pero ahora, en 2019, uno puede ver cómo las previsiones de Kurzweil, si no se hacen realidad, al menos se están alejando. En primer lugar, los algoritmos y las formas de bombear hierro fueron de formas ligeramente diferentes. Casi al mismo tiempo que Kurzweil escribió esto, los fabricantes comenzaron a cambiar a arquitecturas multinúcleo, lo que complicaba un poco la ley de Mura. Y la supercomputadora más poderosa de la actualidad, que comenzó a diseñarse en el mismo 2006, maneja solo doscientos trillones de operaciones por segundo. Todavía hay un largo camino para completar la reconstrucción del cerebro, y aún más a un costo de mil dólares.
Las otras predicciones de Kurzweil parecen completamente fantásticas. Por ejemplo, el primer intento de promover la realidad virtual fracasó, aunque Kurzweil contaba con un movimiento completo al mundo virtual hace un par de años. Los nanorobots implantados en la cabeza, que aumentarán enormemente nuestras habilidades, también existen solo en películas y libros.
Por otro lado, ahora casi todas las fallas tecnológicas se responden "solo que aún no ha llegado el momento". El optimismo, el pesimismo y la sensación de inevitabilidad no pueden ser eliminados de su cabeza por ninguna lógica, como si todo lo predicho ya hubiera sucedido en Tralfamador, simplemente no podemos ver la fecha exacta.
Si la pregunta “cuándo” se decide solo por expectativa, entonces la elección “ser optimista o pesimista” debe ser hecha por nosotros mismos.
Kurzweil no parece tener una sola gota de tecnofobia. Es un optimista raro y hasta el día de hoy cree que la singularidad se está acercando, y esto no es un problema, sino un desafío, nuestra indulgencia, para finalmente comenzar a aumentar los cerebros orgánicos con algo que tenga piezas de hierro y microprocesadores. Y más allá del horizonte de la singularidad, no se trata de una pérdida de control sobre la tecnología, no es un escenario cuando la IA se despierta y nos mata a todos, sino una revolución, como resultado de la cual una persona finalmente dejará de ser un ser puramente biológico.
El presentador del programa Origins en National Geographic, Jason Silva, cree que esto ya sucedió, simplemente no nos dimos cuenta, porque no sucedió en una escala de ciencia ficción, pero como siempre sucede en realidad, de manera gradual y mundana:
Kurzweil y Kevin Kelly dicen que continuaremos aumentando nuestro pensamiento, brindando más y más formas de procesar información a portadores no biológicos. La IA no se rebelará contra nosotros, haremos que nuestra propia inteligencia sea cada vez más artificial.
Pero ya estamos descargando parte de la conciencia en portadores artificiales. Cuando escribimos algo en papel, parte del pensamiento ocurre solo en este papel. Parte del pensamiento es que movemos el mango. Parte del pensamiento ocurre cuando miras tus propios pensamientos, descargados en papel y reaccionas a lo que escribiste tú mismo.
El entorno artificial ya es parte del aparato de pensamiento. Los filósofos David Chalmers y Andy Clark expresaron la tesis sobre la "conciencia expandida", según la cual, un teléfono inteligente ya es una adición al pensamiento, y ese pensamiento no se limita al cerebro, esa conciencia realmente existe en el circuito de retroalimentación entre el cerebro, las herramientas y el entorno. Es por eso que decimos que nuestros pensamientos esculpen el entorno y que el entorno afecta a los pensamientos. Todo lo que creamos nos crea a nosotros también. No hay "estamos en contra de ellos". Hay una gran inteligencia distribuida, que consta de partes biológicas y no biológicas.
Por lo tanto, creo que no tenemos nada que temer. Son solo miles de millones de pequeños pasos los que amplían nuestra capacidad de crear.
Su actitud optimista se basa en el hecho de que no sucederá nada nuevo y que no habrá nada de lo que perder el control. Que, al desarrollar tecnología, bombeamos nuestra propia conciencia, y estas cosas son inextricables. Si te fijas bien, esto tiene sentido. Por encima de todo, por ejemplo, me llama la atención nuestro sentido interno del tiempo, completamente construido sobre herramientas.
Habiendo inventado y escrito "horas en papel" horas, minutos y segundos, comenzamos a medir todo con ellos a primera vista inconscientemente. Puedes sumergirte en cualquier negocio y terminarlo sin pensar en entender: "Pasé tres horas". Puede dejarse llevar por la película para olvidarse de todo, pero en los créditos claramente siente que han pasado dos horas. Pero si le quitas todo el entorno, todas las herramientas y todo el trabajo, la conciencia del tiempo comenzará a escaparse de la conciencia. Una persona, después de pasar una semana en una cueva oscura, se equivocará al evaluar el tiempo transcurrido durante varios días. Incluso sentado en una habitación vacía, es imposible evaluar si ha pasado una hora o dos. Resulta que la sensación del tiempo no vive dentro de la conciencia, sino afuera.
Y vivimos muy bien con el hecho de que el conocimiento de la humanidad se ha almacenado durante mucho tiempo no en el cerebro, sino en medios externos. Que toda la civilización, la infraestructura y la comunicación se basan en cosas descargadas de la memoria. Esto es normal porque los transportistas parecen aún más confiables y comprensibles que nuestro propio cerebro.
Pero la tecnología moderna se basa en una paradoja divertida. Las personas no confían en su conciencia e intentan consolidar todo lo que está más allá de ella y, al mismo tiempo, consideran que la conciencia humana es el controlador más confiable. Pero si una persona es tan impredecible y los mecanismos son tan claros y confiables, ¿por qué, por ejemplo, las directivas militares prohíben el desarrollo de sistemas de IA sin control humano?
¿Pesimismo irracional en la corriente del optimismo?
El control, la piedra angular de la paradoja del progreso moderno, es lo último que estamos dispuestos a dar al entorno externo, aunque nosotros mismos no confiamos en él.
Soy pesimista en la vida, pero sé que es mejor mirar todo con optimismo. Cuanto más accesible sea la tecnología, más automatizado estará todo, más fácil será vivir. Los problemas harán clic como nueces. Soy optimista sobre la tecnología, como volar en un avión. Para volar con comodidad, debes creer que aterrizarás. Es fácil, porque las posibilidades son muy altas. Pero siempre existe la más mínima posibilidad de romper. Y si la fe en él gana optimismo, el vuelo se convertirá en un infierno.
Creo que tanto el optimismo como el pesimismo en torno a la influencia del progreso en nosotros crece desde el mismo lugar. Di un ejemplo con un avión porque soy un aeróbico. Traté de resolver mi miedo y me di cuenta de que era solo el miedo a la falta de control lo que subyacía.
Odiaba la primitividad de mi cerebro cuando el problema se resolvió con un simple truco psicológico. La aplicación ayudó, que monitorea el estado de la aeronave y explica sobre la marcha todos sus sonidos, inclinaciones, y así sucesivamente. Habiendo recibido la ilusión de control en forma de conocimiento, me libré de la ansiedad, susurrando sobre toda mi racionalidad y lógica. Después de todo, por el hecho de que sé algo, la posibilidad de romper no disminuyó en un porcentaje, pero se volvió psicológicamente más fácil para mí.
El miedo a perder el control y no tener información es irracional. Las personas generalmente se dividen en dos tipos. Aquellos que, cuando eran niños, dormían frente a la puerta para ver al monstruo que entraría, y de espaldas a la puerta, para que en ningún caso lo vieran. El monstruo te comerá en ambos casos. La única pregunta es la cantidad de información recibida antes de la muerte inevitable, para que no sea tan aterradora. Aunque, ¿cuál es la diferencia en un sentido global?
Si quisiera crear una IA que debería tomar el control de una persona, haría todo lo posible para darle al usuario la ilusión de apertura, comprensión y control.
Y me parece que el pensamiento de los luditas y tecnófobos modernos se basa precisamente en este miedo irracional, sin saber lo suficiente. Los optimistas probablemente estén tranquilos sobre lo mismo. Están seguros de que siempre sabrán y controlarán exactamente tanto como sea necesario para beneficiarse y vivir cómodamente.
En términos generales, si la programación se convierte en una conversación humana normal con un sistema de voz, y funciona de manera realmente efectiva, ¿por qué no? El pesimista dirá: "¿cómo sabemos si el sistema entendió todo lo suficientemente bien?" El optimista se mantendrá en silencio, mostrará el problema que se ha resuelto con éxito y arrojará el micrófono.
El miedo a la falta de conocimiento radica en la comprensión de que el conocimiento existe, pero no puede ser reconocido. Después de todo, no saber lo que no sabes no es tan aterrador.
En 1984, Thomas Pinchon escribió el ensayo "
¿Es normal ser un ludita? "
E incluso entonces dijo que la fuente de ignorancia es demasiado conocimiento.
En el mundo moderno, cualquiera que tenga el tiempo, la competencia y el dinero para pagar el acceso puede alcanzar cualquier conocimiento especializado que pueda necesitar. El problema, de hecho, es cómo tomarse el tiempo para leer algo fuera de nuestra propia especialización.
En el texto, Pinchon comprende cómo el miedo a la tecnología ha cambiado con el tiempo. Después de las huelgas de los trabajadores (que es de donde proviene el nombre de "luditas"), que destrozaron los telares porque les robaron su trabajo, la tecnofobia se registró mejor en los libros de escritores. De hecho, los escritores, a diferencia de los científicos, piensan que la ignorancia es inevitable y que hay muchas cosas que nunca entenderán. Los científicos en todo momento saben exactamente qué les permitirá aprender aún más en el futuro. Es decir, la divulgación de absolutamente todo el conocimiento es cuestión de tiempo. Si es muy grosero, los escritores piensan que no tienen nada que controlar, los científicos piensan que controlan tanto como se necesita para tomar el control aún más.
En aquellos días en que los pogromos y la revolución industrial eran un tema candente, Mary Shelley escribió la novela Frankenstein, o Prometeo moderno. Hablando en una extensión: esta es la primera ciencia ficción, e inmediatamente sobre cómo el científico fue asesinado por su creación (perdón por el spoiler).
Desde entonces, en los libros de ciencia ficción sobre tecnología, el pesimismo y el optimismo han cambiado constantemente, porque volar al espacio es genial y los bombardeos nucleares son malos, pero todos estos son los resultados del progreso moderno. Con el tiempo, la tecnofobia de los escritores pasó del horror a algo cada vez más extraño. Ya sea al darse cuenta de que estaban equivocados, y no necesita tener miedo a la tecnología. O viceversa, porque todo ya está perdido, se pasan los puntos de no retorno y el pesimismo se convierte en un sentimiento de desesperanza.
¿Los mainframes atraerán tanta atención hostil como los telares? Lo dudo mucho. Escritores de todo tipo huyen en pánico para adquirir procesadores de texto. Los autos ya se han vuelto tan fáciles de usar que incluso los luditas más mal adaptados pueden quedar tan encantados que pueden aplazar el viejo mazo y tocar las llaves.
Con la asignación correcta de presupuesto y tiempo de computadora, podemos curar el cáncer, salvar a la humanidad de la destrucción nuclear, cultivar alimentos [que es suficiente] para todos, neutralizar los efectos de la contaminación ambiental por parte de la industria del tráfico; en resumen, realizar todos los sueños tristes de nuestro tiempo.
Si nuestro mundo sobrevive, seguirá el próximo gran desafío, al que vale la pena prestarle atención: lo escuchará por primera vez cuando se unan todas las curvas de investigación y desarrollo en el campo de la inteligencia artificial, la biología molecular y la robótica. Solo piensa!Será sorprendente e impredecible, e incluso los jefes más grandes, que sinceramente esperamos, serán sorprendidos. Esto, por supuesto, será algo que todos los luditas ejemplares esperarán, si Dios quiere, viviremos para ver este momento.
Es decir, el miedo a los tecnófobos se ha convertido no solo en una sensación de desesperanza, sino en una expectativa de que los científicos se quedarán con la nariz. Cuando la codicia por el conocimiento y la autoconfianza se mantendrán de lado.
El pesimismo que perdí ahora parece ser la gran cantidad de locos que no entienden nada (si eres tecnófobo, ve a vivir al bosque y no te molestes). Se convirtió en la opinión "queremos lo mejor, pero haremos como siempre". Pero es costumbre pensar en puntos sin retorno en el tiempo futuro. Pensar que ya se han completado, especialmente en un momento en que no es como las computadoras, ni siquiera el lenguaje escrito, es absolutamente salvaje e inútil.Tal opinión impopular fue expresada por el antropólogo Yuval Noah Harari en el libro Sapiens: Una breve historia de la humanidad. Según él, se nos ocurrió nuestro superengine de Tralfamador hace diez mil años cuando hicimos la revolución agraria, y desde entonces nuestra evolución ha ido en la dirección opuesta. Supuestamente, el hombre-recolector poseía el cerebro más desarrollado de la historia, vivía mucho más cómodo y más feliz.Pero luego plantó trigo y se volvió dependiente de él.La revolución agraria no fue de ninguna manera el comienzo de una vida nueva y fácil: los antiguos agricultores vivieron mucho más difícil, y a veces incluso más hambre, que los recolectores. Los cazadores y recolectores llevaron un estilo de vida más saludable, no trabajaron tan duro, se encontraron actividades más diversas y agradables, menos propensas a sufrir hambre y enfermedades. Gracias a la revolución agraria, la cantidad total de alimentos consumidos por la humanidad ciertamente ha aumentado, pero más alimentos no es necesariamente una dieta más saludable. No, como resultado de la explosión demográfica y surgió la élite, el ganadero o agricultor promedio trabajó más y comió peor que el cazador o recolector promedio. La revolución agraria es la mayor estafa de la historia.
. . – , , . : «, . ! - . . - !»
– , - , – - .
Pero según Harari, los antiguos que la plantaron no se atraparon. Los primeros agricultores tenían todo bien, realmente simplificaron sus vidas y brindaron la comodidad que sus antepasados habían buscado durante siglos. Esto se convirtió en una trampa para sus tatara-tatara-tatara-tataranietos, que ya habían perdido la calidad de sus antepasados para vivir y elegir lo mejor. Se quedaron solo con la agricultura, y fueron capturados gradualmente por todas las deficiencias de la nueva forma de vida.La teoría es especulativa, tensa y llena de especulaciones. Y quizás la creación de un sistema súper automatizado que resuelva todos los problemas de nuestros descendientes en un futuro lejano se considere perjudicial por la misma inyección. Pero lo crearemos de todos modos. Porque el progreso, la productividad y el crecimiento constante es una nueva religión y el significado de nuestro tiempo ateo. Y si ahora estamos mejorando, ¿por qué preocuparse en vano? Todavía creemos que un poco más, y todo será perfecto. Solo tienes que trabajar un poco más.Pero si ahogas el optimismo por un segundo y tienes en cuenta que la tecnología solutivista "resuelve los problemas que ellos mismos crean", ¿qué sucederá? Nada más que, tal vez, la constatación de que no vas por tu cuenta, sino que estás siendo arrastrado detrás de un tren a toda velocidad.Un pequeño experimento mental. Imagina que viste el futuro y sabes que en cien años la tecnología se descontrolará y el supermotor hará explotar el universo cuando se pruebe (o al menos convertirá a los descendientes en idiotas subdesarrollados). ¿Cambiarás algo? ¿Dejar de hacer desarrollo tecnológico?O aquí hay un par de detalles más. Si tuviera un gran impacto en el progreso, ¿lo detendría en este caso? Si es así, ¿no te avergonzaría la idea de que tu elección ya estaba registrada en la línea de tiempo? ¿Qué influencia en el futuro no existe? Ese conocimiento realmente no da control: es simplemente conocimiento por el bien del conocimiento, que globalmente solo dará una contemplación pasiva de un monstruo que ingresa a una habitación.Cuando trato de responderme, solo me siento constreñido. Así es como aprender sobre el accidente de un avión en el que ya está volando. Lo mejor que puedes hacer es no gritar en pánico, sino pedir vodka y fumar, aunque está prohibido.La mayoría de nuestras vidas son humildad con una existencia inexplicable. Todo será más fácil si solo haces un esfuerzo y decides conscientemente disfrutar de esta atracción lejos de ser infinita. Después de todo, siempre pensando bien en algo, se llega a lo mismo: es mejor no pensar en eso.