Muchos que me conocen pueden confirmar que soy bastante crítico con la gran cantidad de problemas, y de alguna manera incluso muestran una buena cantidad de maximalismo. Es difícil para mí complacer. Especialmente cuando se trata de libros. A menudo critico a los fanáticos de la ciencia ficción, la religión, las historias de detectives y muchas más tonterías. Creo que ya es hora de hacer cosas realmente importantes y dejar de vivir en la ilusión de la inmortalidad.
Durante una de las discusiones con uno de mis buenos amigos, él, después de mi siguiente indignación de que constantemente me ofrecían diferentes tonterías (la misma ficción), me aconsejó que elaborara el libro “Vida 3.0. Ser un hombre ... Me da vergüenza admitirlo, lo descargué hace mucho tiempo y ni siquiera lo noté junto con una magnífica selección de la Fundación Dinastía. Es muy difícil complacerme porque Trabajó en libros, por decirlo suavemente, no un poco. Pero me gustó este, y decidí no solo responderle la pregunta de si resolverlo o no, sino también escribir su crítica, porque, a pesar de que el libro es digno de atención, todavía hay trabajo por hacer.
Me gustaría creer que mi revisión no se ahogará, como siempre en la gran cantidad de inundaciones y spam, y no solo llegará a los lectores, sino también a los escritores que tendrán en cuenta las deficiencias en los trabajos posteriores. Por supuesto, solo mi opinión subjetiva es más baja, pero trataré de justificarla tanto como sea posible. A pesar de que, como siempre catastrófico, no hay tiempo para todo y, de hecho, soy un esclavo pobre promedio; Sin embargo, considero mi deber cívico como cosmopolita escribir esta reseña, porque Durante mucho tiempo he estado interesado en temas similares y muchos otros relacionados. Creo que gran parte de las siguientes son las tareas principales asignadas tanto a la humanidad en su conjunto como a sus individuos individuales. Tan patético como suena. Entonces ...
La vida 3.0. Ser humano
Critica
Los bloopers comienzan literalmente desde las primeras páginas del libro. Cito:
“Como saben, hace tiempo que no se llega a un acuerdo sobre la cuestión de qué considerar la vida. Se propone una gran cantidad de definiciones alternativas, y algunas de ellas incluyen restricciones bastante estrictas: por ejemplo, se requiere la presencia de una estructura celular, lo que probablemente excluirá las máquinas de pensamiento futuras y algunas civilizaciones extraterrestres. Dado que no queremos limitar nuestros pensamientos sobre la vida futura a aquellas especies biológicas con las que ya estamos familiarizados, tomemos una definición más amplia para que incluya cualquier otro proceso, si solo tiene complejidad y la capacidad de reproducirse. Lo que se reproduce exactamente no es tan importante (consta de átomos), la información (consta de bits) es importante, lo que está determinado por la disposición mutua de los átomos entre sí. Cuando una bacteria copia su ADN, no surgen nuevos átomos, pero los átomos disponibles se alinean en una cadena que repite exactamente el original, por lo que solo se copia la información. En otras palabras, podemos considerar cualquier sistema de reproducción automática y capaz de procesar información como un sistema vivo cuya propia información (su "software", "software") determina tanto su comportamiento como su estructura ("duro") ".
No hay acuerdo, pero hay más en la comprensión de la vida que es inteligible en este momento. Sería bueno conocerlos.
De lo contrario, si esto se simplifica y aborda desde esa posición, entonces el crecimiento de cristales complejos que reproducen su estructura a partir del sustrato puede atribuirse a la vida. O, tal vez, algunos procesos de formación de aceite y humus, donde también hay una semilla, lo que lleva a la aparición de moléculas de la misma semilla. Son como antepasados de las enzimas, pero no se consideran una vida completa en la ciencia moderna, porque no son capaces de desarrollo y mutación. Si no hay variabilidad, entonces esto no es vida. Por lo tanto, propongo, sin embargo, reducir un poco el concepto de vida y reconsiderar qué otras características puede tener. También recomiendo mi artículo: "Clasificación del potencial de la vida".
La siguiente cita:
“Siguiendo el Universo mismo, la vida se ha vuelto cada vez más complicada 4 y, como explicaré ahora, me parece útil introducir una clasificación de formas de vida de acuerdo con sus tres grados de complejidad: Vida 1.0, 2.0 y 3.0. La diferencia entre estas tres formas, en términos generales, es claramente visible en la Fig. 1.1 ....
Tres etapas de la vida: evolución biológica, evolución cultural y evolución tecnológica. Life 1.0 no puede afectar ni "hard" ni "software" durante su existencia
un solo organismo: ambos están determinados por su ADN, que puede variar de generación en generación durante un largo período de evolución ".
Aquí, según tengo entendido, un grave error. Se puede ver que el autor no está familiarizado con los estudios modernos de microorganismos. Pueden cambiarse tanto a sí mismos como a software. Es decir la vida 1, de hecho, puede hacer lo mismo que la vida 3. Los microorganismos pueden incluso mejor que los humanos capturar fragmentos de ADN. Lo hacen de varias maneras. Ya sea directamente, desde el medio ambiente (si encuentran el ADN de alguna célula destruida), o con la ayuda de bacteriófagos y plásmidos, o mediante reproducción sexual para formar la llamada Conjugación de la sierra sexual en bacterias - Wikipedia. También pueden cortar secciones irrelevantes con precisión de joyería. Por ejemplo, gracias a CRISPR. Por lo tanto, incluso Life 1.0 puede cambiar tanto el hardware como el software. Esto es para nosotros que tememos a los OGM y hemos olvidado que LUCA, hasta cierto punto vivo, parece innovador e inaudito. Hemos perdido esta habilidad, y para los primates "inteligentes", cambiar su duro se ha convertido en un tabú. Por lo tanto, no es nuevo, está bien olvidado viejo. No tiene sentido usar este parámetro en comparación. El grado de dificultad es una cosa, pero el cambio personal (en diferentes niveles de dificultad) es otra. Debes poder separar las moscas de las chuletas. La clasificación debe ser modificada significativamente.
Pero estas siguen siendo flores. Además, no tuve la oportunidad de marcar. A pesar de que el libro aborda cuestiones extremadamente importantes y globales de la manera correcta, el autor es muy erudito, pero aparentemente algo no fue suficiente para que él hiciera una interpolación competente y todavía llegara a hipótesis de trabajo razonables y Al menos conclusiones preliminares.
Por ejemplo, en una de las secciones, interpola el enfoque primitivo y deshonesto de las personas con respecto a la IA, temiendo y considerando la posibilidad de engaño, personas del lado de la IA. Sí, es posible si se trata solo de una IA fuerte, entonces se produce un engaño de este tipo. Sin embargo, si se va a superar la inteligencia artificial (SII), entonces es poco probable que se requiera tal engaño. Es solo que tal intelecto, sin mentiras ni trucos, podrá hacer que muchas personas tengan exactamente la oferta que no pueden rechazar. No tengo la oportunidad de pintar todo aquí, pero para entender por qué hay más probabilidades de que la IA no esté dispuesta a engañar, recomiendo resolver, por ejemplo, los libros de Matt Ridley. El origen del altruismo y la virtud, y para uno, la evolución de todo. Después de analizar estos trabajos, podemos concluir que cuanto mayor es el desarrollo, mayor es la tendencia al altruismo, la cooperación y el juego con una cantidad distinta de cero, en lugar de la competencia. Por lo tanto, cuanto más inteligente sea la inteligencia, más probable será que sea más humana, honesta. Es decir La inteligencia en sí misma es un poderoso recurso para comprender y utilizar a las personas no como competidores engañados, sino como aliados. Encuentre debilidades y fortalezas en las personas, compense las primeras y use las segundas. Si no hay necesidad de cooperación con las personas, entonces apenas hay necesidad de competencia, porque Hay muchos recursos gratuitos disponibles. Los océanos todavía están vacíos aquí. La masa de espacio vacío debajo de la Tierra, ya en silencio para otros planetas. Por lo tanto, una IA de alta tecnología ubicada en un medio más eficiente que el creado por la selección ciega de formas biológicas será el lugar donde vagar sin ninguna competencia con las personas. Simplemente ocupará la masa de esos nichos para los que la gente todavía, y tal vez nunca puedan reclamar. Y no engañará a nadie. Ya, no solo la IA, sino incluso las personas alfabetizadas comunes y corrientes practican un enfoque diferente. No engaño y secreto, sino máxima apertura, sinceridad y cooperación. Las personas con una mentalidad de ladrón osificado y arcaico no pueden entender cómo. Lo más probable es que el código AI simplemente no esté abierto. Al igual que muchos códigos de software libre. Y los piratas informáticos no serán castigados ni mordidos, sino alentados, porque informarán sobre las vulnerabilidades de este código. Lo mismo ocurre con el asesinato como castigo y las cárceles. Esto no será todo, esto es locura. Hay 2 formas para los marginales: primero debe estudiarlos en detalle y luego tenerlos en cuenta y escucharlos comprometer, porque puede ser una opinión extraordinariamente importante, o reeducar, tratar y no castigar.
En general, soy categórico contra todos estos miedos y estados de ánimo ludistas, la humanidad debe poner toda su fuerza en crear intelecto, porque de hecho, nuestra inteligencia natural tampoco es muy inteligente. Son solo muchos primates, no puedes nombrarlos de manera diferente, no lo notan. Volviendo a la interpolación, me gustaría resumir esta parte y continuar. Como vemos, por un lado, Tegmark, uno no debe dibujar analogías y pasar de una cabeza humana enferma a un complejo humano digital sano: astucia, engaño, etc., etc., y por otro lado, no puede decidir qué sección con una comprensión global del significado de la vida. Esto también es muy deprimente, y muestra que trabajó poco en el trabajo evolutivo. Si trabajara más, entonces no tendría un dilema sobre qué objetivos, o, incluso diría, filosofía y establecimiento de objetivos, vale la pena establecer AI. Porque Al analizar el mundo que nos rodea, podemos concluir que prácticamente todo lo que vive, y posiblemente no vive, lucha por la expansión. Muchas formas de vida desarrolladas de manera compleja se esfuerzan por un desarrollo aún mayor, la autoperfección, la expansión de su influencia y la interacción con otros, tanto objetos vivos como no vivos. Por lo tanto, lo más probable es que la IA llegue a tales conclusiones por sí misma o se establezcan dichos principios. Como resultado, continuará, como todos los seres vivos, para desarrollar, mejorar y conquistar nuevos territorios, transformando el mundo no solo para sí mismo, sino también para su entorno.
Estoy de acuerdo
Si pone los ojos en blanco cuando escucha hablar sobre ataques armados por parte de terminadores robóticos en todo el mundo, entonces su reacción es precisa: tal escenario no es del todo realista. Estos
Los robots de Hollywood no pueden ser más inteligentes que nosotros, y de hecho ser inteligentes. En mi opinión, el peligro que acecha en la historia de Terminator no es lo que podría suceder.
algo similar, pero que distrae nuestra atención de los verdaderos riesgos y peligros asociados con la inteligencia artificial. Transición del mundo actual a un mundo en el que
la inteligencia artificial universal realmente gana la cima, requiere tres pasos lógicos:
- Paso 1 Crear inteligencia artificial universal (AGI) a nivel humano.
- Paso 2 Use este AGI para crear supermente.
- Paso 3 Usa la supermente para dominar el mundo o dale la oportunidad de hacerlo tú mismo.
Busque en el texto una historia similar con los medios que escriben sobre la guerra de los robots, etc.
Mis sugerencias
No me cansaré de repetir, ahora todos deberían dedicar todo su poder a crear la mente, a saber, la razón, y no la belleza u otra estupidez, en mi opinión, salvarán al mundo. Y no separe esta mente (intelecto) estableciendo límites: artificiales, naturales. En esta etapa, la IA todavía está en su infancia, por lo que el papel de la inteligencia natural, respaldada por la tecnología, es muy grande. No hay una línea clara entre lo artificial y lo natural. Si queremos crear un intelecto normal, y no el primitivo que existe ahora, necesitamos usar todas las posibilidades, usar todas las tecnologías, porque trabajan en un tándem recursivo: la inteligencia natural crea artificial, y artificial, al menos en las etapas iniciales, estará interesado en modernizar y expandir las capacidades de lo natural.
¿Qué futuro para mí me gustaría ver?
Vale la pena mencionar de inmediato que este es el máximo, por el momento, mi pronóstico optimista. De hecho, es poco probable que en nuestra sociedad arcaica pueda vivir a la altura. Pero yo quiero creer. En parte, me gustaría que al final sea como en la película: "Preguntas del universo: ¿podemos vivir para siempre?" con Adam Savage de Discovery.
Posibles problemas
Las personas codiciosas desacreditarán a la IA. Comenzarán a usar a los débiles e incluso fuertes, pero no a la IA para sus propios fines egoístas. Aquí encontraremos un problema que, si mi memoria me sirve, está mal descrito en el libro.
Creo que, nos guste o no, enfrentaremos batallas severas, crueles pero intelectuales en el futuro, a nivel de códigos, memes, programas, creencias, etc. Lo más probable es que se dirijan principalmente a los medios digitales en realidad virtual, lo que será aún más trivial. No habrá víctimas y carne desgarrada con sangre. La guerra irá por nuestros puntos de vista, opiniones, juicios. Y cuanto antes comience esta guerra, mejor para todos. No necesita tener miedo, ya ha comenzado, y si no queremos seguir siendo extraños, tenemos que participar en ello. No recuerdo dónde leí que si estás desconectado, considera que no viviste. Suena salvaje, y los oscurantistas (amantes de los insectos, los bosques y la caca) discutirán conmigo. Pero si pisotean a los kakahi en el bosque y alimentan a los mosquitos. entonces no tienes que discutir con ellos. Tendremos que discutir con los hipócritas descarriados, quienes, usando la tecnología, los consideran malvados y no les gusta, POR QUÉ ALGO no rechazarán la TI que nos rodea en todas partes.
Enlaces y comunicacion
El autor en las páginas del libro ha sugerido repetidamente contactarlo en el sitio web
AgeOfAi.org . Tengo dos manos para tal conexión. Creo que eso beneficiaría tanto a lectores como a escritores. Pero por alguna razón, mi página de enlace no se abrió, sino que fue redirigida a
futureoflife.org/superintelligence-survey . Tal vez si me tomo el tiempo, intentaré darle un enlace a esta reseña al autor del libro, a pesar de que mi artículo está en ruso y el sitio está en inglés. Afortunadamente hay traductores electrónicos. También será necesario buscar, tal vez ya haya algunos pensamientos más sensibles allí. Mejor aún es ziminbookprojects.ru. Esta es probablemente una versión similar del sitio anterior, pero en ruso. Pero no estoy seguro. En cualquier caso, creo que los enlaces merecen atención, al igual que los temas tratados.
Aquí hay un par de citas que me gustaron:
Para los creyentes:
“Si resulta que todos obedecen las leyes de la física, entonces el alma, por lo tanto, no afecta las partículas de las que estás compuesto, lo que significa que tu conciencia, tu mente y su capacidad para controlar tus movimientos no tienen nada que ver con el alma. Si, por el contrario, resulta que las partículas de las que está compuesto no obedecen las conocidas leyes de la física, porque su alma las afecta, entonces esta nueva entidad debe ser física por definición, y luego podemos estudiarla mientras estudiamos los campos. y partículas en el pasado ".
Muy útil para quienes separan la ciencia de la religión. Considerando que la ciencia no debe interferir en la religión, sino la religión en la ciencia. Sin embargo, para los fanáticos de la religión ciega, esta es una frase vacía. Pero para los que dudan y pueden pensar lógicamente, el pensamiento es más que útil.
Para los científicos:
"El genoma de la bacteria Candidatus Carsonella ruddii, que almacena hasta 40 kilobytes de información, mientras que nuestro genoma humano almacena alrededor de 1,6 gigabytes"
Un hecho interesante Intento coleccionar tal. Quizás sea útil en el trabajo, o simplemente en discutir temas sobre bioinformática.
En general, el libro podría desarmarse casi por completo entre comillas y analizarse en detalle, pero lamentablemente, como siempre, no hay tiempo. Por cierto, el amigo que me recomendó este trabajo no entendió nada en esencia y en sentido, porque Escuché este libro no como un sintetizador de voz, sino como un audiolibro. Por lo tanto, parte de su atención se dirigió a la BELLEZA de la voz del locutor, y no al significado. Ya estoy en silencio sobre la imposibilidad de citar y mucho más que no está en audiolibros. Bueno, esto es así, un pequeño grito del alma, para los obstinados amantes de los audiolibros. Describí todo esto en detalle en mi libro Libro 3.0. Escucha!