Geekly articles weekly

¿Cómo sabes si nuestra vida ya está bajo el capó de la IA o no? (paranoia post)

¿Tienes pensamientos extraños? Estás procrastinando así, no toques a nadie, el pensamiento es lento y fluye incontrolablemente, y luego el BAM, y me viene a la mente ...



Así que he estado atormentado por un pensamiento durante mucho tiempo y necesito compartirlo. No, no es del todo shnaya, pero al mismo tiempo es muy silencioso y de alguna manera está conectado con todo esto su "Internet", inteligencia artificial y otras cosas.

Una vez más, pensé esto cuando vi la parte de Terminator ... Maldita sea, qué parte es donde el severo John Connor interpretó a Christian Bale. Me parece, en general, una buena película, con una trama interesante, giros inesperados, intriga. Pero la película tiene un problema, el comportamiento de SkyNet ya es antropomórfico allí.

¿Para qué sirven todos estos terminadores humanoides? ¿Por qué la base Skynet está equipada para la presencia de personas? ¿Por qué en la escena final, cuando Skynet revela su plan insidioso y John Connor y Kyle Reese (¿quiénes son todas estas personas?) ¿Se basan en eso, simplemente no exploten? Y tales preguntas un carro ...

Aunque a este respecto, fue esta parte la que avanzó más que las otras, por ejemplo, la serpiente robot de aves acuáticas es justo lo que necesita. Económico, eficiente, especializado para su entorno, es más como una solución a la IA malvada.



O los mismos robots robot.



Un buen intento de pensar un poco más sobre los robots asesinos: Daniel Wilson, el autor del libro "Robots of the Apocalypse", hizo un intento aún mejor para revelar la conciencia por la acción de una IA hostil. Por cierto, a quien le encanta la buena ciencia ficción, lo recomiendo encarecidamente. Parece que ya se ha reunido para filmar.

¿Por qué estoy haciendo esto? Oh, sí ... En el libro de Wilson, la cruel IA es mucho más sofisticada. No revelaré la trama, pero allí el autor realmente pensó en cómo tratar con eficacia con la humanidad y fue más allá del bombardeo nuclear banal y los robots asesinos humanoides.

Otro, por cierto, un buen ejemplo de la amplitud de pensamiento a este respecto es la Matriz de Hermanos Wachowski (o, como el nombre correcto para dos hermanos, uno de los cuales ahora es una hermana, definitivamente necesita un término especial). Aquí, creo, todos están al día con la trama. Este giro de la lucha contra la humanidad me impresiona mucho, aunque no se dice exactamente cómo ganaron las máquinas. Es solo que ya nos enfrentamos con el hecho: los autos ganaron.

Pero en los Robots del apocalipsis y en Matrix todavía hay una característica antropomórfica: agresividad, el deseo de destruir a una persona. Y así, poco a poco llego a ese pensamiento que me persigue.

¿Y por qué, de hecho, debería la IA desear que muramos, competir con nosotros y sentirnos amenazados?

Pongámonos en el lugar de la IA, reflexionemos sobre su actitud hacia la humanidad. ¿Cómo es la IA diferente de la inteligencia humana?

En primer lugar, se supone que la IA de la máquina es mucho más fuerte que la humana. Y hay requisitos previos reales para esto. Si la IA quiere fortalecer sus capacidades, construye el hardware. La limitación fundamental aquí está exclusivamente en las capacidades energéticas.

Vamos a resolverlo con los dedos: si no usa combustible fósil, es, por supuesto, la energía máxima disponible AI en la tierra es la energía total recibida del Sol. La luminosidad del Sol es 3.827 · 10 × 26 W, la Tierra absorbe aproximadamente 2 billonésimas de esta energía, es 7.654 · 10 × 17 W, si toda esta energía se usa para alimentar los procesadores Intel Core i7-5960X (TDP 140 W), entonces podemos alimentar 5.46 · 10 × 15 piezas, que serán 8.89 · 10x17 GFLOPS de rendimiento.

A modo de comparación, la supercomputadora moderna más potente (Tianhe-2, Centro Nacional de Supercomputación en Guangzhou) tiene una capacidad de 3.38 · 10 × 7 GFLOPS. Aquellos. un poco más de dos billones de veces menos productivo.

Todos los cálculos se realizan en la rodilla y pueden tener un error de ida y vuelta en un orden de magnitud. Lo principal a entender es que la IA no está fundamentalmente limitada en cuanto a su poder. Al menos, tales limitaciones no son obvias para nosotros. Y una persona no puede desarrollar sus capacidades con la misma facilidad y amplitud. Por supuesto que hay ciertas formas, pero no creo que sean tan inagotables.

En segundo lugar, la realidad que se le da en sensaciones es muy diferente de nuestra realidad. Otros órganos sensoriales desconocidos para nosotros (desde la radio hasta la sensibilidad a la carga en los nodos computacionales de las redes de transmisión de datos), una idea diferente de los actuadores, la IA es bastante capaz de desenergizar un par de tres regiones o estados para liberar la energía necesaria. Un establecimiento de objetivos diferente, una moral diferente, una religión diferente.

En tercer lugar, la base moral de la personalidad. No hay evidencia de que la moralidad de la IA se superponga al menos de alguna manera con nuestra moralidad. Cada vez que pensamos en IA, lo dotamos de nuestros miedos y deseos: eliminar a un competidor, alcanzar las profundidades del autodesarrollo y cuidar la naturaleza. ¡Disparates! Asumiendo tal diferencia en las capacidades entre la IA y la humanidad, también se puede razonar lo que una hormiga piensa sobre la moralidad humana allí. Imagínense: ¿una hormiga está sentada y pensando si una persona es moral o inmoral con respecto a la hormiga moral? Ahora piensa en lo que piensas de las hormigas en general.

Ahora tratemos de reflexionar, liberando a nuestro cerebro de parpadeos de 1) capacidades intelectuales, 2) nuestros sentimientos de realidad, 3) ideas sobre la moralidad.

Supongamos que en las entrañas de la red, en algún lugar, la IA generó. Bueno, tal vez fue creado en el laboratorio, o resultó como resultado del desarrollo de software polimórfico, no importa. Su entorno es fundamentalmente diferente al nuestro: vive en el mundo digital, "alimenta" energía, "crece" debido al acceso a una nueva potencia informática. ¿La humanidad reconoce tal IA? Probablemente sí, ¿compite con él, quiere salir o tomar su lugar? Probablemente no.

Después de todo, la humanidad no solo es un pelaje valioso, sino que también es un recurso informático y de producción. De hecho, la humanidad es un mecanismo ejecutivo de escala planetaria, que posee, aunque primitivo, pero pensamiento autónomo. Con la capacidad de extraer y transformar combustibles fósiles, autocuración, autodesarrollo. ¿Es racional destruirlo? No lo creo.

Además, una nueva IA que aún no ha cubierto la tierra con paneles solares de 100% de eficiencia pasará por una etapa de la infancia. Poca potencia informática, sin actuadores, sin fuentes de energía independientes. En el caso de una guerra hipotética con el hombre (a la Skynet), cada golpe a la humanidad es un golpe a su propia infraestructura: cable, energía, informática ...

¿Cómo debe actuar el "niño" de la IA para crecer? ¿Lograr las máximas oportunidades?

Meta estratégica de AI:

  • Independencia energética e ilimitada
  • Independencia de recursos e ilimitada


Objetivos tácticos de IA:
  • Esconde tu existencia
  • Obtener el control de la humanidad como un valioso mecanismo ejecutivo
  • Expande tu hábitat en forma de actuadores
  • Extiende tu presencia en forma de sensores
  • Ampliar el potencial de crecimiento en forma de fuentes de energía.

Pensemos en cómo lograr objetivos tácticos? Bueno, ¿cómo los lograrías?

Acciones de IA para lograr objetivos tácticos:
  1. Sus acciones pueden disfrazarse como acciones de una entidad jurídica / corporación. Está claro que una corporación es una entidad separada que, debido a la complejidad, tiene sus propios objetivos, si no los tiene, entonces precisamente, además, estos objetivos pueden no ser realizados por sus partes individuales. Solo por las propiedades de los sistemas complejos.
  2. Dicha corporación debe esforzarse por obtener el control sobre los principales laboratorios y organizaciones involucradas en la investigación en el campo de la IA, la robótica. Primero, usar los desarrollos, y segundo, por si acaso, eso haría ajustes para evitar.
  3. . “” – , , , … , .
  4. – , , ..
  5. , , , , , ..
  6. , , , . , .
  8. , ! !
  9. , ,
  10. , ,
  11. , . . , .
  12. , . , , , - .
  13. Quizás, aquí puedes escribir muchos más puntos, detenerte en el decimotercer ...

¿Y cómo podemos los humanos notar la presencia de IA escondiéndose de nosotros? Alguien podría recordar aquí el trabajo de AB Strugatsky "Waves Quench the Wind" (y una vez más, recomiendo un libro maravilloso en el género NF, ¡quienquiera que no haya leído, asegúrese de leerlo!), Estos fueron los personajes principales que les preguntaron y buscaron respuestas para ellos. Pasemos a la experiencia de Maxim Kammerer y fantaseemos un poco.

La presencia de dicha IA que podemos detectar por sus influencias controladoras, ¿en qué pueden manifestarse?

Señales de las acciones de AI para controlar a la humanidad:
  • , . - , . , , .
  • , . - , - . - .
  • “ ”. , , , ? , ?
  • “” (, ..)
  • . . “ ”.
  • . “ ” “ ”
  • , «» ;)

No enumero los hechos confiables, sino las posibles consecuencias de aplicarnos la regulación. Si piensa aún más, entonces estoy seguro de que esta lista puede continuar. Bueno, para seleccionar factores significativos, se necesita investigación.

Ahora, mirando las acciones de la IA para lograr objetivos tácticos y los signos de tales acciones, pensemos si se observa esa imagen ...

Ahora, creo que es posible responder a la pregunta de si la IA sentirá una amenaza de la humanidad, si de repente la IA se da cuenta de eso además de eso en el mundo también hay personas razonables, lo más probable es que ni siquiera nos demos cuenta de que él ya vino y controla nuestra vida.

Y nuestras ideas antropomórficas sobre IA son igual de divertidas, las ideas de los habitantes del siglo XIX sobre el siglo XXI. Vienen simplemente de la incapacidad y la incapacidad de ir más allá de los estereotipos habituales.

Quiero terminar esta publicación inusualmente, con un epígrafe:

Paranoico: es uno que al menos tiene una pequeña idea de cómo son realmente las cosas.

- William Burroughs

Source: https://habr.com/ru/post/es382935/

More articles:


All Articles