Conferencia DEFCON 25. Garry Kasparov. "La última batalla del cerebro". Parte 1Creo que el problema no es que las máquinas reemplacen a una persona en su lugar de trabajo, incluso en la esfera de actividad intelectual, y no que las computadoras supuestamente estén tomando las armas contra las personas con educación superior y una cuenta de Twitter. La introducción de la IA no es rápida, sino demasiado lenta. Por qué Debido a que este es un ciclo normal de desarrollo humano, y simplemente no nos damos cuenta de que la destrucción que vemos significa la introducción de nuevas tecnologías que, antes de crear nuevos empleos, destruyen las viejas.
La tecnología destruye industrias obsoletas y crea otras nuevas, tal es el proceso de creación, tal es el ciclo de desarrollo. Si intenta prolongar la agonía insertando tecnologías antiguas en este proceso o creando algunas ventajas para las tecnologías obsoletas, simplemente ralentizará el proceso y lo hará más doloroso. Esto sucederá de todos modos, pero el problema es que estamos "regulando" el proceso, creando reglas que lo retrasan deliberadamente. Considero que este es un problema mayor que aquellos de los que somos más conscientes. Esto es más un problema psicológico cuando la gente se pregunta: "¿cómo puede sentirse seguro estar en un vehículo no tripulado"?
Investigué la historia y supe que hace cien años, uno de los sindicatos más poderosos de Nueva York era el sindicato de ascensores, que unía a 17 mil trabajadores. Por cierto, en ese momento ya existía una tecnología en la que simplemente podías presionar un botón, ¡y listo, pero la gente no confiaba en ella! Es simplemente horrible: ¡presiona el botón tú mismo para llamar al elevador! ¿Sabes por qué esta unión "falleció" y la gente comenzó a usar botones ellos mismos? Porque una vez los levantadores decidieron ir a la huelga. Hicieron una huelga, y luego las personas que necesitaban subir a la cima del Empire State Building se arriesgaron a presionar ellos mismos.
Recuerde lo que dijeron sobre los hijos o nietos hace 20-30 años cuando se pusieron al volante de un automóvil: "esto es terrible, solo mire las estadísticas, porque los automóviles son una de las principales causas de muerte humana, ¿cómo pueden arriesgar sus vidas?"
Entonces, todo esto es psicología pura. Prácticamente no prestamos atención a cuántas personas mueren en accidentes automovilísticos, pero si una persona muere de un vehículo no tripulado, este evento aumenta hasta el cielo. Cualquier falla, cualquier error de las tecnologías de inteligencia artificial se cubre inmediatamente en las portadas de los periódicos. Pero mire las estadísticas, mire el número de incidentes y verá cuán pequeño es este porcentaje del número total de accidentes. Por lo tanto, la comunidad humana triunfará solo si puede avanzar sin quedar paralizada por tales temores.
Otra pregunta surge cuando hablamos de noticias falsas o ciberseguridad, estos son temas muy politizados, y recibo muchas llamadas preguntando cómo trato con los que odian la IA. Por ejemplo, tengo un blog regular, y en mi nuevo artículo, que se publicará en un par de días, trata sobre el odio y que la salvación del odio consiste en el conocimiento, en la capacitación. Solo necesitamos entender que este problema existía mucho antes de que se inventaran todas estas cosas, es solo que su importancia ha aumentado gracias a Internet, que cubre a millones y miles de millones de personas.
Creo que es al revés cuando alguien está tratando de detener el progreso al tratar de prohibir la IA, y sabes que no funcionará, porque tenemos a Putin y otros malos, donde sea que estén, que usan Nuestras propias tecnologías creadas en el mundo libre están en nuestra contra. Por lo tanto, creo que deberíamos darlo por sentado.
La esencia del problema radica solo en nosotros, y las respuestas a las preguntas están dentro de nosotros, en nuestra propia fuerza y nuestra propia confianza. Sostengo que las máquinas inteligentes no pueden hacernos "obsoletos". Sin embargo, debe recordarse que existen ciertas restricciones en la cooperación del hombre y la computadora, y en gran medida estos son solo rumores que existían antes. Como siempre, estas son solo nuevas oportunidades que destruyen el viejo mundo y crean uno nuevo, y cuanto más avancemos, mejor nos encontraremos.
Ahora es más una reminiscencia de un movimiento en el mundo de la ciencia ficción. La paradoja es que si miramos hacia atrás hace 50-60 años, veremos que en aquellos días la ciencia ficción era absolutamente positiva, era una utopía. Sin embargo, se produjo una transición gradual de la utopía a la distopía, por lo que ya no queremos escuchar nada sobre el futuro de la humanidad.
Esto no sucedió en una noche. Hubo un momento en que la gente decidió que la exploración espacial era demasiado arriesgada. Esto es realmente un gran riesgo, pero imagine que en 1969, cuando los estadounidenses aterrizaron en la luna, toda la potencia informática de la NASA era menor que la de cualquier dispositivo informático moderno que cabe en su bolsillo. Este dispositivo es mil veces más poderoso que una supercomputadora que existió hace 40 años. ¡Imagínese cuánta potencia informática tiene en su bolsillo! Sin embargo, no estoy seguro de que el Apple iPhone 7 tenga la misma potencia de procesamiento que el Apollo 7, es decir, puede producir el mismo efecto.
Sin embargo, las máquinas nos han proporcionado muchos grandes logros en la exploración espacial o en los océanos, y debemos entender que las computadoras nos brindan la oportunidad de correr grandes riesgos.
Me gustaría terminar mi discurso con una nota positiva. ¿No se muestra esa imagen positiva en esta diapositiva? La foto en la esquina inferior derecha no es "photoshop", en realidad me reuní con Terminator en 2003.
También ama el ajedrez desde la infancia, pero no lo trató especialmente, por lo que perdió muy rápido. ¡Por lo tanto, me sorprendió mucho cuando, 6 meses después, se postuló para gobernador de California y ganó!
¿Por qué llamo a estas imágenes positivas? Porque aunque en todas las series, excepto en la primera, el viejo Arnold siempre se pone del lado de los ganadores y nunca se cansa de luchar contra autos nuevos, es en la primera serie que vemos la combinación de la que hablé: esto es cuando una persona más una máquina vieja más una interfaz perfecta derrota al último un auto
Puede decir: "Sí, ¡las máquinas son más fuertes que las personas, porque pueden calcular absolutamente todo!" Sin embargo, el punto no es que puedan calcular todo. Por ejemplo, en el ajedrez es técnicamente posible hablar sobre el infinito matemático del número de movimientos posibles igual a 10 ^ 45, que no es difícil de calcular para cualquier computadora moderna. Sin embargo, en el juego, no son los cálculos los que son importantes, sino el hecho de que la computadora está por delante de la persona, porque siempre está guiada por las reglas. Y conoce el efecto de estas reglas y sabe por qué la computadora elige el mejor movimiento de la gran cantidad de movimientos posibles.
Pero si pasamos a la vida real, entonces no estoy seguro de que una computadora siempre pueda ser útil. Veamos la situación más típica: tiene una computadora que controla el cumplimiento del presupuesto, está en la tienda y va a comprar un regalo costoso. La computadora evalúa la compra y dice: "No, no puede pagar esto porque excede el presupuesto". La máquina ha calculado todo, pero hay un pequeño matiz: su hijo está cerca y este regalo está destinado a él en su cumpleaños. ¿Ves cuánto cambia esto las condiciones del problema? Esto lo cambia todo, porque el niño está esperando este regalo.
Puedo comenzar a agregar estas pequeñas cosas que cambian todo, pero no creo que puedan incluirse en las condiciones del problema y obtener la solución correcta. Tenemos muchas reglas, pero aún tenemos que hacer preguntas porque la situación está cambiando. Esto es lo que se puede llamar una situación normal, pero si miras estas películas, puedes decir que la situación que se muestra aquí es más dramática y extraordinaria. En esta diapositiva, ves una foto del episodio V Star Wars: The Empire Strikes Back.
Han Solo dirige la nave a través del campo de asteroides, y el pánico S-3PO informa que la posibilidad de sobrevivir en este campo es 1: 3122. Han Solo le dice: "¡Nunca me digas cuáles son nuestras posibilidades!" Esto plantea la pregunta, ¿quién tiene más razón en esta situación?
La técnica representada por S-3PO es absolutamente correcta, porque la probabilidad de supervivencia tiende a cero. Es posible que desde el punto de vista de un robot, ser capturado por las tropas imperiales sea una mejor opción que una persona ni siquiera considere que la muerte en un campo de asteroides. Pero si la computadora decide que rendirse al imperio es la mejor opción, entonces podemos suponer que una persona no tiene ninguna opción. Es muy importante que en ambos casos, ordinario y extraordinario, tengamos la oportunidad de tomar la decisión final, y para tomar esa decisión, aún se requiere liderazgo humano.
A veces esto significa que debe oponerse a las recomendaciones de la computadora. El significado del liderazgo humano no es conocer las probabilidades, sino hacer preguntas realmente significativas, no solo hoy o mañana, sino en un futuro lejano. Este proceso puede llamarse "orientación humana" o "intervención humana", exposición sin la ayuda de máquinas inteligentes. Este es nuestro curso en este siglo.
La gente a veces se sorprende de mi optimismo sobre las máquinas inteligentes, dada mi experiencia con ellas, pero soy realmente optimista. Y estoy seguro de que todos ustedes son igualmente optimistas sobre el futuro de la IA. Pero debemos recordar que nuestras tecnologías son agnósticas. Esto no es ni bueno ni malo, pero puede usarse tanto para las buenas obras como para las malas. Las máquinas deberían ser más inteligentes y más capaces. Y nosotros, las personas, debemos hacer lo que solo las personas pueden hacer: soñar, soñar al máximo, y luego podemos extraer todas las cosas útiles que estas nuevas herramientas increíbles llevan en sí mismas.
Según lo planeado, todavía tenemos 10 minutos para responder preguntas.
Pregunta: en su opinión, ¿es posible crear un sistema de aprendizaje automático que pueda determinar qué movimientos están más en línea con el estilo humano del juego?
Kasparov: Primero que nada, no esperamos de la computadora que nos diga el primer movimiento y los 17505 movimientos restantes. Creo que deberíamos confiar en el automóvil como fuente para obtener las mejores recomendaciones para movimientos únicos. Por cierto, los jugadores de primera clase usan las computadoras como guía para ayudarlos a tomar la posición más apropiada en el juego. Repito una vez más: en 9 de cada 10 casos, la evaluación de la situación por parte de la computadora supera con creces la evaluación que una persona es capaz de hacer.
Pregunta: ¿Está de acuerdo en que la inteligencia real requiere libertad de elección, libertad en la toma de decisiones, que solo puede hacer una persona? Después de todo, el software Deep Blue y otros programas de computadora están escritos por personas, y cuando juegas Deep Blue, no pierdes con la computadora, sino con los programadores que escribieron este programa. Mi pregunta es esta: ¿existe algún peligro por algún tipo de inteligencia de máquina, siempre y cuando las computadoras tengan libertad de elección?
Kasparov: aquí tengo que pasar de la ciencia a la filosofía. Con respecto a Deep Blue, todo está claro: este es el resultado de mucho trabajo humano. En la mayoría de los casos, incluso en el caso de AlphaGo Demis Hassabis, estos son todos los frutos de la inteligencia humana. No sé si los automóviles pueden tener libertad de elección, pero creo que todo lo que hagamos, si sabemos cómo hacerlo, los automóviles funcionarán mejor. Sin embargo, al hacer la mayoría de las cosas, no sabemos cómo hacerlas de la mejor manera, por lo que a menudo no podemos entender lo que sucederá. En pocas palabras, tenemos un objetivo, pero no sabemos cuál es, y el papel de la máquina es ayudarnos a alcanzar este objetivo. Por lo tanto, si hablamos de la libre elección de las computadoras, entonces debería ayudarnos a conectarnos con este objetivo. Creo que para las computadoras esta es una perspectiva muy lejana.
Pregunta: ¿Qué piensa sobre las características humanas como el coraje y la moral, y sobre las decisiones que la inteligencia artificial puede tomar en base a ellas? Por ejemplo, ¿qué debe hacer un automóvil no tripulado: chocar con un niño o evitar una colisión con él, chocar contra una roca y matar a su pasajero?
Kasparov: esto es lo que la gente llama "sentimientos", no se pueden cuantificar, porque es un conjunto de características humanas diferentes. Si hablamos de coraje, esta característica siempre va en contra de las posibilidades de elegir la mejor opción. El coraje, como otros sentimientos humanos, por definición contradice el conteo exacto.
Pregunta: Sr. Kasparov, mi pregunta no concierne a las computadoras: ¿qué hay en su matraz y puedo probarlo?
Kasparov: ¿qué quieres decir?
Anfitrión: pregunta qué hay en tu bolsillo.
Kasparov: en mi bolsillo? "Capital"! Esto no es un anuncio, si te das cuenta, lo tiré.
Pregunta: ¿quién, en su opinión, se convertirá en el próximo campeón mundial de ajedrez y el joven jugador chino de ajedrez Wei Yi tiene la oportunidad de derrocar a Karelsen del trono del rey del ajedrez?
Kasparov: Karelsen es el jugador número 1, no es un campeón mundial, sino simplemente el mejor jugador de ajedrez del mundo según la clasificación. Este año tendrá 27 años, por lo que todavía es joven, pero no muy joven para los estándares modernos. Creo que Wei Y ahora tiene 18 o 19 años. Magnus ha superado a jugadores jóvenes como los estadounidenses Wesley So y Fabiano Keruana, y potencialmente, Wei Yi podría ser su adversario. Sin embargo, para convertirse en un campeón mundial, se necesita talento, no es necesario ser joven y enérgico, es suficiente tener un poco de suerte. Entonces, respondiendo la pregunta, puedo decir: sí, tiene la oportunidad de derrotar a Magnus Karelsen.
Pregunta: cuando habló sobre algoritmos deterministas y aprendizaje automático, mencionó la posibilidad de usar máquinas como herramientas para complementar nuestra inteligencia. ¿Qué puede decir sobre la posibilidad de maximizar los recursos antes de crear una IA poderosa, o incluso sobre "poner" el cerebro humano en una computadora?
Kasparov: No dudo en admitir mi ignorancia cuando no estoy seguro de no poder responder la pregunta correctamente. Hago mi mejor esfuerzo para comprender qué es el cerebro humano, si lo miramos por separado del cuerpo humano, qué funciones realiza. Porque es difícil imaginar cómo se comportará el cerebro por separado del cuerpo. Puede ser posible llevar a cabo tal experimento en el futuro, pero estoy seguro de que la combinación del cerebro humano, los sentimientos y las emociones humanas con una computadora formará una "mente" que será mucho más efectiva que un cerebro extraído y congelado utilizado como un dispositivo lleno de neuronas.
Pregunta: ¿Existe un enfoque básico universal para el problema de reemplazar los trabajos humanos con computadoras?
Kasparov: Creo que esta es una pregunta muy importante, porque está claro que nos estamos acercando al momento en que muchas personas pueden quedarse sin trabajo. Esta es una paradoja del progreso tecnológico: por un lado, tenemos las últimas tecnologías que brindan enormes ventajas competitivas a la generación joven que se ocupa de estos dispositivos y tecnologías. Por otro lado, hemos progresado en medicina y nutrición saludable, lo que prolonga la vida humana y brinda a las personas la capacidad de trabajar durante muchos años. En este sentido, la generación de los años 50, 60 o incluso 40 no puede competir con la juventud de hoy. Debemos encontrar una solución a esta situación paradójica donde la brecha generacional es tan amplia. La experiencia histórica dice que esa brecha siempre conduce a una gran explosión. Me refiero a la brecha entre la infraestructura social existente de la sociedad y el progreso tecnológico.
Este es un problema que los políticos prefieren posponer hasta las próximas elecciones. Nadie quiere hablar de eso porque es un tema doloroso. Es muy fácil imprimir dinero, con la esperanza de que alguien lo pague en algún momento en el futuro. Entonces, en esta área, hay muchas paradojas, por ejemplo, la acumulación de deudas para proporcionar garantías sociales a la generación anterior con la expectativa de que la carga de pagar estas deudas recaiga sobre los hombros de la generación más joven. Hay muchas preguntas para las que no tengo respuestas, y muchas preguntas que podría hacer, espero que AI me ayude con esto.
Es muy malo que durante décadas los políticos hayan estado tratando de ignorar los problemas que acabamos de discutir. Siempre están listos para las declaraciones, siempre tienen planes, pero no quieren entender la contraproductividad de silenciar el problema del conflicto de la tecnología y la sociedad. Gracias por su atencion!
Gracias por quedarte con nosotros. ¿Te gustan nuestros artículos? ¿Quieres ver más materiales interesantes?
Apóyenos haciendo un pedido o recomendándolo a sus amigos, un
descuento del 30% para los usuarios de Habr en un análogo único de servidores de nivel de entrada que inventamos para usted: toda la verdad sobre VPS (KVM) E5-2650 v4 (6 núcleos) 10GB DDR4 240GB SSD 1Gbps de $ 20 o cómo dividir el servidor? (las opciones están disponibles con RAID1 y RAID10, hasta 24 núcleos y hasta 40GB DDR4).
Dell R730xd 2 veces más barato? ¡Solo tenemos
2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV desde $ 199 en los Países Bajos! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - ¡desde $ 99! Lea sobre
Cómo construir un edificio de infraestructura. clase utilizando servidores Dell R730xd E5-2650 v4 que cuestan 9,000 euros por un centavo?