Dean Pomerleau todavía recuerda la primera vez que tuvo que lidiar con el problema de la caja negra. En 1991, hizo uno de los primeros intentos en el campo que ahora está siendo estudiado por todos los que intentan crear un automóvil robot: aprender a conducir una computadora.

Y esto significaba que tenía que conducir un Humvee (vehículo todoterreno del ejército) especialmente preparado y circular por las calles de la ciudad. Así es como Pomelo, entonces un ex estudiante graduado en robótica en la Universidad Carnegie Mellon, cuenta sobre esto. Una computadora programada para seguir a través de la cámara, interpretar lo que sucede en la carretera y recordar todos los movimientos del conductor. Pomelo esperaba que el automóvil eventualmente construyera suficientes asociaciones para una conducción independiente.

Para cada viaje, Pomelo entrenó el sistema durante varios minutos y luego lo dejó conducir por su cuenta. Todo parecía ir bien, hasta que Humvee, una vez que se acercó al puente, de repente se volvió hacia un lado. Un hombre logró evitar un accidente agarrando rápidamente el volante y devolviendo el control.

. « ' ' , »,- . ? «» – , , , . , , . , , . , : , .

25 , . . , -, « », , . (), « », , , .

. , de lo contrario no rastrillarás . Los detectores de ondas gravitacionales los usarán para comprender y eliminar el ruido pequeño. Los editores los usarán para filtrar y etiquetar millones de trabajos de investigación y libros. Algunos creen que eventualmente las computadoras con la ayuda de GO podrán demostrar imaginación y habilidades creativas. "Simplemente puede colocar datos en la máquina y le devolverá las leyes de la naturaleza", dice Jean-Roch Vlimant, físico del Instituto de Tecnología de California.

. ? , ? ? «, »,- [Hod Lipson] -. , , , . , , , – . , . « - ».

, , – , , . , [Vincenzo Innocente], , . « . : - -».

La primera red neuronal se creó a principios de la década de 1950, casi inmediatamente después del advenimiento de computadoras capaces de trabajar de acuerdo con los algoritmos necesarios. La idea es emular el funcionamiento de pequeños módulos contables (neuronas) dispuestos en capas y conectados a "sinapsis" digitales. Cada módulo en la capa inferior recibe datos externos, por ejemplo, píxeles de la imagen, luego difunde esta información a algunos de los módulos en la siguiente capa. Cada módulo en la segunda capa integra la entrada de la primera capa de acuerdo con una regla matemática simple, y pasa el resultado. Como resultado, la capa superior da una respuesta, por ejemplo, asigna la imagen original a "gatos" o "perros".


? « » (Deep Dream) , , , , – , .

, – , .

Deep Dream .

. , , , . , , , , .

1990- , . , .

, : , , , . « ? , , , »,- [Pierre Baldi], () . , . , [Jeff Clune] , « , , ».

, , , . [Andrea Vedaldi], : , , , . , , . « – , , ».

Pero si la máquina no puede explicar cómo lo determina, entonces, según Vedaldi, esto será un grave dilema para médicos y pacientes. No es fácil para una mujer someterse a una extracción preventiva del seno debido a la presencia de características genéticas que pueden provocar cáncer. Y hacer tal elección será aún más difícil, porque ni siquiera se sabrá cuál es este factor, incluso si las predicciones de la máquina resultan ser precisas.

"El problema es que el conocimiento está incrustado en la red, no en nosotros", dice Michael Tyka, un biofísico y programador de Google. “¿Entendimos algo? No, esta es la red entendida ".

2012 . [Geoffrey Hinton], , , , , 1,2 , .

, , , , . , , . , – , , , « ?».

Taika y sus colegas de Google utilizaron un enfoque similar el año pasado. Su algoritmo, que llamaron Deep Dream, comienza con una imagen de, digamos, una flor, y la modifica para mejorar la respuesta de una neurona particular de nivel superior. Si a una neurona le gusta marcar imágenes de, por ejemplo, pájaros, la imagen cambiada comenzará a mostrar pájaros en todas partes. Las imágenes resultantes se asemejan a visiones bajo LSD, donde las aves son visibles en caras, edificios y muchos más. "Creo que esto es muy parecido a una alucinación", dice Taika, quien también es artista. Cuando él y sus colegas vieron el potencial del algoritmo en el campo creativo, decidieron hacer que la descarga sea gratuita. En pocos días, este tema se volvió viral.

, , , 2014 , , . , . , , , - . , , .

Los investigadores han sugerido varias soluciones al problema de engañar a las redes, pero aún no se ha encontrado una solución general. En aplicaciones reales, esto puede ser peligroso. Uno de los escenarios aterradores, según Clun, es que los piratas informáticos aprenden a aprovechar estos defectos de la red. Pueden enviar el robot a una valla publicitaria que tomará para el camino, o engañar al escáner de retina en la entrada de la Casa Blanca. "Necesitamos ponernos manos a la obra y realizar una investigación científica profunda para que el MO sea más confiable e inteligente", concluye Klyun.

, . [Zoubin Ghahramani], , , , , « , ». 2009 [Michael Schmidt], . Eureqa – – .

+, -, , Eureqa , , , . . – , . « , Eureqa, . ».

, . Automatic Statistician, , . , , « » , . , , , – .

, [Ellie Dobson], Arundo Analytics . , , - - , « - ».

Pero, a pesar de todos estos temores, los científicos informáticos dicen que los intentos de crear una IA transparente deberían ser un complemento de la defensa civil, y no un reemplazo para esta tecnología. Algunas técnicas transparentes pueden funcionar bien en áreas ya descritas como un conjunto de datos abstractos, pero no pueden hacer frente a la percepción: el proceso de extracción de hechos de datos sin procesar.

, , , , , . , , , . « , »,- [Stéphane Mallat], - . « , , ,- . – 20 , ? ».

, . . « , , , ».