"Cualquier tecnología suficientemente avanzada",
escribió el cardenal gris de la ciencia ficción Arthur Clark, "es indistinguible de la magia". Esta cita, que los fanáticos promotores de la tecnología citan incansablemente, quizás se haya convertido en la declaración más destructiva que Clark haya hecho, ya que fomenta nuestro asombro hipnótico ante la tecnología y desactiva el pensamiento crítico. Porque cuando se trata de "magia", por definición, será algo inexplicable. No tiene sentido hacer preguntas sobre esto; simplemente acéptelo como es, relájese y ahogue la desconfianza.
Ahora, sobre todo,
el pensamiento mágico atrae a sí mismo la inteligencia artificial (IA). Los entusiastas lo describen como si fuera el invento más importante desde la rueda. Los pesimistas lo ven como una amenaza existencial para la humanidad: la primera máquina "más inteligente" que creamos será el principio del fin de la humanidad; la única pregunta es si los autos nos mantendrán como mascotas.
En ambos casos, la relación inversa es visible entre la fortaleza de la creencia de las personas en las capacidades de la IA y su conocimiento sobre esta tecnología. Los expertos son cautelosos y optimistas, y los entusiastas partidarios desconocen que la IA ensalzada por ellos es en realidad una combinación bastante mundana de aprendizaje automático (MO) y big data.
El aprendizaje automático utiliza técnicas estadísticas para capacitar a las máquinas con la capacidad de "aprender", es decir, usar datos para mejorar continuamente el rendimiento de una tarea en particular sin la necesidad de programación previa. El sistema MI es un conjunto de algoritmos que toman un flujo de datos como entrada y proporcionan enlaces, correlaciones, recomendaciones y, probablemente, incluso soluciones. Esta tecnología ya se usa en todas partes: casi cualquiera de nuestras interacciones con Google, Amazon, Facebook, Netflix, Spotify, etc., ocurre a través de la mediación de los sistemas de MI. Llegó al punto de que uno de los destacados gurús de la IA,
Andrew Eun ,
compara el MO con la electricidad.
Para muchos directores de empresas, una máquina que puede aprender más sobre sus clientes que nunca, parece mágica. Imagine el momento en que Walmart descubrió que entre todas las cosas que los consumidores en los Estados Unidos almacenaban después de una
advertencia de huracán , además del conjunto habitual, había
tartas Pop de cerveza y fresas. E, inevitablemente, el entusiasmo de las corporaciones por la tecnología mágica pronto fue más allá de la adquisición de supermercados y se transfirió al gobierno. El Ministerio de Defensa penetró rápidamente las predicciones de congestión del tráfico, el
estado de derecho predictivo (el MO ayuda a marcar las áreas donde es "probable" que ocurran delitos), las decisiones sobre libertad condicional, etc. Entre las excusas para este crecimiento loco se encuentran una mayor eficiencia, un mejor control sobre el cumplimiento de la ley, una toma de decisiones más "objetiva" y, por supuesto, servicios públicos más receptivos.
Este cambio gradual de enfoque no pasó desapercibido. Los críticos señalan que el viejo aforismo informático "basura adentro, basura adentro" se aplica a la Región de Moscú. Si los datos en los que la máquina "aprende" están sesgados, entonces su salida
reflejará este sesgo . Esto puede ser generalizado; quizás hemos creado una tecnología que, aunque cumple con las recomendaciones de qué película ver para usted, puede
convertirse en un factor que mejore la desigualdad social, económica y cultural.
Con toda esta crítica sociopolítica de la Región de Moscú, nadie cuestionó la eficiencia tecnológica de la idea en sí misma, es decir, se creía que cualquier decisión incorrecta que produzca depende únicamente de las deficiencias en los datos de entrada. Pero ahora esta suposición tranquilizadora es bastante controvertida. En una reciente conferencia de NIPS (Sistema de procesamiento de información neuronal), la gran reunión anual de expertos en MO, Ali Rahimi, una de las estrellas reconocidas en el campo, arrojó una granada intelectual a la audiencia. En una conferencia notable, comparó el MO con la alquimia medieval. Ambos campos de conocimiento resultaron estar funcionando, hasta cierto punto: a los alquimistas se les ocurrió la metalurgia y la fabricación de vidrio; Los investigadores de MO han creado máquinas que pueden derrotar a las personas en Go e identificar objetos de la imagen. Pero al igual que la alquimia carecía de una base científica, también carece de MO, según Rahimi. Argumenta que los investigadores a menudo no pueden explicar los principios de funcionamiento de sus modelos matemáticos: no tienen una comprensión clara y detallada de sus herramientas, y en este sentido trabajan en el papel de alquimistas, no de científicos.
¿Importa? Definitivamente si. Como dice Rahimi: “Estamos creando sistemas que administran la atención médica y sirven como mediadores en los asuntos civiles. Influiremos en las elecciones. "Me gustaría vivir en una sociedad cuyos sistemas se basan en un conocimiento verificable, riguroso e integral, y no en la alquimia".
Yo tambien Basado en la electricidad, creamos lo que nos encanta llamar civilización. Pero al menos entendimos por qué y cómo funciona. Si Rahimi tiene razón, entonces, en el caso de la IA, aún no nos hemos acercado a esto. Así que dejemos de pensarlo mágicamente.