La inteligencia artificial fue creada para la toma de decisiones organizacionales y la administración pública; él necesita una ética humana, dice Johnny Penn de la Universidad de CambridgeLa inteligencia artificial (IA) está en todas partes, pero no está completamente inventada de una manera histórica. Para comprender el impacto de la IA en nuestras vidas, es importante evaluar el entorno en el que se creó. Al final, las estadísticas y el control estatal han evolucionado de la mano durante cientos de años.
Considera la informática. Su origen puede rastrearse no solo por la filosofía analítica, las matemáticas puras y Alan Turing, sino también, sorprendentemente, por la historia de la administración pública. En 2003, The Government Machine: A Revolutionary Computer History, John Agar, del University College London, desarrolla el desarrollo de la administración pública británica a medida que creció de 16,000 empleados en 1797 a 460,000 en 1999. Notó una similitud anormal entre la funcionalidad de la burocracia humana y la computadora electrónica. (Admitió que no podía decir si esta observación era trivial o profunda).
Ambos sistemas procesaron una gran cantidad de información utilizando una jerarquía de reglas predefinidas pero adaptables. Pero uno de ellos vino del otro. Esto mostró una conexión importante entre la organización de las estructuras sociales de las personas y las herramientas digitales diseñadas para servirles. El Sr. Agar conecta el origen mismo de la informática con el motor analítico Charles Babbage, desarrollado en Gran Bretaña en la década de 1820. Su desarrollo fue subsidiado por el gobierno, lo que sugiere que serviría como su patrocinador. Los proyectos de Babbage, señala el Sr. Agar, deben verse como "la materialización de la actividad estatal".
Esta relación entre los sistemas informáticos y las estructuras organizativas humanas repite la historia de la IA. En las décadas de 1930 y 1940, Herbert Simon (en la foto a continuación), un politólogo de la Universidad de Chicago que luego enseñó en la Universidad Carnegie Mellon, decidió desarrollar un enfoque "científico" sobre la base de la estructura gerencial. Simon había estudiado previamente bajo el liderazgo de Rudolf Karnap, miembro del Círculo de Positivistas Lógicos de Viena. Esto confirmó su creencia de que las teorías existentes carecen de empirismo. Su disertación doctoral en 1947 se convirtió en el libro "Comportamiento administrativo", que sirvió de base para entender todas las actividades de la organización utilizando la matriz de decisiones.
Simon diceHizo una gran contribución a muchos campos científicos, no solo en ciencias políticas y economía, sino también en informática e inteligencia artificial. Él acuñó el término "satisfacer" (para aceptar lo que se desea, en lugar de luchar por lo óptimo) y desarrolló la idea de "racionalidad limitada", por la cual recibió el Premio Nobel de Economía en 1978. Pero en la década de 1950, Simon era consultor en RAND Corporation, un influyente grupo de expertos respaldado por la Fuerza Aérea de los EE. UU.
En RAND, Simon y sus dos colegas: el joven matemático Allan Newell y el ex actuario de seguros J. Clifford Shaw, intentaron modelar una solución a los problemas humanos en términos de cómo una computadora realiza una operación específica. Para esto, Simon tomó prestados elementos del sistema que desarrolló en el Comportamiento Administrativo para enseñarle a la computadora a "pensar" como una persona, Simon lo hizo pensar como un grupo de personas.
El producto del trabajo de tres científicos fue una máquina virtual, llamada el Teórico lógico, llamado el primer prototipo funcional de inteligencia artificial. Las impresiones del teórico que trabaja durante el Proyecto de Investigación de Verano de 1956 en Dartmouth nos hicieron prestar atención a la inteligencia artificial, que dio el nombre y sentó las bases para todo el campo científico. En notas de una conferencia en Dartmouth, un participante escribió que el Teórico había ayudado a superar el miedo a financiar esta área de investigación. Esto era importante porque el fondo de financiación de inteligencia artificial era escéptico de que esta área de investigación fuera útil.
¿Cómo veía Simon sus logros científicos? Un año después de la conferencia de Dartmouth, él y Newell presentaron sus resultados en la publicación "Solución de problemas heurísticos: el próximo movimiento en la investigación de operaciones". La expresión clave en el título: "investigación de operaciones" apareció en el Reino Unido durante la Segunda Guerra Mundial para aplicar principios científicos y estadísticas para optimizar las operaciones militares, y luego con fines corporativos. La inteligencia artificial era para los negocios.
En un discurso de 1957 para profesionales de investigación en funcionamiento en Londres, Simon se dio cuenta de Frederick Taylor, el padre del movimiento de gestión científica, y Charles Babbage, sus predecesores mentales. "Los físicos e ingenieros eléctricos no tuvieron nada que ver con la invención de una computadora digital", dijo Simon. El verdadero inventor, en su opinión, fue el economista Adam Smith. Explicó esta relación: el ingeniero civil francés Gaspard de Prony tenía la intención de crear logaritmos utilizando métodos creados a partir de La riqueza de las naciones de Smith. Babbage, inspirado en Prony, aplicó esta conjetura al equipo mecánico. A mediados de la década de 1950, Simon lo convirtió en código de programa.
La tradición sigue viva. Muchos sistemas modernos de inteligencia artificial no imitan tanto el pensamiento humano como las mentes menos dotadas de las instituciones burocráticas; nuestros métodos de aprendizaje automático a menudo están programados para lograr proporciones, velocidad y precisión sobrehumanas a través de la identidad, la ambición o la moral a nivel humano.
Capitalismo en códigoEstas líneas de la historia de la inteligencia artificial: la toma de decisiones corporativas, el poder del estado y el uso de estadísticas en la guerra, no se conservaron en la comprensión de la inteligencia artificial que era accesible para la gente.
En cambio, las noticias de avances técnicos o expertos que expresan temores van acompañadas de imágenes, si no en forma de un Terminator bien armado, luego de la mente, robot, microchips de neón o ecuaciones matemáticas absurdas. Cada uno de ellos no es una confirmación tan fuerte de la autoridad de las ciencias naturales o la informática con respecto, por ejemplo, a las ciencias "blandas" que tomaron prestada la terminología de Simon, la ciencia política, la gestión o incluso la economía, es decir. áreas por las cuales fue a Estocolmo para recibir su Premio Nobel.
Tal vez como resultado de esta impresión errónea, el debate público continúa hasta el día de hoy sobre los beneficios, si los hay, que las ciencias sociales pueden aportar al estudio de la inteligencia artificial. Según Simon, la inteligencia artificial en sí nació en las ciencias sociales.
David Runciman, un politólogo de la Universidad de Cambridge, argumentó que para comprender la inteligencia artificial, primero debemos entender cómo funciona en el sistema capitalista en el que está incrustado. "Las corporaciones son otra forma de pensamiento artificial, están diseñadas para poder tomar decisiones por sí mismas", explica.
"Muchos de los temores que las personas ahora están experimentando sobre la próxima era de los robots inteligentes son los mismos que han tenido sobre las asociaciones corporativas durante varios cientos de años", dice el Sr. Runsiman. La preocupación es que "nunca podremos aprender a controlar estos sistemas".
Por ejemplo, después de un derrame de petróleo en 2010, cuando murieron 11 personas y el Golfo de México fue devastado, nadie fue a la cárcel. La amenaza sobre la que advierte el Sr. Runciman es que los métodos de inteligencia artificial, como las tácticas para evadir la responsabilidad pública, se utilizarán con impunidad.
Hoy, investigadores pioneros como Julia Angwin, Virginia Eubanks y Katie O'Neill muestran cómo varios sistemas algorítmicos refuerzan la violencia, destruyen la dignidad humana y socavan los mecanismos democráticos básicos, como la rendición de cuentas, si se crean de manera irresponsable. El daño no debe ser intencional; los conjuntos de datos sesgados utilizados para entrenar modelos predictivos también son perjudiciales. Considerando la costosa mano de obra necesaria para identificar y eliminar el daño causado, es necesario crear algo así como un "servicio ético" creado como una industria separada. La Sra. O'Neill, por ejemplo, ha lanzado su propio servicio de verificación de algoritmos.
En la década de 1950, acuñando el término "inteligencia artificial" para una conferencia en Dartmouth, John McCarthy, uno de los primeros pioneros en este campo, escribió en sus notas: "Tan pronto como un sistema epistemológico esté programado y funcione, nada más se tomará en serio, además de administrar programas inteligentes ". Por esta razón, el eslogan inicial de DeepMind “Conoce la mente. Úselo para saber todo lo demás ”, se ve casi imperial.
La sugerencia de McCarthy fue que la influencia, no el poder, podría resolver el consenso científico en su campo. DeepMind no necesita "conocer" el intelecto (siempre que esto sea posible) solo necesita derrotar a la competencia. Este nuevo eslogan de la empresa: “Conoce la mente. Úselo para saber todo lo demás ”, sugiere que también reconoce la necesidad de diplomacia en una era de poder total de Inteligencia Artificial.
Stephen Cave, director del Centro Levergulm para Investigaciones Futuras, reveló que la definición de inteligencia se ha utilizado a lo largo de la historia como herramienta para el dominio. Aristóteles recurrió a la "ley natural" de la jerarquía social para explicar por qué las mujeres, los esclavos y los animales deberían estar subordinados a las personas inteligentes. Dado este brutal legado, las políticas de las agencias corporativas y de informática deberían resolver problemas complejos formados por el género, la sexualidad y el colonialismo con respecto a otras cualidades personales.
La responsabilidad principal de la inteligencia artificial es que proporciona categorización automatizada a gran escala. Por ejemplo, el aprendizaje automático se puede utilizar para distinguir un lunar maligno de uno benigno. Este "deber" se convierte en una amenaza cuando se dirige a resolver los problemas de la vida cotidiana. Las etiquetas descuidadas pueden acosar y dañar cuando reclaman un poder falso. En protesta contra las etiquetas injustas que se utilizan para "conocer" el mundo, muchos jóvenes hoy desafían orgullosamente las categorizaciones indeseables, ya sea el género tradicional o los pares de género.
Máquinas que piensan de nuevoPuede ser sorprendente para muchos que las causas sociales, materiales y políticas del origen de la inteligencia artificial no se entiendan bien. De hecho, se ha escrito mucho sobre la historia de la inteligencia artificial: Simon en 1996 y Newell en 2000. Sin embargo, la mayoría de estas historias se adhieren a algunas limitaciones, viéndolas "principalmente en términos intelectuales", según Paul Edwards, un historiador de la tecnología de la información.
Cada una de las dos historias casi oficiales de inteligencia artificial es una historia de pensamientos: "Las máquinas que piensan" de Pamela McCordack, quien "creó la plantilla para la mayoría de las historias posteriores" después de la primera publicación en 1979; e Inteligencia Artificial: una historia emocionante de Daniel Crevier, publicado en 1993. Ambos libros se basaron principalmente en entrevistas detalladas con investigadores clave.
Quizás, como resultado, nadie trató de comprender la inteligencia artificial en un contexto más amplio, incluido el desarrollo de la investigación operativa, la "gran ciencia", las ciencias actuariales y la financiación militar estadounidense, tal como se ha desarrollado desde la Segunda Guerra Mundial. Tachada de estas historias, la IA puede estar separada de su contexto histórico y político.
Sin este contexto, la inteligencia artificial también puede parecer divorciada del sistema de ciencias que la creó. En una conversación de 1957 con profesionales en el campo de la investigación operativa, Simon notó la diversidad del pasado en su campo científico. Describió la contribución de los tejedores franceses y la mecánica de jacquard, así como de Smith, de Prony, Babbage y sus colegas en las ciencias blandas, como una "deuda" colectiva que queda por pagar.
Este nuevo conocimiento podría haber llegado tan inesperadamente, y de tantos lugares, que entusiasmó a Simon en su trabajo, y podría hacernos pensar de la misma manera hoy. La IA moderna no solo puede reflejar el dogma organizacional que caracterizó su nacimiento, sino que también refleja nuestra humanidad.