Sir Tim Berners-Lee, uno de los inventores del protocolo WWW y de hipertexto, profesor del Instituto de Tecnología de Massachusetts y la Universidad de Southampton, también es asesor del gobierno del Reino Unido. Por lo tanto, debe tener una visión sobria del mundo y evaluar lo que está sucediendo a su alrededor y a qué puede conducir.
Hablando de Inteligencia Artificial, muchos expertos piensan en la aparición de una IA fuerte y una singularidad tecnológica, pero si hablamos con sensatez, ¿de qué sirve una IA fuerte para las personas, por qué invertir miles de millones de dólares en su desarrollo? Los beneficios de tener una IA fuerte son nebulosos y los riesgos son demasiado grandes.
Es mucho más lógico suponer que al principio habrá versiones débiles de IA que serán mejores que las personas que realizarán tareas altamente especializadas. Debido a estas versiones de IA, las personas tratarán de obtener una ventaja competitiva sobre otras personas para el objetivo principal que impulsa a la humanidad, por el bien del dinero
* .
Algunas señales de un futuro inminente son visibles hoy. ¿Dónde van a trabajar los programadores más talentosos y los matemáticos brillantes? Correcto, en fondos de inversión. Allí crean modelos matemáticos innovadores, nuevas estrategias comerciales, derivados exóticos e ingeniosos de acuerdo con fórmulas extraordinarias, y buscan ese mismo
alfa , es decir, ganancias por encima del mercado. Quién tiene mayor inteligencia: recibe alfa. Los campesinos medios obtienen
beta y los perdedores pierden. El mercado financiero, libre de todo tipo de bienes tangibles, intrigas encubiertas, es una lucha de intelectos en su forma pura, de acuerdo con reglas claramente establecidas. La lucha por el dinero. Esta es la única área de actividad humana en el mundo donde un matemático brillante puede ganar constantemente cientos de miles de dólares al mes, especialmente si recibe un porcentaje del alfa que trajo a su fundación.
Un paso inteligente sería implementar sistemas de toma de decisiones basados en computadora, las versiones más avanzadas de IA, principalmente en el mundo financiero. Sobre esto fue mencionado por Sir Tim Berners Lee en su
discurso del 10 de abril de 2017 en la
Cumbre Global sobre Innovaciones Financieras .
Los sistemas de IA débil de IBM y otras compañías ya se están implementando en bancos y fondos de inversión. ¿Qué pasará después? Tim Berners-Lee cree que el punto de inflexión será cuando la IA comience a tomar decisiones importantes. Por ejemplo, evalúe los beneficios de las inversiones y decida qué compañía es más rentable adquirir. Evalúe el historial crediticio de las personas y decida a quién otorgar un préstamo hipotecario y a quién es imposible. Los sistemas informáticos modernos ya están cerca de dicha funcionalidad.
Tim Berners-Lee dice que el siguiente paso lógico en el desarrollo de la inteligencia artificial financiera después de decidir comprar las empresas más rentables será la gestión de las empresas, la creación de participaciones y la generación de copias subsidiarias de su propio programa para gestionar estas nuevas empresas.
Este será un proceso natural, porque en la competencia en el mercado, las compañías controladas por IA tendrán una ventaja sobre las compañías administradas por personas. Al final, solo las empresas controladas por IA que competirán entre sí permanecerán en el mercado. Será difícil para las personas comprender y asegurarse de que se observe una competencia leal: "Sí, y cómo explicar el concepto de honestidad a una computadora, en cualquier caso?", Pregunta Tim Berners-Lee. Aquí surge la cuestión de observar la ética y la moralidad: reglas de comportamiento que las personas mismas no entienden completamente (y no están de acuerdo), ¿cómo podemos explicar esto a una computadora?
Una vez más, existen riesgos de que una versión limitada de IA comience a desarrollarse en la dirección incorrecta. Creado inicialmente para una tarea estrecha, al final puede considerar que toda la realidad circundante se describe por las condiciones de esta tarea. Esta opinión de Berners-Lee recuerda las preocupaciones expresadas por Elon Musk en
una entrevista con Vanity Fair:
"Supongamos que ha creado una IA que mejora por sí misma para recoger fresas y está mejorando cada vez más en la recolección de fresas, y cada vez más, y mejorando, y todo lo que quiere hacer es recoger fresas. Entonces, al final, todo el mundo se convertirá en campos de fresas. Campos de fresas para siempre.
En general, hay algo en lo que pensar. Si el programa puede aprender por sí mismo, entonces una IA débil con una especialización estrecha puede ser aún más peligrosa que una IA fuerte de pleno derecho con autoconciencia normal. Quizás los principios morales son una cualidad inalienable de cualquier ser racional con inteligencia y autoconciencia.
* En la civilización occidental, la presencia de dinero legalmente ganado significa la presencia de poder, en otras sociedades estos no siempre son conceptos idénticos.
Como un pequeño anuncio: un usuario de
ZiingRR nos informó que a finales de mayo, la primera conferencia relativamente grande en Rusia sobre el tema de la seguridad de la IA (AI Safety, el idioma del habla es el inglés) se llevará a cabo en el HSE en la
sala de conferencias de TI . También está previsto celebrar una conferencia similar en
Arche .
ZiingRR promete que se publicará un video de ambas conferencias.