El primer caso cuando las personas acudieron a los tribunales por la pérdida de inversión, que resultó en el trabajo de máquinas autónomas, será una verificación de los límites de confiabilidad.
Todos los días, los robots se están volviendo más y más como humanos, pero aún no pueden demandarlos.
Por lo tanto, el magnate de Hong Kong eligió una opción diferente por falta de una mejor. Está demandando al vendedor, quien lo convenció de confiar parte de su capital a una supercomputadora, cuyo intercambio le costó más de $ 20 millones.
El caso se presentó contra Samatur Lee Kin-kan, cuyo padre es uno de los mayores inversores en Shaftesbury Plc, propietaria de la mayor parte de Chinatown, Covent Garden y Carnaby Street de Londres, contra Rafael Costa, quien pasó la mayor parte de su carrera vendiendo fondos de inversión a tales empresas. como Man Group Plc y GLG Partners Inc. Esta es la primera vez que las personas presentan una demanda por la pérdida de inversión causada por la operación de máquinas autónomas, lo que será una verificación de los límites de confiabilidad, y que sacará a la luz el problema de la "caja negra": si las personas no saben cómo la computadora toma decisiones, quién responde cuando ¿Algo saldrá mal?
"La gente piensa que los algoritmos funcionan más rápido que las personas y toman mejores decisiones", dijo Mark Lemley, profesor de derecho en la Universidad de Stanford que dirige el programa local de Derecho, Ciencia y Tecnología. "A menudo lo es, pero cuando resulta que está mal, o cuando los algoritmos se descarrían, los inversores están buscando un chivo expiatorio".
Rafael CostaLos plazos previos a la demanda se tomaron de documentos enviados al tribunal comercial de Londres, donde la audiencia debería comenzar en abril del próximo año. Y todo comenzó durante la cena en un restaurante en Dubai el 19 de marzo de 2017. Luego, Lee, de 45 años, se reunió con Costa, un italiano de 49 años, conocido en su medio como "Capitán Mago". Mientras comía, Costa describió un fondo de cobertura robótico, cuyos servicios para la administración de dinero completamente automática usando IA pronto comenzarán a ser ofrecidos por su compañía londinense Tyndaris Investments.
La supercomputadora K1, desarrollada por la compañía austriaca 42.cx, combinará fuentes de información en línea como artículos de noticias y redes sociales para evaluar el sentimiento de los inversores y hacer predicciones sobre el valor futuro de los futuros. Luego enviará instrucciones de gestión de existencias al corredor, y eventualmente ajustará la estrategia en función de la información recibida.
La idea de un administrador de dinero totalmente automático inspiró instantáneamente a Lee. Se reunió con Costa para cenar tres días después, y antes de eso le escribió en un correo electrónico que la Fundación AI era "exactamente lo que necesitaba".
En los meses siguientes, Costa compartió con Lee los resultados de las simulaciones en las que K1 logró retornos de dos dígitos sobre el dinero invertido, aunque ahora discuten sobre la exhaustividad de las pruebas históricas. Lee finalmente confió a K1 la administración de $ 2.5 mil millones, de los cuales $ 250 millones eran suyos, y el resto fue apalancamiento de Citigroup Inc. Se planeó duplicar esta cantidad.
Sin embargo, la locura K1 de Li pasó inmediatamente cuando la computadora comenzó a ofertar a fines de 2017. En febrero de 2018, estaba perdiendo dinero constantemente, incluido el caso cuando se perdieron $ 20 millones en un día, 14 de febrero, debido a la
detención de la pérdida ["alce" en la jerga de los comerciantes / aprox. trans.], que, según los abogados de Lee, no se habría aplicado si K1 fuera tan sofisticado como Costa afirmó.
Lee ahora ha presentado una demanda contra Tyndaris por un monto de $ 23 millones debido a una exageración de las capacidades de la supercomputadora. Los abogados de Tyndaris, que demandaron a Lee por $ 3 de multas impagas, niegan el hecho de que Costa exageraba K1. Argumentan que nunca garantizó que la estrategia de IA sería rentable.
Sarah Makatomaini, abogada de la firma de inversiones Lee demandando a Tyndaris, declinó hacer comentarios. Rob White, portavoz de Tyndaris, declinó asociar el consejo editorial con Costa para una entrevista.
Las batallas legales son un presagio de lo que puede suceder cuando la inteligencia artificial se incluye en todas las áreas de la vida, desde robomóviles hasta asistentes virtuales. Cuando la tecnología falla, la cuestión de a quién culpar por esto es discutible. En marzo, los fiscales estadounidenses absolvieron a Uber Technologies Inc., acusada de la muerte de un peatón de 49 años que murió bajo las ruedas de uno de sus robomóviles.
Beneficio en 2019 por cada inversión de $ 100 realizada en 2014; Las ganancias de S&P 500 se basan en dividendos reinvertidos.En el mundo de los fondos de cobertura, los intentos de usar IA se han convertido en una necesidad después de muchos años de trabajo insatisfactorio de los gerentes de personas. Los inversores cuantitativos, computadoras específicamente diseñadas para buscar y ejecutar operaciones, ya son populares. Los fondos de IA pura que aprenden automáticamente y mejoran la eficiencia en función de la experiencia que no tienen datos especialmente programados son menos comunes. Tan pronto como la IA desarrolla su propia comprensión de la situación, incluso sus creadores dejan de entender por qué toma ciertas decisiones.
"Puede encontrarse en una situación en la que no puede explicar por qué ocupa este puesto", dijo Anthony Todd, cofundador de Aspect Capital, una empresa con sede en Londres que experimenta con estrategias de inteligencia artificial antes de permitirles trabajar con las inversiones de los clientes. "Una de nuestras preocupaciones con el uso de técnicas de aprendizaje automático es la pérdida de hipótesis claras sobre el comportamiento del mercado".
Los abogados de Lee afirman que Costa ganó credibilidad al inflar las habilidades de los técnicos que escribieron el algoritmo K1 y dijeron, por ejemplo, que estaban desarrollando Deep Blue, una computadora de ajedrez de IBM que marcó el comienzo de la era de la IA cuando derrotó al campeón mundial en 1997- m
Garry Kasparov juega contra IBM Deep Blue en 1997En una conversación con Bloomberg, el fundador de 42.cx, Daniel Matts, dijo que ninguno de los expertos en informática que le aconsejaron tenía nada que ver con Deep Blue, pero uno de ellos,
Vladimir Lvovich Arlazarov , desarrolló el programa de ajedrez
Kaissa en la URSS en la década de 1960. "[Ella ganó el 1º Campeonato Mundial de Informática en Estocolmo en 1974 / aprox. transl.]. Reconoció que tal experiencia podría no estar particularmente relacionada con la inversión. Los algoritmos han aprendido bastante bien cómo vencer a las personas en los juegos, porque tienen reglas claras que se pueden simular, lo que no se puede decir sobre los mercados bursátiles. Alazarov le dijo a Bloomberg que le dio consejos generales a Matts, pero que no trabajó en K1.
Inspirado por un estudio realizado en 2015 por el Banco Central Europeo, que examinó el sentimiento de los inversores en Twitter, 42.cx creó un software de detección del estado de ánimo, dijo Matts, quien recientemente acordó pagar $ 17 millones a la Comisión de Valores de EE. UU. Para resolver una demanda por fraude inversores de su empresa de pagos móviles Jumio Inc., comprometidos a principios de la década de 2010. Tyndaris decidió cómo responder a estas señales, dijo.
"Fue un gran programa", nos dijo Matts por teléfono. "Las señales que dimos tenían claras justificaciones científicas". Creo que trabajamos bastante bien. Sé que puedo captar el estado de ánimo. No soy un comerciante ".
Los documentos judiciales contienen mucha controversia sobre si Lee engañó con respecto a las capacidades de K1. Por ejemplo, la máquina creó una sola aplicación en la mañana si recibía una señal clara sobre el estado de ánimo de los inversores, aunque Lee afirma haber considerado que se dedicaba a comerciar durante todo el día. Los abogados de Costa dicen que le dijo a Lee que comprar o vender futuros basados en varias señales comerciales era parte de los planes de la compañía, pero que no estaba planeado desde el principio.
Hubo períodos de varios días en los que K1 no se negoció en absoluto, porque no encontró tendencias suficientemente fuertes. En uno de los mensajes a Costa, se quejó de que K1 estaba descansando, mientras se saltaba con calma los eventos adversos, con la esperanza de no alcanzar la activación de la orden de stop loss (un nivel predeterminado, al llegar al cual el corredor vendería acciones para limitar las pérdidas en una caída repentina precios).
Esto sucedió el día de San San Valentín en 2018. Por la mañana, K1 hizo una solicitud con un corredor de Goldman Sachs Group Inc. Con $ 1.5 millones en futuros de S&P 500, prediciendo un aumento en el índice. Pero se fue en la dirección opuesta, cuando resultó que la inflación en los EE. UU. Creció más rápido de lo esperado, lo que llevó a la activación de K1 stop loss en un 1.4% y una pérdida de $ 20.5 millones por parte del fondo. Sin embargo, después de unas horas S&P recuperó su posición, y esto, según los abogados de Lee, muestra que el límite de stop loss para K1 se estableció en "grosero e incorrecto".
Lee afirma que estaba seguro de que K1 utilizará sus "oportunidades de aprendizaje profundo" a diario para determinar el margen correcto de stop loss en función de factores del mercado como la volatilidad. Kosta niega haber dicho tal cosa y afirma haberle dicho a Lee que la gente siempre designará este nivel.
En una entrevista, Matts dijo que K1 no planteaba la posibilidad de establecer un stop loss por sí solo: solo puede emitir dos tipos de señales de estado de ánimo: una generalizada que Tyndaris puede usar para ingresar a una posición, y una dinámica que se puede usar para salir o cambiar una posición. Aunque Tyndaris promocionó un fondo administrado por K1 a otros inversores, el portavoz se negó a responder la pregunta de si administraba fondos reales. Y todas las referencias a la supercomputadora desaparecieron de su sitio el mes pasado.
Los inversores, y en particular Marcus Storr, dicen que están preocupados por la entrada de fondos de IA en la bolsa de valores, especialmente teniendo en cuenta que los fondos que usan AI como su estrategia principal obtuvieron menos de la mitad de las ganancias del S&P 500 en tres años, según los índices. por Eurekahedge AI Hedge Fund.
"No podemos juzgar el código", dijo Storr, el tomador de decisiones de inversión en Bad Homburg, un fondo fiduciario alemán. "Por lo tanto, solo podemos juzgar las capacidades y la estructura de la investigación".
Pero, ¿qué sucede cuando las empresas usan chatbots para vender productos a los clientes? Tal vez ni siquiera sea posible demandar al vendedor, agregó Karishma Parokha, abogada londinense de Kennedys, especializada en responsabilidad por productos. "El malentendido se refiere a lo que una persona te dice", dijo. "¿Qué pasa cuando alguien te vende algo?"