O primeiro caso em que as pessoas foram a tribunal sobre a perda de investimento que levou ao trabalho de máquinas autônomas seria uma verificação dos limites de confiabilidade
Todos os dias, os robôs estão se tornando cada vez mais parecidos com os humanos, mas ainda não podem processá-los.
Portanto, o magnata de Hong Kong escolheu uma opção diferente por falta de uma melhor. Ele está processando o vendedor, que o convenceu a confiar parte de seu capital a um supercomputador, cuja troca lhe custou mais de US $ 20 milhões.
O caso foi contra Samatur Lee Kin-kan, cujo pai é um dos maiores investidores em Shaftesbury Plc, dono da maior parte da Chinatown de Londres, Covent Garden e Carnaby Street, contra Rafael Costa, que passou a maior parte de sua carreira vendendo fundos de investimento para essas empresas. como Man Group Plc e GLG Partners Inc. É a primeira vez que as pessoas entram com uma ação judicial pela perda de investimento causada pela operação de máquinas autônomas, que será uma verificação dos limites de confiabilidade e que trará à luz o problema da "caixa preta": se as pessoas não sabem como o computador toma decisões, quem responde quando algo vai dar errado?
"As pessoas pensam que os algoritmos são mais rápidos que as pessoas e tomam melhores decisões", disse Mark Lemley, professor de direito da Universidade de Stanford, que administra o programa local de Direito, Ciência e Tecnologia. "Geralmente é, mas quando acaba errado, ou quando os algoritmos se perdem, os investidores procuram um bode expiatório."
Rafael CostaOs prazos anteriores à ação foram retirados de documentos enviados ao tribunal comercial de Londres, onde a audiência deve começar em abril do próximo ano. E tudo começou durante o jantar em um restaurante em Dubai em 19 de março de 2017. Então, Lee, 45 anos, se encontrou com Costa, italiano de 49 anos, conhecido no meio como "Capitão Mago". Enquanto comia, Costa descreveu um fundo de hedge robótico, cujos serviços para gerenciamento de dinheiro totalmente automático usando IA em breve começarão a ser oferecidos por sua empresa londrina Tyndaris Investments.
O supercomputador K1, desenvolvido pela empresa austríaca 42.cx, vasculhará fontes de informações on-line, como artigos de notícias e redes sociais, para avaliar o sentimento dos investidores e fazer previsões sobre o valor futuro dos futuros. Em seguida, ele enviará instruções de gerenciamento de ações ao corretor, eventualmente ajustando a estratégia com base nas informações recebidas.
A idéia de um gerente de dinheiro totalmente automático inspirou instantaneamente Lee. Ele se encontrou com Costa para jantar três dias depois e, antes disso, escreveu para ele em um e-mail que a AI Foundation era "exatamente o que eu precisava".
Nos meses seguintes, Costa compartilhou com Lee os resultados das simulações nas quais o K1 obteve retornos de dois dígitos sobre o dinheiro investido, embora agora eles discutam sobre a exaustividade dos testes históricos. Lee finalmente confiou à K1 a administração de US $ 2,5 bilhões - dos quais US $ 250 milhões eram dele, e o restante foi alavancado pelo Citigroup Inc. Este montante foi planejado para dobrar.
No entanto, a mania de Li no K1 passou imediatamente quando o computador começou a licitar no final de 2017. Em fevereiro de 2018, ele estava perdendo dinheiro constantemente, incluindo o caso em que US $ 20 milhões foram perdidos em um dia - 14 de fevereiro - devido à
interrupção da perda ["alce" no jargão dos comerciantes / aprox. trans.], que, segundo os advogados de Lee, não teriam sido cumpridos se o K1 fosse tão sofisticado quanto Costa alegou.
Lee entrou com uma ação contra Tyndaris no valor de US $ 23 milhões devido a um exagero das capacidades do supercomputador. Os advogados de Tyndaris, que processaram Lee por US $ 3 em multas não pagas, negam o fato de que Costa estava exagerando no K1. Eles argumentam que ele nunca garantiu que a estratégia de IA seria lucrativa.
Sarah Makatomaini, advogada da empresa de investimentos Lee processando Tyndaris, se recusou a comentar. Rob White, porta-voz da Tyndaris, se recusou a associar o conselho editorial a Costa para uma entrevista.
As batalhas legais são um prenúncio do que pode acontecer quando a IA é incluída em todas as áreas da vida, de robomobiles a assistentes virtuais. Quando a tecnologia falha, a questão de quem culpar por isso é discutível. Em março, os promotores dos EUA absolveram a Uber Technologies Inc., acusada da morte de um pedestre de 49 anos que morreu sob as rodas de um de seus robomobiles.
Lucro em 2019 para cada investimento de US $ 100 realizado em 2014; Os ganhos do S&P 500 são baseados em dividendos reinvestidos.No mundo dos fundos de hedge, as tentativas de usar a IA tornaram-se uma necessidade após muitos anos de trabalho insatisfatório dos gerentes de pessoas. Os investidores quantitativos - computadores projetados especificamente para procurar e executar negócios - já são populares. Fundos puros de IA que aprendem e melhoram automaticamente a eficiência com base na experiência que não possui dados especialmente programados são menos comuns. Assim que a IA desenvolve seu próprio entendimento da situação, até seus criadores deixam de entender por que tomam certas decisões.
"Você pode se encontrar em uma situação em que não consegue explicar por que mantém essa posição", disse Anthony Todd, co-fundador da Aspect Capital, uma empresa sediada em Londres que experimenta estratégias de IA antes de permitir que trabalhem com investimentos de clientes. "Uma de nossas preocupações com o uso de técnicas de aprendizado de máquina é a perda de hipóteses claras sobre o comportamento do mercado".
Os advogados de Lee afirmam que Costa ganhou credibilidade ao aumentar as habilidades dos técnicos que escreveram o algoritmo K1 e disseram, por exemplo, que estavam desenvolvendo o Deep Blue, um computador de xadrez da IBM que marcou o início da era da IA quando derrotou o campeão mundial em 1997- m
Garry Kasparov joga contra o IBM Deep Blue em 1997Em uma conversa com a Bloomberg, Daniel Matts, fundador da 42.cx, disse que nenhum dos especialistas em ciência da computação que o aconselhou tinha algo a ver com o Deep Blue, mas um deles,
Vladimir Lvovich Arlazarov , desenvolveu o programa de xadrez Kaissa na URSS na década de 1960. "[Ela venceu o 1º Campeonato Mundial de Informática em Estocolmo em 1974 / aprox. transl.]. Ele reconheceu que essa experiência pode não estar particularmente fortemente relacionada ao investimento. Os algoritmos aprenderam muito bem como vencer as pessoas nos jogos, porque eles têm regras claras que podem ser simuladas - o que não pode ser dito sobre o mercado de ações. Alazarov disse à Bloomberg que deu conselhos gerais a Matts, mas não funcionou no K1.
Inspirado em um estudo de 2015 do Banco Central Europeu, que examinou a opinião dos investidores no Twitter, o 42.cx criou um software de detecção de humor, disse Matts, que recentemente concordou em pagar US $ 17 milhões à Comissão de Valores Mobiliários dos EUA para resolver um processo por fraude. investidores da empresa de pagamentos móveis Jumio Inc., comprometida no início de 2010. Tyndaris decidiu como responder a esses sinais, disse ele.
"Foi um ótimo programa", disse Matts por telefone. "Os sinais que demos apresentavam justificativas científicas claras". Acho que funcionamos muito bem. Eu sei que sou capaz de entender o clima. Eu não sou comerciante.
Os documentos do tribunal contêm muita controvérsia sobre se Lee enganou com relação às capacidades do K1. Por exemplo, a máquina criou o único aplicativo pela manhã se recebesse um sinal claro sobre o humor dos investidores, embora Lee afirme ter considerado que ela estava envolvida na negociação durante o dia. Os advogados de Costa dizem que ele disse a Lee que comprar ou vender futuros com base em vários sinais de negociação fazia parte dos planos da empresa, mas não foi planejado desde o início.
Houve períodos de vários dias em que o K1 não foi comercializado, porque não encontrou tendências suficientemente fortes. Em uma das mensagens para Costa, ele reclamou que K1 estava descansando, enquanto ignorava calmamente eventos adversos, na esperança de não alcançar a ativação da ordem de stop loss (um nível predeterminado, ao atingir o qual o corretor venderia ações para limitar perdas em uma queda repentina) preços).
Isso aconteceu no dia de St. Dia dos namorados em 2018. De manhã, a K1 fez uma solicitação a um corretor da Goldman Sachs Group Inc. Em US $ 1,5 milhão em futuros do S&P 500, prevendo um aumento no índice. Mas ele foi na direção oposta, quando a inflação nos EUA cresceu mais que o esperado, o que levou à ativação do stop loss do K1 em 1,4% e a uma perda de US $ 20,5 milhões pelo fundo.No entanto, após algumas horas, a S&P recuperou sua posição - e isso, de acordo com os advogados de Lee, mostra que a fronteira do stop loss para o K1 foi definida como "rude e errada".
Lee afirma ter certeza de que o K1 usará suas "oportunidades de aprendizado profundo" diariamente para determinar a margem correta de stop loss com base em fatores de mercado como volatilidade. Kosta nega ter dito isso e afirma ter dito a Lee que as pessoas sempre designarão esse nível.
Em uma entrevista, Matts disse que o K1 não apresentava a possibilidade de definir um stop loss de forma independente - ele só sabe emitir dois tipos de sinais de humor: generalizado, que Tyndaris pode usar para entrar em uma posição, e dinâmico, que pode ser usado para sair ou alterar uma posição. Embora Tyndaris tenha promovido um fundo administrado por K1 a outros investidores, o porta-voz se recusou a responder à pergunta sobre se ele administrava fundos reais. E todas as referências ao supercomputador desapareceram de seu site no mês passado.
Os investidores, em particular Marcus Storr, dizem estar preocupados com a entrada de fundos de IA na bolsa de valores, especialmente considerando que os fundos que usam a IA como principal estratégia obtiveram menos da metade do lucro do S&P 500 em três anos, de acordo com os índices por Eurekahedge AI Hedge Fund.
"Não podemos julgar o código", disse Storr, tomador de decisões de investimento no Bad Homburg, um fundo fiduciário alemão. "Portanto, só podemos julgar as capacidades e a estrutura da pesquisa."
Mas o que acontece quando as empresas usam o chatbots para vender produtos aos clientes? Talvez nem seja possível processar o vendedor, acrescentou Karishma Parokha, advogada londrina da Kennedys, especializada em responsabilidade do produto. "Incompreensão se refere ao que uma pessoa diz a você", disse ela. "O que acontece quando alguém vende algo para você?"