Le premier cas où les gens se sont rendus devant les tribunaux au sujet de la perte d'investissement, qui a entraîné le travail de machines autonomes, sera une vérification des limites de fiabilité
Chaque jour, les robots ressemblent de plus en plus à des humains, mais ils ne peuvent toujours pas les poursuivre.
Par conséquent, le magnat de Hong Kong a choisi une option différente faute d'une meilleure. Il poursuit le vendeur, qui l'a convaincu de confier une partie de son capital à un supercalculateur dont l'échange lui a coûté plus de 20 millions de dollars.
L'affaire a été opposée à Samatur Lee Kin-kan, dont le père est l'un des plus grands investisseurs de Shaftesbury Plc, qui possède la plupart des quartiers chinois de Londres, Covent Garden et Carnaby Street, contre Rafael Costa, qui a passé la majeure partie de sa carrière à vendre des fonds d'investissement à ces sociétés. comme Man Group Plc et GLG Partners Inc. C’est la première fois que des personnes déposent une action en justice pour la perte d’investissement causée par le fonctionnement de machines autonomes, qui constituera une vérification des limites de fiabilité, et qui mettra en lumière le problème de la «boîte noire»: si les gens ne savent pas comment l’ordinateur prend des décisions, qui répond quand est-ce que quelque chose va mal?
«Les gens pensent que les algorithmes fonctionnent plus vite que les gens et prennent de meilleures décisions», a déclaré Mark Lemley, professeur de droit à l'Université de Stanford, qui dirige le programme local de droit, de science et de technologie. «Souvent, c'est le cas, mais lorsque cela s'avère faux ou que les algorithmes s'égarent, les investisseurs recherchent un bouc émissaire.»
Rafael CostaLes délais précédant le procès ont été tirés de documents envoyés au tribunal de commerce de Londres, où l'audience devrait commencer en avril de l'année prochaine. Et tout a commencé par un dîner dans un restaurant à Dubaï le 19 mars 2017. Puis Lee, 45 ans, a rencontré Costa, un Italien de 49 ans, connu au milieu de lui comme "Captain Wizard". Au cours du repas, Costa a décrit un fonds de couverture robotique, dont les services de gestion entièrement automatique de l'argent utilisant l'IA commenceront bientôt à être offerts par sa société londonienne Tyndaris Investments.
Le supercalculateur K1, développé par la société autrichienne 42.cx, combinera des sources d'informations en ligne telles que des articles de presse et des réseaux sociaux pour évaluer le sentiment des investisseurs et faire des prévisions sur la valeur future des contrats à terme. Il enverra ensuite des instructions de gestion des stocks au courtier, ajustant éventuellement la stratégie en fonction des informations reçues.
L'idée d'un gestionnaire de fonds entièrement automatique a immédiatement inspiré Lee. Il a rencontré Costa pour le dîner trois jours plus tard, et avant cela, il lui a écrit dans un e-mail que la Fondation AI était «exactement ce dont j'avais besoin».
Au cours des mois suivants, Costa a partagé avec Lee les résultats de simulations dans lesquelles K1 a réalisé des rendements à deux chiffres sur l'argent investi, bien que maintenant ils discutent de la rigueur des tests historiques. Lee a finalement confié à K1 la gestion de 2,5 milliards de dollars - dont 250 millions de dollars lui appartenaient, et le reste était un levier de Citigroup Inc. Ce montant devait doubler.
Cependant, l'engouement pour Li K1 s'est immédiatement dissipé lorsque l'ordinateur a commencé à soumissionner à la fin de 2017. En février 2018, il perdait régulièrement de l'argent, y compris le cas où 20 millions de dollars avaient été perdus en une journée - le 14 février - en raison de l'
arrêt des pertes [«orignal» dans le jargon des commerçants / env. trans.], qui, selon les avocats de Lee, n'auraient pas été appliquées si K1 était aussi sophistiqué que Costa le prétendait.
Lee a maintenant déposé une poursuite contre Tyndaris d'un montant de 23 millions de dollars en raison d'une exagération des capacités du supercalculateur. Les avocats de Tyndaris, qui ont poursuivi Lee pour 3 $ d'amendes impayées, nient le fait que Costa exagérait K1. Ils soutiennent qu'il n'a jamais garanti que la stratégie de l'IA serait rentable.
Sarah Makatomaini, avocate de la société d'investissement Lee poursuivant Tyndaris, a refusé de commenter. Rob White, porte-parole de Tyndaris, a refusé d'associer le comité de rédaction à Costa pour une interview.
Les batailles juridiques sont un signe avant-coureur de ce qui peut se produire lorsque l'IA est incluse dans tous les domaines de la vie, des robots motorisés aux assistants virtuels. Lorsque la technologie échoue, la question de savoir qui blâmer pour cela est discutable. En mars, les procureurs américains ont acquitté Uber Technologies Inc., accusé du décès d'un piéton de 49 ans décédé sous les roues d'un de ses robots.
Bénéfice en 2019 pour chaque investissement de 100 $ effectué en 2014; Les bénéfices du S&P 500 sont basés sur les dividendes réinvestis.Dans le monde des hedge funds, les tentatives d'utilisation de l'IA sont devenues une nécessité après de nombreuses années de travail insatisfaisant de personnes-gestionnaires. Les investisseurs quantitatifs - des ordinateurs spécialement conçus pour rechercher et exécuter des transactions - sont déjà populaires. Les fonds d'IA purs qui apprennent et améliorent automatiquement l'efficacité en fonction de l'expérience qui ne disposent pas de données spécialement programmées sont moins courants. Dès que l'IA développe sa propre compréhension de la situation, même ses créateurs cessent de comprendre pourquoi elle prend certaines décisions.
"Vous pouvez vous retrouver dans une situation où vous ne pouvez pas expliquer pourquoi vous occupez ce poste", a déclaré Anthony Todd, co-fondateur d'Aspect Capital, une société basée à Londres expérimentant des stratégies d'IA avant de leur permettre de travailler avec les investissements des clients. «L'une de nos préoccupations concernant l'utilisation des techniques d'apprentissage automatique est la perte d'hypothèses claires sur le comportement du marché.»
Les avocats de Lee affirment que Costa a gagné en crédibilité en gonflant les compétences des techniciens qui ont écrit l'algorithme K1 et ont déclaré, par exemple, qu'ils développaient Deep Blue, un ordinateur d'échecs IBM qui a marqué l'aube de l'ère de l'IA lorsqu'il a vaincu le champion du monde en 1997. m
Garry Kasparov joue contre IBM Deep Blue en 1997Lors d'une conversation avec Bloomberg, le fondateur de 42.cx, Daniel Matts, a déclaré qu'aucun des experts en informatique qui l'avaient conseillé n'avait quoi que ce soit à voir avec Deep Blue, mais l'un d'entre eux,
Vladimir Lvovich Arlazarov , a développé le programme d'échecs Kaissa en URSS dans les années 1960. "[Elle a remporté le 1er Championnat du monde informatique à Stockholm en 1974 / env. trad.]. Il a reconnu qu'une telle expérience n'était peut-être pas particulièrement liée à l'investissement. Les algorithmes ont assez bien appris à battre les gens dans les jeux, car ils ont des règles claires qui peuvent être simulées - ce qui ne peut pas être dit sur les marchés boursiers. Alazarov a déclaré à Bloomberg qu'il avait donné des conseils généraux à Matts, mais qu'il n'avait pas travaillé sur K1.
Inspiré par une étude réalisée en 2015 par la Banque centrale européenne, qui a examiné le sentiment des investisseurs sur Twitter, 42.cx a créé un logiciel de détection d'humeur, a déclaré Matts, qui a récemment accepté de verser 17 millions de dollars à la Commission des valeurs mobilières des États-Unis pour résoudre un procès pour fraude. les investisseurs de leur société de paiement mobile Jumio Inc., engagés au début des années 2010. Tyndaris a décidé comment répondre à ces signaux, a-t-il déclaré.
«C'était un excellent programme», nous a expliqué Matts par téléphone. «Les signaux que nous avons donnés avaient des justifications scientifiques claires.» Je pense que nous avons assez bien travaillé. Je sais que je suis capable de saisir l'ambiance. Je ne suis pas commerçant. "
Les documents judiciaires contiennent beaucoup de controverse quant à savoir si Lee a trompé en ce qui concerne les capacités de K1. Par exemple, la machine a créé la seule application le matin si elle recevait un signal clair sur l'humeur des investisseurs, bien que Lee affirme l'avoir considérée comme engagée dans le trading tout au long de la journée. Les avocats de Costa disent qu'il a dit à Lee que l'achat ou la vente de contrats à terme basés sur plusieurs signaux commerciaux faisait partie des plans de l'entreprise, mais n'était pas prévu depuis le début.
Il y a eu des périodes de plusieurs jours où K1 n'a pas du tout échangé, car il n'a pas trouvé de tendances suffisamment fortes. Dans l'un des messages adressés à Costa, il se plaignait que K1 se reposait, tout en évitant calmement les événements indésirables, dans l'espoir qu'il n'atteindrait pas l'activation de l'ordre stop loss (un niveau prédéterminé, au moment où le courtier vendrait des actions afin de limiter les pertes en cas de chute brutale). prix).
C'est arrivé le jour de la Saint Valentin en 2018. Le matin, K1 a déposé une demande auprès d'un courtier de Goldman Sachs Group Inc. À 1,5 million de dollars en contrats à terme S&P 500, prédisant une augmentation de l'indice. Mais il est allé dans la direction opposée, lorsqu'il s'est avéré que l'inflation aux États-Unis a augmenté plus rapidement que prévu, ce qui a entraîné l'activation du stop loss K1 de 1,4% et une perte de 20,5 millions de dollars par le fonds. Cependant, après quelques heures, S&P a retrouvé sa position - et cela, selon les avocats de Lee, montre que la frontière stop loss pour K1 a été définie comme "grossière et erronée".
Lee déclare qu'il a été assuré que K1 utilisera quotidiennement ses «opportunités d'apprentissage approfondi» pour déterminer la marge stop loss correcte en fonction de facteurs du marché tels que la volatilité. Kosta nie avoir dit une telle chose et affirme avoir dit à Lee que les gens nommeront toujours ce niveau.
Dans une interview, Matts a déclaré que K1 n'avait pas la possibilité de fixer un stop loss de lui-même - il ne peut émettre que deux types de signaux d'humeur: un signal généralisé que Tyndaris peut utiliser pour entrer dans une position, et un dynamique qui peut être utilisé pour quitter ou changer de position. Bien que Tyndaris ait présenté un fonds géré par K1 à d'autres investisseurs, le porte-parole a refusé de répondre à la question de savoir s'il gérait des fonds réels. Et toutes les références au supercalculateur ont disparu de son site le mois dernier.
Les investisseurs, et en particulier Marcus Storr, se disent préoccupés par l'entrée de fonds AI en bourse, d'autant plus que les fonds qui utilisent l'IA comme stratégie principale ont réalisé moins de la moitié du bénéfice du S&P 500 sur trois ans, selon les indices par Eurekahedge AI Hedge Fund.
"Nous ne pouvons pas juger le code", a déclaré Storr, le décideur en investissement de Bad Homburg, un fonds fiduciaire allemand. «Nous ne pouvons donc que juger des capacités et de la structure de la recherche.»
Mais que se passe-t-il lorsque les entreprises utilisent des chatbots pour vendre des produits aux clients? Il peut même ne pas être possible de poursuivre le vendeur, a ajouté Karishma Parokha, avocate londonienne de Kennedys, spécialisée dans la responsabilité du fait des produits. «Un malentendu fait référence à ce qu'une personne vous dit», a-t-elle déclaré. "Que se passe-t-il lorsque quelqu'un vous vend quelque chose?"