Dès leur apparition en décembre 2017, dipfeyki, des vidéos avec un remplacement du visage presque parfait créé par un réseau de neurones, a semé la panique chez les experts. Beaucoup, par exemple, avaient alors peur que la «vengeance du porno» devienne encore plus facile quand un ancien petit ami avec un PC suffisamment puissant pouvait faire du porno sale avec une petite amie. Et Natalie Portman et Scarlett Johansson, à propos desquelles le porno avec deepfake a été particulièrement filmé, ont maudit publiquement Internet.
Pour lutter contre la menace imminente, Facebook et Microsoft ont récemment formé une coalition pour faire face aux attaques diplomatiques, annonçant un prize pool de 10 millions de dollars aux développeurs qui trouveront les meilleurs algorithmes pour les détecter. Cela s'ajoute à la DARPA, la direction de la recherche du département américain de la Défense, qui a alloué 68 millions de dollars au cours des deux dernières années à cette fin.
Eh bien, c'est trop tard. Le premier crime de contrefaçon a déjà eu lieu.
Selon le Wall Street Journal, en mars de cette année, le directeur général d'une société d'énergie britannique s'est fait voler 220 000 € (environ 240 000 $). Il a envoyé l'argent à une société de fournisseurs en provenance de Hongrie parce que son patron, le chef de la société mère en Allemagne, lui a confirmé plusieurs fois cette instruction. Mais en fait, un attaquant rusé a simplement utilisé un logiciel avec les technologies de l'IA pour remplacer le visage et la voix du leader en temps réel, et lui a demandé de le payer dans l'heure.
Le programme utilisé par le voleur a pu imiter complètement la voix d'une personne: ton, ponctuation, voire un accent allemand. Le message est venu de l'adresse du patron en Allemagne, un e-mail avec des contacts a été envoyé au directeur britannique pour confirmation. En supposant que quelque chose n'allait pas, cela ne pouvait être qu'à la demande du patron de mener l'ensemble de l'affaire aussi rapidement que possible, mais ce n'est pas le premier problème qui s'est produit dans leur entreprise.
En conséquence, tout l'argent avait disparu. Du compte hongrois, ils ont été transférés au Mexique, puis dispersés dans le monde entier. Mais les voleurs ne se sont pas arrêtés là. Ils ont demandé une deuxième traduction urgente pour que «les fournitures de Hongrie» «vont encore plus vite». Le réalisateur britannique a alors senti que quelque chose n'allait pas et a appelé son vrai patron. Il s'est avéré une sorte de sur: il a reçu à tour de rôle les appels d'un faux ou maintenant d'un vrai leader, parlant des mêmes voix. Le nom de l'entreprise et de ses employés n'a pas été divulgué, car une enquête est en cours dans cette affaire et aucun voleur n'a encore été trouvé.
Ce n'est peut-être même pas le premier vol utilisant Deepfake AI (ou ses suiveurs avancés). Symantec rapporte avoir détecté au moins trois cas dans lesquels un remplacement vocal a aidé des voleurs à déjouer les entreprises et les a forcés à leur envoyer de l'argent. Dans l'un de ces cas, les dommages se sont élevés à des millions de dollars. De plus, à en juger par des preuves indirectes, cette astuce a été faite par d'autres attaquants - pas ceux qui ont volé le PDG britannique. Autrement dit, les crimes profonds deviennent progressivement une propriété commune, ce n'est pas la notion d'un pirate ingénieux.
En fait, bientôt n'importe quel étudiant pourra faire cette procédure. L'essentiel est de trouver une victime suffisamment confiante et de collecter la bonne quantité d'échantillons vidéo / audio pour se faire passer pour qui vous avez besoin. Google Duplex imite déjà avec succès la voix d'une personne réelle pour passer des appels en son nom. De nombreuses petites startups, principalement chinoises, s'efforcent d'offrir gratuitement des services de type deepfake. Différents programmes diphey se font même concurrence, ce qui peut générer une vidéo assez convaincante avec une personne utilisant le minimum de données. Certains prétendent que bientôt une de vos photos leur suffira.
En juillet, l'Agence nationale israélienne de protection contre les cybermenaces a lancé un avertissement concernant un type fondamentalement nouveau de cyberattaque, qui pourrait viser le leadership des entreprises, des hauts fonctionnaires et même des hauts fonctionnaires. C'est la première et actuellement la menace la plus réelle pour l'IA. Ils disent qu'il existe maintenant des programmes qui peuvent parfaitement transmettre votre voix et votre accent après vous avoir écouté pendant 20 minutes. Si quelque part dans le réseau il y a un enregistrement avec votre discours pendant une demi-heure, ou si quelqu'un s'est assis un peu à côté de vous dans un café avec un enregistreur vocal, votre voix peut maintenant être utilisée pour dire n'importe quoi à n'importe qui.
Jusqu'à présent, il n'y a pas d'outils pour lutter contre cela. Une seule option à défendre. Si quelqu'un vous appelle et vous demande de transférer une somme d'argent importante, il ne sera pas superflu de confirmer qu'il s'agit de la même personne via un autre canal. Via des messagers, Skype, e-mail, canaux d'entreprise ou réseaux sociaux. Et idéalement, bien sûr, face à face.
Eh bien, si vous avez une connaissance approfondie de l'apprentissage automatique et que vous n'êtes pas opposé à obtenir un morceau d'une tarte de 10 millions de dollars - vous pouvez vous essayer dans le concours Microsoft et Facebook. Ou lancez votre propre start-up, offrant à l'État et aux entreprises réputées une solution commerciale pour déterminer les diphasés par image ou par voix. Nous ne pourrons plus nous en passer bientôt.
PS Pochtoy.com peut livrer toutes les marchandises en provenance des États-Unis. Maintenant - non seulement en Russie, mais aussi en Ukraine , grâce à la coopération avec New Mail. Le coût d'envoi de 0,5 kg à partir de 11,99 $ (pour l'Ukraine - à partir de 8,00 $). Pour les nouvelles inscriptions avec le code promo HABR - 7% de réduction sur la première livraison, plus un échange gratuit dans les magasins américains par nos opérateurs.
