Seit ihrem Erscheinen im Dezember 2017 haben dipfeyki, Videos mit einem nahezu perfekten Gesichtsersatz, der durch ein neuronales Netzwerk erstellt wurde, bei Experten Panik ausgelöst. Viele befürchteten damals beispielsweise, dass „Pornorache“ noch einfacher werden würde, wenn ein ehemaliger Freund mit einem ausreichend leistungsfähigen PC schmutzige Pornos mit einer Freundin machen könnte. Und Natalie Portman und Scarlett Johansson, über die besonders viel Pornos mit Deepfake gedreht wurden, verfluchten öffentlich das Internet.
Um der drohenden Bedrohung entgegenzuwirken, haben Facebook und Microsoft kürzlich eine Koalition zur Bekämpfung diplomatischer Angriffe zusammengestellt und den Entwicklern, die die besten Algorithmen zur Erkennung dieser Angriffe entwickelt haben, einen Preispool von 10 Millionen US-Dollar angekündigt. Dies gilt zusätzlich zu DARPA, dem Forschungsmanagement des US-Verteidigungsministeriums, das in den letzten zwei Jahren 68 Millionen US-Dollar bereitgestellt hat .
Nun, es ist zu spät. Das erste gefälschte Verbrechen hat bereits stattgefunden.
Laut dem Wall Street Journal wurde dem Geschäftsführer eines britischen Energieunternehmens im März dieses Jahres 220.000 Euro (etwa 240.000 US-Dollar) geraubt. Er schickte das Geld an eine Zulieferfirma aus Ungarn, weil sein Chef, der Leiter der Muttergesellschaft in Deutschland, ihm diese Anweisung mehrmals bestätigte. Tatsächlich verwendete ein gerissener Angreifer einfach Software mit KI-Technologien, um das Gesicht und die Stimme des Anführers in Echtzeit zu ersetzen, und verlangte, dass er ihn innerhalb einer Stunde bezahlt.
Das Programm, das der Dieb verwendete, konnte die Stimme einer Person vollständig imitieren: Ton, Zeichensetzung, sogar ein deutscher Akzent. Die Nachricht kam von der Adresse des Chefs in Deutschland, eine E-Mail mit Kontakten wurde zur Bestätigung an den britischen Regisseur gesendet. Unter der Annahme, dass etwas schief gelaufen ist, könnte es nur sein, dass auf Wunsch des Chefs der gesamte Deal so schnell wie möglich abgewickelt wird, aber dies ist nicht das erste Problem, das in ihrem Geschäft aufgetreten ist.
Infolgedessen war das ganze Geld weg. Vom ungarischen Konto wurden sie nach Mexiko transferiert und dann auf der ganzen Welt verstreut. Aber die Diebe hörten hier nicht auf. Sie baten um eine zweite dringende Übersetzung, damit "Lieferungen aus Ungarn" "noch schneller gehen". Dann spürte der britische Regisseur, dass etwas nicht stimmte, und rief seinen echten Chef an. Es stellte sich heraus, dass er abwechselnd Anrufe von einem falschen oder jetzt einem echten Anführer erhielt und mit denselben Stimmen sprach. Der Name des Unternehmens und seiner Mitarbeiter wurde nicht bekannt gegeben, da in diesem Fall eine Untersuchung läuft und Diebe noch nicht gefunden wurden.
Vielleicht ist dies nicht einmal der erste Diebstahl mit Deepfake AI (oder seinen fortgeschrittenen Anhängern). Symantec berichtet, dass es mindestens drei Fälle entdeckt hat, in denen ein Sprachersatz Dieben dabei geholfen hat, Unternehmen zu überlisten und sie dazu zu bringen, ihnen Geld zu schicken. In einem dieser Fälle belief sich der Schaden auf Millionen von Dollar. Darüber hinaus wurde dieser Trick nach indirekten Beweisen von anderen Angreifern ausgeführt - nicht von denen, die den britischen CEO ausgeraubt haben. Das heißt, tiefgründige Verbrechen werden allmählich zu allgemeinem Eigentum. Dies ist nicht die Vorstellung eines genialen Hackers.
In der Tat wird bald jeder Schüler in der Lage sein, dieses Verfahren durchzuführen. Die Hauptsache ist, ein vertrauensvolles Opfer zu finden und die richtige Menge an Video- / Audio-Samples zu sammeln, um sich als derjenige auszugeben, den Sie benötigen. Google Duplex ahmt bereits erfolgreich die Stimme einer realen Person nach, um in ihrem Namen Anrufe zu tätigen. Viele kleine Startups, hauptsächlich aus China, arbeiten daran, Deepfake-ähnliche Dienste kostenlos anzubieten. Verschiedene Diphey-Programme konkurrieren sogar miteinander, die mit einer Person, die die minimale Datenmenge verwendet, ziemlich überzeugende Videos erstellen können. Einige behaupten, dass bald eines Ihrer Fotos für sie ausreichen wird.
Im Juli warnte die israelische nationale Agentur für den Schutz vor Cyber-Bedrohungen vor einer grundlegend neuen Art von Cyberangriffen, die sich an die Führung von Unternehmen, hochrangigen Beamten und sogar hochrangigen Beamten richten könnten. Dies ist die erste und derzeit realste KI-Bedrohung. Sie sagen, dass es jetzt Programme gibt, die Ihre Stimme und Ihren Akzent perfekt vermitteln können, nachdem Sie 20 Minuten lang zugehört haben. Wenn irgendwo im Netzwerk eine halbe Stunde lang eine Aufzeichnung mit Ihrer Rede stattfindet oder wenn jemand mit einem Diktiergerät ein wenig neben Ihnen in einem Café saß, kann Ihre Stimme jetzt verwendet werden, um irgendjemandem etwas zu sagen.
Bisher gibt es keine Werkzeuge, um dies zu bekämpfen. Nur eine Option zu verteidigen. Wenn Sie jemand anruft und Sie auffordert, einen erheblichen Geldbetrag zu überweisen, ist es nicht überflüssig, über einen anderen Kanal zu bestätigen, dass er dieselbe Person ist. Über Messenger, Skype, E-Mail, Unternehmenskanäle oder soziale Netzwerke. Und im Idealfall natürlich von Angesicht zu Angesicht.
Wenn Sie über fundierte Kenntnisse im Bereich maschinelles Lernen verfügen und nicht abgeneigt sind, ein Stück aus einem Kuchen von 10 Millionen US-Dollar zu erhalten, können Sie sich im Microsoft- und Facebook- Wettbewerb versuchen. Oder starten Sie Ihr eigenes Startup und bieten Sie dem Staat und seriösen Unternehmen eine Geschäftslösung zur Bestimmung von Diphakes per Bild oder Sprache. Wir werden nicht bald darauf verzichten können.
PS Pochtoy.com kann alle Waren aus den USA liefern. Jetzt - nicht nur nach Russland, sondern auch in die Ukraine dank der Zusammenarbeit mit New Mail. Die Kosten für den Versand von 0,5 kg ab 11,99 USD (für die Ukraine - ab 8,00 USD). Für Neuanmeldungen mit HABR-Gutscheincode - 7% Rabatt auf die erste Lieferung plus kostenlose Einlösung durch amerikanische Betreiber durch amerikanische Betreiber.
