Dari saat penampilan mereka pada bulan Desember 2017, dipfeyki, video dengan penggantian wajah yang hampir sempurna yang diciptakan oleh jaringan saraf, telah menyebabkan kepanikan di antara para ahli. Banyak, misalnya, kemudian takut bahwa "balas dendam porno" akan menjadi lebih mudah ketika mantan pacar dengan PC yang cukup kuat dapat membuat porno kotor dengan pacar. Tapi Natalie Portman dan Scarlett Johansson, yang memfilmkan porno terutama dalam, secara terbuka mengutuk Internet.
Untuk memerangi ancaman yang akan datang, Facebook dan Microsoft baru - baru ini mengumpulkan koalisi untuk menangani serangan diplomatik, mengumumkan kumpulan hadiah sebesar $ 10 juta kepada para pengembang yang menghasilkan algoritma terbaik untuk mendeteksi mereka. Ini adalah tambahan untuk DARPA, manajemen penelitian Departemen Pertahanan AS, yang telah mengalokasikan $ 68 juta selama dua tahun terakhir untuk tujuan ini.
Yah, sudah terlambat. Kejahatan deepfake pertama telah terjadi.
Menurut Wall Street Journal, pada bulan Maret tahun ini, direktur pelaksana perusahaan energi Inggris dirampok € 220.000 (sekitar $ 240.000). Dia mengirim uang itu ke perusahaan pemasok dari Hongaria karena bosnya, kepala perusahaan induk di Jerman, mengkonfirmasi instruksi ini kepadanya beberapa kali. Tetapi pada kenyataannya, beberapa penyerang licik hanya menggunakan perangkat lunak dengan teknologi AI untuk menggantikan wajah dan suara pemimpin secara real time, dan menuntut agar ia membayarnya dalam waktu satu jam.
Program yang digunakan pencuri itu dapat sepenuhnya meniru suara seseorang: nada, tanda baca, bahkan aksen Jerman. Pesan itu datang dari alamat bos di Jerman, sebuah email dengan kontak dikirim ke direktur Inggris sebagai konfirmasi. Dengan asumsi bahwa ada sesuatu yang salah, hanya bisa atas permintaan bos untuk melakukan seluruh kesepakatan secepat mungkin, tetapi ini bukan masalah pertama yang terjadi dalam bisnis mereka.
Akibatnya, semua uang hilang. Dari akun Hungaria mereka dipindahkan ke Meksiko, dan kemudian tersebar di seluruh dunia. Namun pencuri tidak berhenti di situ. Mereka meminta terjemahan mendesak kedua sehingga "persediaan dari Hongaria" "lebih cepat." Kemudian direktur Inggris merasakan ada sesuatu yang salah, dan memanggil bosnya yang sebenarnya. Ternyata semacam suri: dia bergiliran menerima telepon dari pemimpin palsu atau sekarang pemimpin sejati, berbicara dengan suara yang sama. Nama perusahaan dan karyawannya tidak diungkapkan, karena penyelidikan sedang dilakukan dalam kasus ini, dan pencuri belum ditemukan.
Mungkin ini bahkan bukan pencurian pertama yang menggunakan Deepfake AI (atau pengikut tingkat lanjutnya). Symantec melaporkan bahwa mereka telah mendeteksi setidaknya tiga kasus di mana penggantian suara telah membantu pencuri mengalahkan perusahaan dan memaksa mereka untuk mengirimi mereka uang. Dalam salah satu kasus ini, kerusakan mencapai jutaan dolar. Selain itu, dilihat dari bukti tidak langsung, trik ini dilakukan oleh penyerang lain - bukan mereka yang merampok CEO Inggris. Artinya, kejahatan deepfake secara bertahap menjadi milik umum, ini bukan gagasan tentang salah satu peretas yang cerdik.
Bahkan, tak lama lagi setiap siswa akan dapat melakukan prosedur ini. Hal utama adalah menemukan korban yang cukup percaya, dan mengumpulkan jumlah sampel video / audio yang tepat untuk berkedok sebagai orang yang Anda butuhkan. Google Duplex sudah berhasil meniru suara orang sungguhan untuk melakukan panggilan atas namanya. Banyak startup kecil, terutama dari China, bekerja untuk menawarkan layanan seperti deepfake secara gratis. Berbagai program diphey bahkan bersaing satu sama lain yang dapat menghasilkan video yang cukup meyakinkan dengan seseorang menggunakan jumlah data minimum. Beberapa mengklaim bahwa segera salah satu foto Anda akan cukup untuk mereka.
Pada bulan Juli, Badan Nasional Anti-Cyber Ancaman Perlindungan Israel mengeluarkan peringatan tentang jenis serangan cyber yang secara fundamental baru, yang dapat ditujukan pada kepemimpinan perusahaan, pejabat senior, dan bahkan pejabat senior. Ini adalah yang pertama dan saat ini ancaman AI paling nyata. Mereka mengatakan bahwa sekarang ada program yang dapat dengan sempurna menyampaikan suara dan aksen Anda setelah mendengarkan Anda selama 20 menit. Jika di suatu tempat di jaringan ada rekaman dengan pidato Anda selama setengah jam, atau jika seseorang duduk sedikit di sebelah Anda di sebuah kafe dengan perekam suara, suara Anda sekarang dapat digunakan untuk memberi tahu siapa pun apa pun.
Sejauh ini, tidak ada alat untuk melawan ini. Hanya satu opsi untuk bertahan. Jika seseorang memanggil Anda dan meminta untuk mentransfer sejumlah besar uang, itu tidak akan berlebihan untuk mengkonfirmasi bahwa ia adalah orang yang sama melalui saluran lain. Melalui messenger, Skype, email, saluran perusahaan atau jejaring sosial. Dan idealnya, tentu saja, bertatap muka.
Nah, jika Anda memiliki pengetahuan yang mendalam dalam pembelajaran mesin dan Anda tidak segan untuk mendapatkan sepotong kue $ 10 juta - Anda dapat mencoba sendiri dalam kontes Microsoft dan Facebook. Atau mulai startup Anda sendiri, menawarkan solusi bisnis negara bagian dan perusahaan terkemuka untuk menentukan diphakes oleh gambar atau suara. Kita tidak akan bisa melakukannya tanpanya segera.
PS Pochtoy.com dapat mengirimkan barang apa pun dari AS. Sekarang - tidak hanya ke Rusia, tetapi juga ke Ukraina , berkat kerja sama dengan New Mail. Biaya pengiriman 0,5 kg dari $ 11,99 (untuk Ukraina - dari $ 8,00). Untuk pendaftaran baru dengan kode promo HABR - diskon 7% untuk pengiriman pertama, ditambah penukaran gratis dari toko Amerika oleh operator kami.
