Kenapa kamu tidak perlu takut dengan robot pembunuh

Sebuah distopia di mana robot pembunuh menghancurkan orang tak berdosa terdengar mengerikan, tapi katakan saja terus terang: itu semua fiksi ilmiah

Sebuah adegan dari film Slaughterbots di mana drone pembunuh otonom jatuh ke tangan teroris di masa depan dystopian

Drone pembunuh yang jatuh ke tangan teroris mengorganisir pembantaian orang tak bersalah. Senjata robot pemusnah massal mendatangkan malapetaka dan ketakutan. Film pendek, yang dibuat oleh para pendukung larangan senjata otonom, dibuat untuk membuat Anda percaya bahwa anti-utopia ini sudah sangat dekat , dan tindakan itu harus diambil hari ini. Film Slaughterbots dirilis pada November 2017, bersamaan dengan Konferensi Perserikatan Bangsa-Bangsa tentang Lengan Otonom. Pertemuan PBB tidak berakhir dengan sesuatu yang konkret, tetapi videonya mulai populer. Ini telah dilihat oleh lebih dari 2 juta orang dan telah mencapai puluhan artikel . Ini berfungsi sempurna sebagai propaganda. Dan dengan keyakinan untuk menerima larangan senjata otonom, itu tidak mengatasi sama sekali.


Tentu saja, sebuah dunia di mana teroris dapat meluncurkan segerombolan drone pembunuh pada orang tak bersalah akan mengerikan, tetapi apakah masa depan yang ditunjukkan dalam film itu realistis? Sebuah gambar yang indah membantu menyembunyikan celah dalam logika. Film ini membenamkan penonton dalam mimpi buruk dystopian, tapi katakan terus terang: itu semua fiksi ilmiah.

Asumsi utama film ini adalah bahwa di masa depan, militer akan membuat mikrodron otonom dengan tuduhan kumulatif yang dapat terbang ke atas kepala seseorang dan mengaktifkan bahan peledak, dengan demikian membunuhnya. Dalam film tersebut, bot pembunuh ini dengan cepat jatuh ke tangan teroris, yang menyebabkan sejumlah besar kematian di seluruh dunia.



Konsep utama memiliki dasar dalam kenyataan. Di dunia kita, negara Islam [organisasi teroris terlarang di Federasi Rusia] menggunakan quadrocopters yang sudah jadi , yang dilengkapi dengan sejumlah kecil bahan peledak, untuk menyerang pasukan Irak, yang mengakibatkan kematian dan cedera beberapa lusin tentara. Drone teroris saat ini sebagian besar dikendalikan dari jarak jauh, tetapi drone amatir menjadi lebih mandiri. Model-model terbaru sudah tahu bagaimana terbang ke target tetap sendiri, melewati rintangan, serta secara mandiri melacak dan mengikuti objek bergerak. Drone kecil yang dilengkapi dengan sistem pengenalan wajah dapat, pada prinsipnya, digunakan untuk secara otonom mencari dan menghancurkan orang-orang tertentu, seperti yang ditunjukkan oleh film Slaughterbots. Hanya dalam beberapa menit mencari di Internet, saya menemukan sumber daya tempat Anda dapat mengunduh dan melatih jaringan saraf gratis yang akan mengenali wajah. Dan sementara tidak ada yang menggabungkan teknologi ini, seperti yang ditunjukkan dalam film, semua komponen sudah nyata.

Tapi saya ingin membuat pernyataan: kita tidak bisa mencegah teknologi ini jatuh ke tangan teroris masa depan. Menyedihkan, tetapi harus dipahami. Seperti halnya teroris dapat dan memang menggunakan mobil untuk menghantam kerumunan orang, teknologi yang dibutuhkan untuk mengubah drone amatir menjadi senjata mandiri yang sudah terlalu luas untuk dihentikan. Ini adalah masalah, dan respons terbaik untuk itu adalah berkonsentrasi pada langkah-langkah perlindungan yang memungkinkan kita untuk menghadapi drone dan menangkap teroris menggunakan sistem pengawasan. "

Film ini menggunakan masalah ini, tetapi mengembangnya tak terkira, mengklaim bahwa drone dapat digunakan oleh teroris sebagai senjata pemusnah massal dan membunuh ribuan orang. Untungnya, skenario mimpi buruk ini sama besarnya dengan HAL 9000 , yang menghalangi Anda memasuki gateway. Teknologi yang ditampilkan dalam video itu realistis, tetapi yang lainnya sepenuhnya sampah. Asumsi berikut dibuat dalam video:

• Pemerintah akan meluncurkan produksi massal microdrones untuk digunakan sebagai senjata pemusnah massal.
• Tidak ada pertahanan yang efektif terhadap mikrodron yang mematikan.
• Pemerintah tidak dapat membela senjata tingkat tentara dari teroris.
• Teroris mampu meluncurkan serangan terkoordinasi skala besar.

Asumsi-asumsi ini berkisar dari kontroversial hingga fantastis.

Tentu saja, video itu sendiri adalah fiksi, dan orang-orang yang bertanggung jawab untuk mengembangkan pertahanan sering menggunakan skenario fiktif untuk membantu para politisi memikirkan konsekuensi dari kemungkinan peristiwa. Saya seorang analis pertahanan yang bekerja di sebuah think tank, dan dalam pekerjaan saya sebelumnya di Pentagon saya terlibat dalam perencanaan strategis. Dan saya menggunakan skenario fiksi untuk menggambarkan pilihan teknologi militer yang harus diinvestasikan oleh militer AS. Tetapi agar skenario-skenario ini berguna, mereka setidaknya harus memungkinkan. Pasti sesuatu yang bisa terjadi. Naskah yang digunakan dalam film Slaughterbots tidak dapat memperhitungkan realitas politik dan strategis penggunaan teknologi militer oleh pemerintah.

Pertama, tidak ada bukti bahwa pemerintah berencana untuk memproduksi drone kecil secara massal untuk membunuh sejumlah besar warga sipil. Dalam buku saya yang akan datang, Army of None: Senjata Otonom dan Masa Depan Perang [Army from None: Senjata Otonom dan Masa Depan Perang], saya memeriksa senjata generasi mendatang yang sedang dibangun di laboratorium pertahanan di seluruh dunia. Rusia, Cina, dan Amerika Serikat semuanya bersaing dalam perlombaan otonomi dan kecerdasan buatan. Tetapi mereka menciptakan senjata, sebagian besar bertujuan untuk memerangi militer. Ini adalah senjata yang ditujukan untuk mengenai sasaran militer [ melawan kekuatan], dan bukan untuk memukul aset lainnya, yang mencakup warga sipil [ countervalue ]. Senjata otonom dari tipe pertama, tentu saja, memiliki masalah mereka sendiri, tetapi mereka tidak dikembangkan dengan tujuan penghancuran massal warga sipil, dan mereka tidak dapat dikonfigurasi ulang untuk penggunaan tersebut.

Kedua, video tersebut berbicara tentang drone yang dapat mengatasi "serangan balik" apa pun. Para pakar televisi berteriak bahwa "kita tidak bisa melindungi diri kita sendiri." Ini bahkan bukan fiksi, tapi lelucon. Untuk setiap teknologi militer, ada oposisi, dan oposisi terhadap drone kecil bahkan tidak dapat disebut hipotetis. Pemerintah AS secara aktif mengembangkan metode menembak, jamming, menggoreng, mematahkan, menjebak dan metode lain untuk melawan drone kecil. Mikrodon dalam video dapat berhasil dilawan dengan sesuatu yang sederhana seperti wire mesh. Video ini menunjukkan drone berat menusuk lubang di dinding yang dilewati orang lain - tetapi pertahanan multi-layer yang sederhana dapat membantu melawan hal ini. Analis militer melihat nilai pertahanan versus serangan, dalam hal ini keuntungannya jelas di sisi pertahanan statis.


Di dunia di mana teroris secara berkala melakukan serangan dengan drone improvisasi, orang tidak mungkin tahan dengan ketidaknyamanan dalam menciptakan struktur pertahanan yang andal, seperti halnya orang-orang tidak mengenakan rompi anti peluru untuk melindungi dari kemungkinan terkena tembakan oleh penembak. Tetapi jika negara yang tidak ramah membangun ratusan ribu drone yang dapat menghapus kota dari muka bumi, Anda dapat yakin bahwa segala sesuatu tidak dapat dilakukan tanpa jaring. Video ini mengambil masalah nyata: teroris menyerang dengan drone - dan menskalanya tanpa memperhitungkan reaksi pihak lain. Jika produksi mikrodron yang mematikan pada skala industri dimulai, perlindungan dan tindakan pencegahan terhadapnya akan menjadi prioritas negara, dalam hal ini tindakan pencegahan akan sederhana. Dan senjata apa pun yang dapat dilindungi dengan kawat tidak dianggap sebagai senjata pemusnah massal.

Ketiga, video tersebut menyiratkan bahwa militer tidak dapat mencegah teroris untuk mendapatkan akses ke senjata tingkat tentara. Tetapi hari ini kami tidak memberikan granat tangan, senapan anti-tank atau senapan mesin kepada teroris [benar, pernyataan ini dibantah bahkan oleh biopic terakhir dengan Tom Cruise dalam peran utama / kira-kira. diterjemahkan.]. Teroris yang menyerang dengan drone menggairahkan semua orang karena mereka menggunakan bahan peledak buatan sendiri, yang melekat pada teknologi yang sudah jadi. Ini adalah masalah nyata, tetapi sekali lagi, video ini menskala ancaman ini ke volume yang tidak realistis. Sekalipun militer mulai membuat mikrodrone yang mematikan, para teroris akan dapat memperolehnya dalam jumlah besar tidak lebih mudah daripada teknologi militer lainnya. Senjata benar-benar secara bertahap jatuh ke tangan peserta dalam pertempuran yang bertempur di pihak yang salah, tetapi hanya karena Suriah penuh dengan rudal anti-tank anti-tank tidak berarti bahwa mereka mudah untuk bertemu di New York. Teroris menggunakan pesawat dan truk justru karena tidak mudah menyelundupkan senjata tipe tentara ke negara Barat.


Killer Microdrones dari film

Keempat, video menunjukkan bahwa teroris mampu menyerang dengan koordinasi yang sangat tepat. Dalam satu episode, dua orang melepaskan segerombolan 50 drone dari pintu sebuah van. Episode ini sendiri cukup realistis; salah satu masalah dengan senjata otonom adalah bahwa sekelompok kecil orang dapat melancarkan serangan skala besar daripada jika mereka memiliki senjata konvensional. Gerobak dengan 50 drone adalah pilihan yang cukup masuk akal. Tapi film ini membawa ide itu menjadi absurd. Diperkirakan sekitar 8.300 orang tewas dalam serangan simultan. Kemudian, jika orang dengan van menggambarkan serangan tipikal, maka untuk kerusakan seperti itu, teroris harus melakukan sekitar 160 serangan di seluruh dunia. Teroris memang sering melakukan serangan terkoordinasi, tetapi jumlah mereka biasanya tidak melebihi sepuluh . Dan video itu mengasumsikan tidak hanya kehadiran senjata super, tetapi juga bahwa itu jatuh ke tangan supervillains.

Dalam film tersebut, hype dan ketakutan digunakan untuk mengatasi asumsi kritis, yang karenanya mengganggu diskusi rasional tentang risiko yang terkait dengan akses teroris ke senjata otonom . Dari video itu, menjadi jelas bahwa kita harus takut. Tapi mengapa harus takut? Senjata yang memilih tujuan mereka sendiri (tentang ini, omong-omong, tidak semuanya jelas dalam video)? Senjata tanpa tindakan balasan? Bahwa teroris bisa mendapatkan senjata? Kemampuan senjata otonom untuk meningkatkan serangan? Jika Anda ingin menimbulkan ketakutan terhadap robot pembunuh, maka video ini tepat untuk Anda. Tetapi ketika Anda mencoba untuk menganalisis masalah secara menyeluruh, itu tidak tahan bahkan studi sederhana. Video ini tidak memberikan argumen apa pun, tetapi terlibat dalam menciptakan sensasi murah dan meningkatkan rasa takut.

Secara alami, tujuan dari video ini adalah untuk mendorong penonton untuk bertindak dengan rasa takut.
Video berakhir dengan kata-kata seorang profesor dari University of California di Berkeley, Stuart Russell , yang memperingatkan tentang bahaya senjata otonom dan mendesak penonton untuk bertindak sehingga mimpi buruk ini tidak menjadi kenyataan. Saya sangat menghormati Stuart Russell, seorang peneliti AI dan orang yang berkontribusi pada sengketa senjata otonom. Saya mengundang Russell ke acara - acara di Center for New American Security , di mana saya terlibat dalam program penelitian yang berkaitan dengan AI dan keamanan global . Saya tidak ragu bahwa pandangan Russell tulus. Tetapi video, dalam upaya untuk meyakinkan pemirsa, membuat aplikasi yang tidak didukung.

Lebih buruk lagi, solusi yang diusulkan - perjanjian yang melarang senjata otonom - tidak akan menyelesaikan masalah nyata yang dihadapi umat manusia dengan pengembangan otonomi senjata. Larangan itu tidak akan menghentikan teroris dari membuat senjata robot buatan sendiri. Juga, larangan senjata semacam itu, yang ditunjukkan dalam video, tidak akan memengaruhi risiko yang terkait dengan kemunculan senjata otonom di militer. Bahkan, tidak jelas apakah senjata yang diperlihatkan dalam film akan jatuh di bawah larangan seperti itu, karena di sana ia bertindak sangat selektif.

Berfokus pada skenario ekstrim dan tidak mungkin, film ini sebenarnya menghambat kemajuan dalam mengatasi masalah nyata seputar senjata otonom. Negara-negara di antara para pemimpin dalam pengembangan senjata robot cenderung mencatat kekhawatiran berdasarkan film ini. Film ini menuangkan air ke pabrik mereka yang mengklaim bahwa ketakutan akan senjata otonom tidak rasional dan rentan terhadap hype yang berlebihan.

Senjata otonom menimbulkan pertanyaan penting tentang mematuhi hukum perang, tentang risiko dan kontrol, dan tentang peran moral orang dalam permusuhan. Ini adalah masalah penting yang layak dibahas secara serius. Ketika Russell dan yang lainnya terlibat dalam debat yang meriah tentang masalah ini, saya menyambut diskusi semacam itu. Tetapi film yang ditentukan tidak termasuk dalam kategori ini. Video tersebut telah berhasil menarik perhatian media, tetapi kegemarannya terhadap sensasi menghalangi diskusi intelektual yang serius yang perlu diadakan mengenai masalah senjata otonom.

Paul Sharr adalah Senior Fellow, Direktur Teknologi dan Keamanan Publik di New American Security Center (CNAS). Dari 2009 hingga 2012, ia memimpin kelompok kerja Departemen Pertahanan AS, yang mengembangkan pedoman untuk penggunaan otonomi dalam persenjataan.