Drone militer sangat "pintar", beberapa hanya mengoperasikan operator dari waktu ke waktu, dan sisa waktu mereka melakukan tugas sendiriTeknologi kecerdasan buatan berkembang pesat. Spesialis banyak mengajarkan AI, sekarang bentuknya yang lemah (kuat, untungnya atau sayangnya belum diciptakan) bekerja di industri, perkapalan, hiburan, dan banyak industri lainnya. Tapi bagaimana dengan urusan militer? Ya, AI juga digunakan di sini, karena analisis prediksi lintasan roket atau kendaraan, aksi musuh, pengembangan strategi sendiri - kecerdasan buatan dapat mengatasi semua ini.
Tetapi bagaimana jika Anda membangun AI dari tingkat mana pun menjadi senjata, bukankah itu akan menjadi lebih efektif? Kemungkinan besar, itu akan menjadi, dan akan sangat "produktif." Namun di sini pertanyaan etika sudah muncul. Bisakah mesin mengendalikan nasib orang? Banyak pakar teknologi percaya itu tidak benar. Dan ini "banyak" baru-baru ini menandatangani deklarasi - semacam janji untuk tidak pernah mengambil bagian dalam pengembangan senjata pintar.
Di antara spesialis lain yang
mengambil bagian dalam pembuatan dan penandatanganan deklarasi adalah Elon Musk, perwakilan dari DeepMInd dan karyawan banyak perusahaan lain, di mana masalah kecerdasan buatan diangkat dengan satu atau lain cara. Menurut sekelompok ilmuwan dan pengusaha yang meninggalkan tanda tangan mereka di bawah memorandum, terserah orang lain untuk memutuskan apakah akan membunuh orang itu atau tidak, dan bukan mesin. Dan beban keputusan ini jatuh di pundak orang yang membuatnya.
Dalam kasus mesin, tidak ada keraguan moral - sistem dikirim bertugas, misalnya, untuk menyisir jalan-jalan pedesaan selama perang, dan menembak musuh ketika unit komputasi memberitahu
hati nurani . Menurut para ahli, pengembangan senjata pintar dengan elemen AI dapat menjadi faktor destabilisasi bagi negara dan warganya.
Teks deklarasi mengenai penggunaan AI dalam pembuatan senjata diterbitkan setelah konferensi IJCAI (International Joint Conference on Artificial Intelligence) diadakan di Stockholm. Itu diselenggarakan oleh Future of Life Institute. Dia sedang mempelajari risiko keberadaan manusia. Lembaga itu sebelumnya menyerukan untuk meninggalkan ide menciptakan senjata mematikan yang pintar. Sekarang ide ini telah menemukan pemahaman dan mulai menyebar lebih luas.
Di antara para penandatangan adalah kepala SpaceX dan Tesla, Ilon Musk, tiga co-pendiri anak perusahaan Google DeepMind, pencipta Skype, Jaan Tallinn, ditambah peneliti teknologi kecerdasan buatan terkenal di dunia Stuart Russell, Joshua Benggio, Jurgen Schmidhuber.
Para penandatangan terpisah mencatat bahwa inisiatif bersama mereka harus membantu bergerak dari kata-kata ke tindakan dalam hal meninggalkan senjata mematikan yang cerdas. Tidak, tidak ada yang akan mengatur revolusi, tugas utamanya adalah menunjukkan bahaya intelektualisasi senjata secara bertahap dalam bentuk apa pun. “Senjata yang secara independen menentukan siapa yang akan dibunuh adalah ide yang menjijikkan dan tidak stabil, seperti senjata biologis. Ide senjata pintar harus diperlakukan dengan cara yang sama seperti senjata biologis. "
Namun, di sini ada satu kesulitan. Faktanya adalah membedakan senjata yang benar-benar otonom dan "pintar" dari yang bukan merupakan senjata cukup sulit. Garis hantu. Ketika senjata hi-tech konvensional berhenti menjadi bodoh, tumbuh lebih bijak dan mulai memutuskan siapa yang akan tetap hidup dan siapa yang harus dibunuh? Menara otomatis yang melacak penampilan orang oleh radiasi panas - mungkinkah menggunakan senjata seperti itu? Dan apakah ada perbedaan besar antara senjata pintar dan senjata konvensional, jika menara yang sama diarahkan secara otomatis, dan seseorang hanya menekan pelatuknya?
Selain itu, deklarasi itu sendiri terlambat - sekitar 30 negara yang berbeda dipersenjatai dengan sistem yang mematikan, yang dengan atau tanpa peregangan, tetapi dapat disebut pintar.
Ngomong-ngomong, fakta yang menarik adalah bahwa pengembang Google benar-benar
memberontak ketika mereka mendengar bahwa perusahaan akan mengembangkan sistem otonom untuk Pentagon. Yaitu - drone tidak mematikan dengan AI.
Berbicara tentang senjata pintar dan masa depan mereka, orang tidak dapat tidak mengingat cerita fiksi ilmiah (sayangnya penulis dan nama, saya tidak ingat), di mana hulu ledak yang masuk akal dengan tingkat kecerdasan seperti anak 5 tahun dikirim untuk menyelesaikan tugas. Tetapi ketika mendekati markas musuh, dia menemukan bahwa orang-orang tinggal di sana, sama seperti di markasnya sendiri. Menyadari hal ini, dia memutuskan untuk melaporkan segala sesuatu kepada penciptanya dan melanjutkan penerbangan kembali. Cerita berakhir dengan fakta bahwa roket itu terbang ke jendela rumah tempat penciptanya tinggal, tetapi karena alasan yang jelas tidak punya waktu untuk mengatakan apa pun.