Pengusaha Ilon Musk, yang mengepalai banyak perusahaan teknologi terkenal, dikenal karena sudut pandangnya tentang bahaya kecerdasan buatan. Tentu saja, dia terkenal bukan hanya karena pendapat ini. Namun, ia menentang membuat bentuk AI yang kuat sejak 2014. Kemudian dia secara terbuka menyatakan untuk pertama kalinya bahwa kecerdasan buatan bisa berbahaya. Stephen Hawking dan banyak ilmuwan, futurolog, dan spesialis TI lainnya setuju dengannya. Dipercayai bahwa semua manusia bisa menjadi korban singularitas teknologi.
Yang paling berbahaya, menurut Mask, adalah kecenderungan untuk menciptakan senjata "pintar" yang otonom. Menurut pengusaha tersebut, risiko munculnya "robot pembunuh" sangat tinggi, sehingga perlu untuk menangani masalah ini dengan semua perawatan yang mungkin. "Revolusi ketiga dalam persenjataan" sudah dekat, para ahli yakin, dan "robot pembunuh" yang otonom adalah semacam kotak Pandora. Hanya ada sedikit waktu untuk menyelesaikan masalah.
Sekitar seminggu yang lalu, Musk, bersama dengan 115 ahli terkemuka dari berbagai bidang ilmu pengetahuan dan teknologi, menandatangani
surat terbuka , yang penulisnya meminta PBB untuk mengatasi masalah ini, secepat mungkin.
Surat itu ditandatangani pada
Konferensi Gabungan Internasional tentang Kecerdasan Buatan (IJCAI 2017) , yang diadakan di Melbourne. Ngomong-ngomong, di antara para penandatangan - dan pendiri DeepMind Mustafa Suleiman, serta Jerome Monce, kepala perusahaan Aldebaran Robotics, yang mengembangkan robot Pepper. Jika kepala perusahaan di kepala kemajuan teknologi menandatangani surat ini, maka mungkin masalahnya benar-benar layak dipertimbangkan.
Surat itu, khususnya, menyatakan bahwa AI dan robotika berkembang dengan sangat cepat sehingga kemungkinan berperang dengan senjata otonom, termasuk robot, menjadi lebih mungkin. Selain itu, ini adalah masalah tahun-tahun mendatang, dan bukan dekade sama sekali, seperti yang diperkirakan sebelumnya. Maka sekarang perlu dipikirkan bagaimana teknologi dapat mempengaruhi nasib umat manusia. Dan, pertama-tama, para pemimpin negara di mana teknologi berkembang seaktif mungkin harus memikirkan hal ini.
Orang dapat menambahkan ini ancaman teknologi seperti jatuh ke tangan teroris dan otokrat yang, tanpa penyesalan, akan mengirim alat yang mematikan terhadap orang-orang biasa. Bahkan jika ini dapat dihindari, masih ada ancaman sistem peretasan, dan sama sekali tidak nol. Peretas telah berulang kali membuktikan bahwa hampir semuanya dapat diretas, tidak peduli seberapa baik "segalanya" ini dilindungi.
Sudah ada perkembangan senjata mematikan yang beroperasi dalam mode otonom atau semi-otonom. Antara lain, ini adalah perangkat semacam itu.
Foto itu hanya untuk menunjukkan bagaimana senjata dapat dilengkapi dengan robot dalam perang di masa depan. Tapi sekarang sudah drone terbang di langit, mampu bekerja dalam mode otomatis. Dan kapal-kapal dilengkapi dengan meriam otomatis yang secara independen melacak kemungkinan ancaman.
Pemerintah berbagai negara tidak setuju dengan sudut pandang ilmuwan dan teknologi karena berbagai alasan. Yang utama - bagi negara, senjata otonom - ini bermanfaat. Ini dapat meningkatkan efektivitas perlindungan perbatasan atau mengurangi jumlah kematian tentara dalam hal konflik lokal atau regional. Jadi, pada tahun 2015, pemerintah Inggris menentang larangan senjata mematikan yang otonom. Apalagi pengembangan senjata jenis ini sangat aktif di sini.
Nah, sudut pandang para ilmuwan yang menentang "robot pembunuh" otonom diilustrasikan dengan baik oleh pernyataan pendiri Elemen AI, Joshua Benggio: “Saya menandatangani surat terbuka, karena penggunaan AI dalam sistem senjata otonom bertentangan dengan pemahaman saya tentang etika, yang semuanya dapat menyebabkan eskalasi yang sangat berbahaya, mempengaruhi seluruh ruang lingkup pengembangan AI. Situasi harus diambil di bawah kendali komunitas internasional, seperti yang telah dilakukan dengan senjata jenis lain (biologis, kimia, nuklir). "
"Penciptaan senjata otonom yang mematikan memungkinkan kita meningkatkan perang ke proporsi yang belum pernah terjadi sebelumnya yang bahkan sulit dibayangkan," kata surat itu. Dan, mungkin, penulis surat itu benar.
