“Kami percaya bahwa Google tidak boleh menjadi bagian dari bisnis militer. Karena itu, kami meminta perusahaan untuk membatalkan proyek Maven, serta mempublikasikan dan menerapkan kebijakan yang dengan jelas menyatakan bahwa Google maupun kontraktornya tidak akan pernah membangun teknologi militer, ”memulai teks surat kolektif kepada majikan, yang sekarang sedang ditandatangani secara besar-besaran oleh karyawan Google. Dokumen tersebut telah ditandatangani oleh
lebih dari 3.100 orang ,
menurut NY Times . Para editor mendapatkan
teks (pdf) .
Seperti diketahui sebulan yang lalu, raksasa pencarian
menandatangani kontrak dengan Departemen Pertahanan AS . Sebagai bagian
dari proyek Maven, pada akhir 2017 direncanakan untuk "memperkenalkan algoritma komputer canggih ke platform pemerintah untuk mengenali objek dalam sejumlah besar gambar bergerak atau diam." Sebenarnya, ini adalah sistem visi mesin untuk UAV militer.
Dalam surat itu, proyek Maven secara singkat digambarkan sebagai "mesin AI kustom yang menggunakan data Wide Area Motion Imagery yang dikumpulkan oleh pemerintah AS untuk kendaraan udara tak berawak untuk mendeteksi kendaraan dan benda-benda lain, melacak pergerakan mereka dan mengirimkan hasil pengakuan ke Departemen Pertahanan."
Di antara karyawan Google biasa,
diskusi tentang proyek telah berlangsung selama setidaknya satu bulan . Surat itu mengatakan bahwa pada awalnya mereka mencoba membahas masalah di dalam perusahaan. Staf tersebut dialamatkan oleh ketua dewan direksi Google Diane Greene (Diane Greene). Dia meyakinkan bahwa teknologi Google tidak akan "mengendalikan drone" dan "tidak akan digunakan untuk meluncurkan senjata." Seolah-olah fakta-fakta ini cukup untuk meyakinkan semua orang. Tapi tidak. Bahkan, teknologi ini dapat digunakan untuk sejumlah besar aplikasi militer lainnya, termasuk memerangi UAV yang membawa senjata mematikan di atas kapal. Dan tidak ada yang menjamin bahwa operator UAV akan memutuskan untuk menggunakan senjata ini setelah menerima data dari Google. Programer sipil biasa, spesialis dalam visi mesin dan kecerdasan buatan tidak ingin mengambil tanggung jawab seperti itu.
Pada musim gugur 2017, pada pertemuan puncak tentang Inteligensi Buatan dan Sistem Keamanan Global, Eric Schmidt
menyatakan keprihatinannya bahwa sistem penglihatan mesin dan AI yang canggih seperti itu "dapat disalahgunakan oleh militer untuk membunuh orang." Menurutnya, dalam industri teknologi ada beberapa kekhawatiran tentang ini, karena secara umum, perusahaan IT sama sekali tidak mengembangkan sistem visi mesin. Banyak ilmuwan dan peneliti dari universitas dan departemen AI tidak menyarankan bahwa pengembangan mereka dapat digunakan dengan cara ini.
Pentagon percaya sebaliknya. Proyek Maven diluncurkan pada April 2017, dan tahun lalu Departemen Pertahanan menginvestasikan total $ 7,4 miliar di bidang yang berkaitan dengan Kecerdasan Buatan, tulis
The Wall Street Journal . Sekarang semua pekerjaan untuk pembelian peralatan dan perangkat lunak, serta implementasi sistem AI, dikoordinasikan dalam kerangka kerja proyek Maven. Tugas utama adalah pengenalan objek dan pemrosesan analitis dari sejumlah besar bingkai video yang direkam oleh drone pengintai. Berdasarkan informasi ini, keputusan dapat diambil untuk menghancurkan target.
"Rencana ini akan merusak merek dan kemampuan Google untuk bersaing di pasar kerja," kata surat itu. - Di tengah meningkatnya kekhawatiran akan bias dan bersenjata AI, Google sudah berjuang untuk mempertahankan kepercayaan publik. Dengan menandatangani kontrak ini, Google akan bergabung dengan jajaran perusahaan seperti Palantir, Raytheon dan General Dynamics. Argumen bahwa perusahaan lain, seperti Microsoft dan Amazon, juga berpartisipasi dalam proyek ini, tidak mengurangi risiko untuk Google. "Sejarah unik Google, semboyannya
Don't Be Evil , dan dampak langsungnya pada kehidupan milyaran orang membuatnya tidak terlihat."
Karyawan percaya bahwa tidak
mungkin untuk mengalihkan tanggung jawab moral kepada orang yang tidak berwenang untuk menggunakan teknologi yang dibuat . Nilai yang dinyatakan Google menjelaskan bahwa setiap pengguna mempercayai perusahaan. Anda tidak pernah bisa mengambil risiko itu. Kontrak ini membahayakan reputasi Google dan secara langsung bertentangan dengan nilai-nilai inti. "Penciptaan teknologi ini untuk membantu pemerintah AS dalam intelijen militer - dan berpotensi fatal - tidak dapat diterima," kata surat itu.
Maka, ribuan karyawan yang menandatangani surat itu bertanya kepada manajemen:
- Batalkan proyek dengan segera.
- Merancang, menerbitkan, dan menegakkan kebijakan yang jelas yang mengatakan bahwa Google maupun kontraktornya tidak akan pernah menciptakan teknologi untuk perang.
Menanggapi keluhan publik, Google
berhenti berlangganan bahwa Pentagon menggunakan "perangkat lunak gratis yang tersedia untuk setiap pengguna Google Cloud." Teknologi ini "digunakan untuk mengidentifikasi calon gambar yang akan dipelajari oleh seseorang dan dirancang untuk menyelamatkan nyawa manusia dan menyelamatkan orang dari harus melakukan pekerjaan yang sangat membosankan."
Menurut informasi yang tersedia, dalam waktu dekat, Google, Amazon dan Microsoft akan mengajukan kontrak multi-miliar dolar untuk penyediaan layanan cloud kepada Departemen Pertahanan AS.
