Karyawan Amazon, Google, Microsoft memberontak. Mereka marah dengan fakta kerjasama dengan Petagon, layanan anti-imigrasi dan lembaga penegak hukum, sehingga pimpinan raksasa teknologi harus mengikuti pertimbangan etis. Ini menghilangkan perusahaan dari kontrak pemerintah yang gemuk.
Habr - bukan tempat untuk politik, tetapi tempat untuk membahas etika masalah tertentu. Mari kita pahami apa yang tidak disukai oleh pandangan pengusaha terhadap karyawan perusahaan.
Microsoft, Saleforce dan pemisahan migran ilegal dari anak-anak
Sebuah skandal meletus di Amerika Serikat: publik dan media mengkritik kebijakan keras pemerintahan presidensial, Donald Trump, terkait dengan para migran. Strategi "
nol toleransi " memberikan penunjukan pembatasan dan sanksi maksimum yang mungkin di bawah hukum yang tidak terpengaruh oleh keadaan yang meringankan. Pihak berwenang AS menggunakan kebijakan ini dalam kaitannya dengan migran yang secara ilegal memasuki negara dan memisahkan mereka dari anak-anak mereka sendiri. Sementara orang dewasa berada dalam isolasi, anak-anak ditempatkan di kemah khusus anak-anak. Pada 20 Juni, di bawah tekanan dari aktivis hak asasi manusia dan jurnalis, Trump tetap
menandatangani dekrit untuk mengakhiri praktik pemisahan keluarga imigran gelap.
Namun demikian, sebelum dekrit ditandatangani, ketika anak-anak masih diambil dari orang tua mereka, para aktivis hak asasi manusia bertindak. Dengan latar belakang skandal itu, beberapa perusahaan jatuh di bawah tangan. Microsoft telah
dikritik karena berkolaborasi dengan Immigration and Customs Police (ICE) AS. Perusahaan ditentang oleh karyawannya sendiri.
Alasannya adalah bahwa perusahaan pada Januari 2018
mengumumkan kerja sama dengan pihak berwenang di bidang implementasi teknologi pengenalan wajah. Kemudian, dalam siaran pers Microsoft, disebutkan bahwa “teknologi baru ini akan memungkinkan penggunaan layanan identifikasi dan akses berbasis cloud, yang melayani baik petugas dan warga Imigrasi dan Pabean AS. Ini akan membantu karyawan membuat keputusan lebih cepat. "Pemerintah Azure akan membantu mereka memanfaatkan peluang pembelajaran yang mendalam untuk meningkatkan pengenalan wajah dan teknologi identifikasi."
Sebagai protes,
lebih dari 300 karyawan menandatangani
surat terbuka , menolak menjadi kaki tangan dalam pemisahan anak-anak dan orang tua mereka. Kemudian, kepala Microsoft, Satya Nadella,
mengatakan bahwa kerjasama hanya menyangkut dukungan untuk email, kalender dan alur kerja.
Pada 26 Juni, diketahui bahwa untuk alasan yang sama, karyawan Salesforce.com, perusahaan yang mengembangkan sistem CRM dengan nama yang sama, menentang majikan mereka. 650 orang
menandatangani permohonan kepada kepala perusahaan, Mark Benioff, mengkritik kontrak dengan perbatasan dan layanan bea cukai: "Mengingat pemisahan anak-anak dari orang tua mereka di perbatasan yang tidak manusiawi, kami percaya bahwa nilai dasar kesetaraan kami dipertaruhkan, dan bahwa Salesforce harus meninjau kontrak dengan layanan dan berbicara menentang bekerja dengannya. " Layanan ini menggunakan produk dari Salesforce.com untuk merekrut karyawan dan pekerjaan lain yang belum tentu terkait langsung dengan topik ini.
Karena masalah, seorang aktivis bernama Sam Lavigne menyusun daftar informasi tentang orang yang bekerja untuk ICE berdasarkan informasi yang tersedia di LinkedIn dan menerbitkannya di Github, melaporkannya ke Medium. Kedua sumber daya
menghapus data ini .
Amazon dan polisi
American Civil Liberties Union (
ACLU ) telah
menuntut agar Amazon berhenti bekerja pada sistem pengenalan wajah. ACLU memulai penyelidikan setelah diketahui bahwa perusahaan tersebut
menawarkan pengembangan Rekognisi kepada polisi dan perusahaan swasta mana pun.
Teknologi ini memungkinkan Anda untuk mengidentifikasi, melacak dan menganalisis wajah, serta menentukan apa yang sedang sibuk dengan seseorang - apakah ia mengendarai mobil atau bermain sepak bola. Semuanya terjadi dalam waktu nyata. Organisasi yakin bahwa teknologi ini akan mempengaruhi banyak orang dan memungkinkan mereka untuk dimonitor, melanggar hak-hak mereka. Dengan bantuannya, akan mungkin untuk mengetahui kapan dan ke dokter mana orang itu pergi, apakah dia ada di gereja, atau apakah dia berpartisipasi dalam rapat umum.
Salah satu alasan bahwa beberapa organisasi merasa tidak dapat diterima untuk menggunakan AI untuk terus-menerus memantau orang adalah hasil tes yang menunjukkan bahwa sistem yang ada lebih sering disebut penjahat sebagai orang dengan
warna kulit berbeda daripada putih. Menurut ACLU, "orang harus bisa berjalan di sepanjang jalan sampai pihak berwenang mengikuti mereka."
Aktivitas organisasi hak asasi manusia telah berdampak. Seperti dengan Microsoft, karyawan Amazon
berbicara menentang transfer teknologi polisi. Dalam sebuah surat terbuka kepada CEO Amazon Jeff Bozos, mereka juga ingat bahwa di cloud, Amazon Web Services disewakan ke server oleh Palantir, yang membantu Polisi Imigrasi dan Bea Cukai AS. Selain membekukan kerja sama, karyawan menyerukan langkah-langkah keterbukaan sehingga di masa depan jelas lembaga penegak hukum mana yang menggunakan layanan Amazon.
Kolaborasi antara Amazon dan polisi benar-benar runtuh. Di Orlando, salah satu dari beberapa departemen kepolisian yang menguji sistem Rekognition
tidak akan memperpanjang proyek percontohan.
Pendiri Kairos, sebuah perusahaan yang berspesialisasi dalam teknologi pengenalan wajah, yakin bahwa sistem seperti itu tidak dapat diperkenalkan di mana-mana di AS. Menurutnya, teknologi
akan secara serius mempengaruhi kehidupan orang-orang dari ras individu, dan di samping itu, fakta pekerjaannya akan menjadi invasi kehidupan pribadi warga negara. Itu mengingatkan
sistem kredit sosial yang muncul di Cina. "Peringkat" yang sama di Amerika Serikat mungkin bias, yang mengarah pada penangkapan orang yang tidak bersalah dan, mungkin, terhadap pembunuhan mereka oleh petugas penegak hukum: "Dalam iklim sosial yang penuh dengan protes dan kekhawatiran tentang penahanan yang tidak proporsional di penjara dan tindakan polisi ilegal, keterlibatan perangkat lunak ", yang jelas tidak siap untuk digunakan sipil dalam penegakan hukum, tidak akan dapat melayani warga dan hanya akan menyebabkan kerusuhan baru."
7 prinsip etika AI dari Google
Google telah menandatangani kontrak dengan Departemen Pertahanan AS untuk mengembangkan algoritma visi komputer sebagai bagian dari Project Maven. Teknologi ini berfokus pada pengembangan visi mesin menggunakan jaringan saraf, yang akan memungkinkan pengakuan gambar dari drone militer untuk meningkatkan efisiensi analis di Angkatan Darat AS. Pegawai sendiri mulai
mengumpulkan tanda tangan menentang pengembangan teknologi militer dan keluar dari perusahaan.
Kelompok insinyur Google lainnya mengejutkan manajer mereka dan hanya
menolak untuk bekerja pada sistem keamanan menggunakan "celah udara". Pengembangan sistem semacam itu akan memungkinkan Google untuk bersaing dalam kontrak negara yang menarik: untuk memperoleh sertifikasi untuk bekerja dengan informasi sensitif dari layanan khusus, perusahaan memerlukan sistem yang terisolasi secara fisik. Di awan Amazon dan Microsoft Azure, teknologi ini sudah ada. Meskipun ini penting, termasuk untuk organisasi keuangan, programmer tidak yakin bahwa pengembangannya tidak dirancang untuk mengobarkan perang, dan memboikot proyek.
Konsesi kepemimpinan Google terdiri dari mengumumkan
serangkaian prinsip di bidang pengembangan kecerdasan buatan, yang dijanjikan perusahaan untuk dipatuhi, serta daftar teknologi yang tidak dapat diterima untuk kecerdasan buatan Google:
- Teknologi yang menyebabkan atau dapat menyebabkan kerusakan umum;
- Senjata atau teknologi lainnya, tujuan utama atau implementasi di antaranya adalah untuk menyebabkan atau secara langsung mengurangi kerusakan pada manusia;
- Teknologi yang mengumpulkan atau menggunakan informasi pengawasan melanggar standar yang diakui secara internasional;
- Teknologi yang tujuannya bertentangan dengan prinsip-prinsip hukum internasional dan hak asasi manusia yang diakui secara universal.
Selain itu, Google
akan meninggalkan Project Maven setelah 2019, ketika kontrak berakhir.
Teknologi penggunaan ganda
Banyak teknologi abad ke-20 yang tersedia bagi konsumen pada awalnya dikembangkan untuk keperluan militer. Teflon yang ditemukan di dapur saat ini digunakan di pesawat ruang angkasa di masa lalu, sublimasi produk yang dikembangkan karena kebutuhan untuk memberi makan tentara, dan navigasi satelit diciptakan untuk militer.
Konsep "teknologi penggunaan ganda" muncul pada 1980-an, dan sekarang ekspor mereka diatur oleh undang-undang khusus di banyak negara. Produk-produk tersebut termasuk apa yang digunakan untuk tujuan sipil, tetapi dapat digunakan dalam militer. Robotika, bioteknologi, bahan dan metode pemrosesan, elektronik, laser, navigasi - pengembangan di bidang ini dan banyak bidang lainnya dilakukan dalam kerangka pesanan negara, mendorong kemajuan ilmu pengetahuan dan teknologi. Seperti yang ditunjukkan sejarah, kadang-kadang perusahaan dikritik oleh publik dan karyawan mereka sendiri, yang memaksa mereka untuk mempertimbangkan kembali posisi mereka pada topik bekerja dengan pihak berwenang.
Posisi Amazon disuarakan dalam sebuah pernyataan oleh perusahaan: “Kualitas hidup akan sangat memburuk jika kita melarang teknologi baru hanya karena beberapa orang ingin melarangnya. Bayangkan bahwa orang tidak dapat membeli komputer karena dapat digunakan untuk tujuan ilegal? "
Kepala beberapa perusahaan mengkritik kebijakan "toleransi nol". Tim Cook
berbicara menentangnya: “Banyak imigran bekerja di Apple. Sebagai bagian dari program DACA (Deferred Action for Childhood Arrival, sebuah program yang melindungi terhadap pengusiran dari negara imigran yang datang ke Amerika Serikat sebagai seorang anak), kami mempekerjakan 300 orang. Saya mendukung mereka. "
Konflik baru-baru ini dan bahkan pemogokan karyawan hanya mencerminkan kecemasan sosial yang semakin kuat dari kerja sama perusahaan teknologi raksasa dan organisasi pemerintah. Tidak hanya penggemar teknologi, tetapi orang awam juga ngeri melihat seberapa
baik infrastruktur pengawasan di Tiongkok
berkembang . Perbedaan-perbedaan dalam budaya peradaban Barat memaksa kita untuk mengembangkan norma-norma kontrol publik atas penyebaran teknologi pengawasan.