American Civil Liberties Union (ACLU) melanjutkan kampanye menentang penggunaan sistem pengenalan wajah oleh agen-agen federal dan polisi. ACLU menegaskan bahwa kualitas sistem ini terlalu buruk untuk penggunaan nyata. Akibatnya, akan ada banyak kesalahan positif, yang akan menyebabkan orang yang tidak bersalah menderita. Mencoba meyakinkan Kongres AS untuk melarang penggunaan sistem-sistem ini, para pembela HAM mengambil tindakan berani namun efektif: mereka melewati sistem pengenalan wajah
Amazon Rekognisi dari semua anggota Kongres Amerika. Hasilnya sedikit dapat diprediksi: sistem
mengakui 28 anggota kongres sebagai penjahat . Foto-foto "pahlawan" di tangkapan layar di atas.
Amazon secara agresif mempromosikan sistem pengenalan wajahnya. Baru-baru ini diketahui bahwa perusahaan telah
menandatangani kontrak dengan unit kepolisian di Washington County, Oregon dan Florida. CEO Perusahaan Jeff Bezos menempatkan Rekognition sebagai alat yang efektif untuk pengenalan wajah secara real time, termasuk aliran video yang berasal dari kamera video yang dapat dikenakan pada seragam polisi.
Ini mengingatkan pada sistem yang tahun ini
mulai diuji di beberapa kota di Cina, termasuk kota Zhengzhou (provinsi Henan di timur Cina tengah). Di sana, petugas polisi diberi kacamata khusus dengan kamera video, yang juga terhubung ke perangkat lunak pengenalan wajah.
Gadget pertama kali diberikan kepada petugas polisi lalu lintas yang bekerja di Stasiun Kereta Timur Zhengzhou yang sibuk, karena kebanyakan orang lewat di depan mata mereka. Kacamata dirancang khusus untuk polisi dan terhubung ke komputer genggam. Setelah memindai wajah pejalan kaki, komputer terhubung ke database pusat, tempat pertandingan dicari. Eksperimen ini membuktikan keefektifannya: pada 6 Februari, polisi berhasil mengidentifikasi tujuh buron yang dituduh bersembunyi dari lokasi kecelakaan dan perdagangan manusia.
Namun di Cina, perlindungan hak asasi manusia lebih lunak: sudah ada
170 juta kamera pengintai yang beroperasi di jalan-jalan yang terhubung ke sistem pengenalan wajah tunggal. Positif palsu tidak mengganggu siapa pun terutama jika sistem membantu menangkap penjahat sungguhan.
Tetapi aktivis HAM Amerika percaya bahwa positif palsu adalah bukti bahwa sistem tersebut belum siap untuk digunakan.
Hasil tes ACLU menunjukkan bahwa Rekognition keliru mengambil gambar 28 anggota kongres yang tidak bersalah untuk penjahat. Sangat menarik bahwa tanggapan yang salah terdistorsi terhadap orang dengan warna kulit hitam. Di antara anggota kongres yang “terkena dampak” ada 39%, meskipun pada kenyataannya anggota kongres hitam hanya 20% dari majelis rendah parlemen. Hasil ini mengkonfirmasi keprihatinan kelompok-kelompok kulit hitam dalam
surat Kaukus Hitam Kongres ke Amazon bahwa menggunakan pengenalan wajah dapat memiliki “konsekuensi negatif yang tidak diinginkan yang dalam” bagi orang kulit hitam, migran gelap, dan pengunjuk rasa. Bahkan, ada tanda-tanda bahwa sistem lebih cenderung membuat kesalahan ketika membandingkan wajah hitam, terutama wanita.
Tetapi secara umum, semua orang berada di bawah tangan - demokrat, republikan, pria dan wanita, dari segala usia dari berbagai daerah di negara itu. Semuanya jatuh ke dalam jumlah kesalahan sistem.
Perwakilan ACLU percaya bahwa setiap false positive akan membahayakan kebebasan manusia. Seorang polisi mungkin bias terhadap orang seperti itu dengan menginterogasinya atau mencari.
Pemindaian dilakukan pada layanan publik Amazon Rekognition, biaya layanan adalah $ 12,33. Sebagai perbandingan dengan foto-foto, 535 anggota kongres dan senator memilih 25.000 foto yang diborgol dari orang-orang yang tersedia untuk umum. Tes dilakukan dengan pengaturan default. 28 kesalahan berarti sekitar 5% positif salah. Secara teori, ini mungkin hasil yang baik, tetapi jika diterapkan pada ribuan orang, itu berarti banyak orang tidak bersalah yang dicari karena kesalahan program.
Tentu saja, semua hasil dari program ini akan diperiksa oleh orang-orang, tetapi kita semua tahu bahwa sistem seperti itu dapat dengan cepat keluar dari kendali dan masuk ke mode otomatis, seperti yang terjadi dengan sistem untuk mengeluarkan tiket tilang.
ACLU meminta Kongres untuk "memperkenalkan moratorium" pada penggunaan teknologi ini sampai mulai menghasilkan akurasi yang dapat diterima.