Program prediksi kejahatan dituduh rasisme

Selama beberapa tahun, lembaga penegak hukum AS telah menggunakan program khusus yang menganalisis statistik kejahatan dan membuat rekomendasi. Misalnya, di California, program menghitung rute patroli yang optimal , dengan mempertimbangkan kemungkinan kejahatan di setiap area kota pada waktu tertentu dalam sehari. Polisi Chicago pada tahun 2014 menyusun daftar pantauan dengan nama 400 dari penjahat yang paling mungkin di masa depan . Algoritma prediksi untuk penjahat dan korban di masa depan membuat khawatir para pembela hak asasi manusia, meskipun telah menunjukkan akurasi yang mengejutkan (lebih dari 70% dari korban penembakan di Chicago pada tahun 2016 ada dalam daftar yang telah disusun sebelumnya oleh program).

Baru-baru ini, program analitis mulai digunakan di pengadilan. Hakim harus memutuskan apakah akan menghukum pelaku dengan tingkat keparahan minimum atau maksimum yang ditentukan oleh hukum untuk kejahatan tertentu. Dalam hal ini, program menghitung apa yang disebut "skor penilaian risiko" berdasarkan data yang tersedia. Indikator ini menentukan kemungkinan terulangnya kejahatan dan, karenanya, mempengaruhi beratnya hukuman.

Jadi, analisis menyeluruh dari hasil program oleh ProPublica, mengungkapkan tren yang aneh: untuk beberapa alasan, untuk Afrika Amerika (kulit hitam), program ini memberikan peringkat risiko yang lebih tinggi daripada kulit putih. Dengan kata lain, algoritma ini menunjukkan diskriminasi rasial! Dan terlepas dari kenyataan bahwa program ini secara khusus diperkenalkan ke dalam sistem peradilan dengan tepat untuk mengecualikan diskriminasi semacam itu.

Indikator penilaian risiko sangat penting. Ini mempengaruhi beratnya hukuman, ukuran jumlah di mana tersangka dibebaskan dengan jaminan, serta pilihan tindakan pencegahan dan banyak lagi.

Wartawan ProPublica melakukan analisis terhadap lebih dari 7.000 kasus di Broward County, Florida, di mana skor risiko tersangka dihitung oleh salah satu program Northpointe yang paling populer dari jenis ini .

Ternyata, hanya 20% dari para tersangka yang programnya mengidentifikasi risiko tinggi melakukan kejahatan memang melakukannya dalam waktu dua tahun setelah paparan. Bahkan jika Anda memperhitungkan pelanggaran kecil seperti melampaui batas tahanan rumah, “keakuratan program ini lebih dari sekadar melempar koin.”

Tetapi yang terburuk adalah bahwa program tersebut memperlihatkan diskriminasi rasial. Tingkat penilaian risiko untuk orang Afrika-Amerika jauh lebih tinggi daripada untuk penjahat kulit putih. Prediksi kekambuhan yang keliru untuk kulit hitam dua kali lebih tinggi dari pada kulit putih.

Indikator penilaian risiko untuk orang Amerika keturunan Afrika (1 - minimum, 10 - maksimum)


Indikator penilaian risiko untuk orang kulit putih (1 - minimum, 10 - maksimum)


Peneliti menyimpulkan bahwa program tersebut melanggar hukum, khususnya mempertimbangkan faktor warna kulit sebagai salah satu parameter untuk menentukan kemungkinan kejahatan di masa depan.

Northpointe mengklaim bahwa ras tersangka sama sekali tidak diperhitungkan dalam analisis. Tetapi faktor-faktor lain yang sangat berkorelasi dengan ras diperhitungkan: tingkat pendidikan, status pekerjaan, riwayat kriminal kerabat, penggunaan narkoba oleh teman / kenalan, dll. Bobot masing-masing faktor dalam skor akhir diklasifikasikan - ini adalah algoritma hak milik Northpointe.

Source: https://habr.com/ru/post/id394313/