برنامج التنبؤ بالجرائم المتهم بالعنصرية

لعدة سنوات ، تستخدم وكالات إنفاذ القانون الأمريكية برامج خاصة تحلل إحصاءات الجريمة وتقدم توصيات. على سبيل المثال ، في كاليفورنيا ، يحسب البرنامج مسار الدورية الأمثل ، مع الأخذ في الاعتبار احتمال وقوع جريمة في كل منطقة من المدينة في وقت محدد من اليوم. جمعت شرطة شيكاغو في عام 2014 قائمة مراقبة بأسماء 400 من المجرمين الأكثر احتمالا في المستقبل . تقلق خوارزمية التنبؤ للمجرمين والضحايا المستقبليين المدافعين عن حقوق الإنسان ، على الرغم من أنها أظهرت دقة مدهشة (أكثر من 70 ٪ من ضحايا طلقة نارية في شيكاغو في عام 2016 كانوا على قائمة تم تجميعها مسبقًا من قبل البرنامج).

في الآونة الأخيرة ، بدأ استخدام البرامج التحليلية في المحاكم. يجب على القاضي أن يقرر ما إذا كان سيعاقب الجاني بالحد الأدنى أو الأقصى من الخطورة المنصوص عليه في القانون في جريمة معينة. في هذه الحالة ، يحسب البرنامج ما يسمى "درجة تقييم المخاطر" بناءً على البيانات المتاحة. يحدد هذا المؤشر احتمالية تكرار الجريمة ، وبالتالي يؤثر على شدة العقوبة.

لذا ، تحليل دقيق لنتائج البرنامج بواسطة ProPublicaكشفت عن اتجاه غريب: لسبب ما ، بالنسبة للأمريكيين من أصل أفريقي (السود) ، يعطي البرنامج تصنيف مخاطر أعلى من البيض. وبعبارة أخرى ، تعرض الخوارزمية تمييزًا عنصريًا! وذلك على الرغم من أن هذا البرنامج قد تم إدخاله على وجه التحديد في النظام القضائي على وجه التحديد من أجل استبعاد مثل هذا التمييز.

مؤشر تقييم المخاطر مهم جدا. وهو يؤثر على شدة العقوبة ، وحجم المبلغ الذي يتم بموجبه الإفراج عن المشتبه به بكفالة ، وكذلك اختيار إجراء وقائي وأكثر من ذلك بكثير.

أجرى مراسلو ProPublica تحليلاً لأكثر من 7000 حالة في مقاطعة بروارد بولاية فلوريدا ، حيث يتم حساب درجة المخاطرة للمشتبه به من خلال أحد برامج Northpointe الأكثر شيوعًا من هذا النوع .

كما اتضح ، فإن 20٪ فقط من المشتبه بهم الذين حدد البرنامج لهم خطر كبير لارتكاب الجرائم قد ارتكبوه بالفعل في غضون عامين بعد التعرض. حتى إذا كنت تأخذ في الاعتبار الانتهاكات الطفيفة مثل تجاوز حدود الإقامة الجبرية ، فإن "دقة البرنامج هي أكثر بقليل من رمي عملة معدنية".

لكن أسوأ شيء هو أن البرنامج يظهر تمييزًا عنصريًا. معدلات تقييم المخاطر للأميركيين الأفارقة أعلى بكثير من المجرمين البيض. إن التنبؤ الخاطئ للانتكاس للسود هو ضعف ضعف البيض.

مؤشر تقييم المخاطر للأمريكيين الأفارقة (1 - الحد الأدنى ، 10 - الحد الأقصى)


مؤشر تقييم المخاطر للبيض (1 - الحد الأدنى ، 10 - الحد الأقصى)


ويخلص الباحثون إلى أن البرنامج ينتهك القانون ، مع مراعاة عامل لون البشرة على وجه التحديد كأحد المعلمات لتحديد احتمال وقوع جريمة في المستقبل.

تدعي Northpointe أن سباق المشتبه به لم يؤخذ في الاعتبار بأي حال من الأحوال في التحليل. ولكن العوامل الأخرى التي ترتبط ارتباطًا وثيقًا بالعرق تؤخذ في الاعتبار: مستوى التعليم ، وحالة التوظيف ، والتاريخ الإجرامي للأقارب ، وتعاطي المخدرات من قبل الأصدقاء / المعارف ، إلخ. يتم تصنيف وزن كل عامل في النتيجة النهائية - هذه خوارزمية ملكية Northpointe.

Source: https://habr.com/ru/post/ar394313/