犯罪预测程序被指控种族主义



几年来,美国执法机构一直在使用特殊程序来分析犯罪统计数据并提出建议。例如,在加利福尼亚州,该程序会计算最佳巡逻路线,并考虑到一天中特定时间在城市每个区域犯罪的可能性。 2014年,芝加哥警方编制了一份监视清单,列出了未来400最有可能犯罪分子的名字。针对罪犯和未来受害者的预测算法尽管显示出惊人的准确性,但仍令人权捍卫者感到担忧(该程序预编译的清单中有超过70%的2016年芝加哥枪击事件的受害者)。

最近,分析程序已开始在法院使用。法官必须确定是针对特定犯罪,以法律规定的最低或最高严厉程度来惩罚犯罪者。在这种情况下,程序会根据可用数据计算出所谓的“风险评估得分”。该指标确定重犯的可能性,并因此影响刑期的轻重。

因此,ProPublica对程序结果进行了全面分析,这揭示了一个奇怪的趋势:出于某种原因,对于非裔美国人(黑人),该计划给予的风险评级高于白人。换句话说,该算法表现出种族歧视!而且,尽管事实上该程序是专门引入司法系统以排除这种歧视的事实。

风险评估指标非常重要。它会影响刑期的轻重,保释嫌疑人的数额大小,预防措施的选择等等。

ProPublica记者分析了佛罗里达州布劳沃德县(Broward County)的7,000多起案件,其中犯罪嫌疑人的风险评分是由Northpointe最受欢迎的此类程序之一计算得出的

事实证明,只有20%的程序认为犯罪嫌疑人有高犯罪风险,但确实在暴露后的两年内犯罪。即使您考虑了一些轻微的违规行为,例如超出了软禁的范围,“该程序的准确性也只不过是扔硬币而已。”

但是最糟糕的是,该程序表现出种族歧视。非裔美国人的风险评估率远高于白人罪犯。黑人的复发错误预测是白人的两倍。

非洲裔美国人的风险评估指标(1-最低,10-最高)


白人的风险评估指标(1-最低,10-最高)


研究人员得出结论,该程序违反了法律,特别是将肤色因素视为确定未来犯罪可能性的参数之一。

Northpointe声称,分析中没有考虑嫌疑犯的种族。但还要考虑与种族密切相关的其他因素:受教育程度,就业状况,亲戚的犯罪历史,朋友/熟人的吸毒情况等。最终分数中每个因素的权重均经过分类-这是Northpointe的专有算法。

Source: https://habr.com/ru/post/zh-CN394313/


All Articles