Verbrechensvorhersageprogramm wegen Rassismus angeklagt

Seit mehreren Jahren verwenden US-Strafverfolgungsbehörden spezielle Programme, die Kriminalstatistiken analysieren und Empfehlungen aussprechen. In Kalifornien berechnet das Programm beispielsweise die optimale Patrouillenroute unter Berücksichtigung der Wahrscheinlichkeit von Straftaten in jedem Bereich der Stadt zu einer bestimmten Tageszeit. Die Polizei von Chicago hat 2014 eine Beobachtungsliste mit den Namen von 400 der wahrscheinlichsten Kriminellen der Zukunft zusammengestellt . Der Vorhersagealgorithmus für Kriminelle und zukünftige Opfer beunruhigt Menschenrechtsverteidiger, obwohl er überraschend genau war (mehr als 70% der Opfer eines Schusses in Chicago im Jahr 2016 befanden sich auf einer vom Programm vorab erstellten Liste).

In jüngster Zeit wurden analytische Programme vor Gericht eingesetzt. Der Richter muss entscheiden, ob der Täter mit der gesetzlich vorgeschriebenen Mindest- oder Höchstschwere für eine bestimmte Straftat bestraft werden soll. In diesem Fall berechnet das Programm anhand der verfügbaren Daten den sogenannten „Risk Assessment Score“. Dieser Indikator bestimmt die Wahrscheinlichkeit einer Wiederholung des Verbrechens und beeinflusst dementsprechend die Schwere des Urteils.

Also eine gründliche Analyse der Ergebnisse des Programms von ProPublica, zeigte einen merkwürdigen Trend: Aus irgendeinem Grund gibt das Programm für Afroamerikaner (Schwarze) eine höhere Risikobewertung als für Weiße. Mit anderen Worten, der Algorithmus zeigt Rassendiskriminierung! Und dies trotz der Tatsache, dass dieses Programm speziell in das Justizsystem eingeführt wurde, um eine solche Diskriminierung auszuschließen.

Ein Risikobewertungsindikator ist sehr wichtig. Dies wirkt sich auf die Schwere des Urteils, die Höhe des Betrags, unter dem der Verdächtige gegen Kaution freigelassen wird, sowie auf die Wahl einer vorbeugenden Maßnahme und vieles mehr aus.

ProPublica-Reporter analysierten über 7.000 Fälle in Broward County, Florida, in denen die Risikobewertung des Verdächtigen anhand eines der beliebtesten Programme dieser Art von Northpointe berechnet wird .

Wie sich herausstellte, haben nur 20% der Verdächtigen, für die das Programm ein hohes Risiko für die Begehung von Straftaten feststellte, diese tatsächlich innerhalb von zwei Jahren nach der Aufdeckung begangen. Selbst wenn Sie geringfügige Verstöße wie das Überschreiten eines Hausarrests berücksichtigen, ist „die Genauigkeit des Programms etwas mehr als das Werfen einer Münze“.

Das Schlimmste ist jedoch, dass das Programm Rassendiskriminierung aufweist. Die Risikobewertungsraten für Afroamerikaner sind viel höher als für weiße Kriminelle. Die fehlerhafte Vorhersage eines Rückfalls bei Schwarzen ist doppelt so hoch wie bei Weißen.

Risikobewertungsindikator für Afroamerikaner (1 - Minimum, 10 - Maximum)


Risikobewertungsindikator für Weiße (1 - Minimum, 10 - Maximum)


Die Forscher kommen zu dem Schluss, dass das Programm gegen das Gesetz verstößt und insbesondere den Hautfarbfaktor als einen der Parameter für die Bestimmung der Wahrscheinlichkeit eines Verbrechens in der Zukunft betrachtet.

Northpointe behauptet, dass die Rasse des Verdächtigen in der Analyse keineswegs berücksichtigt wird. Andere Faktoren, die stark mit der Rasse korrelieren, werden berücksichtigt: Bildungsstand, Beschäftigungsstatus, Kriminalgeschichte von Verwandten, Drogenkonsum durch Freunde / Bekannte usw. Das Gewicht jedes Faktors in der Endbewertung wird klassifiziert - dies ist der proprietäre Algorithmus von Northpointe.

Source: https://habr.com/ru/post/de394313/