Predictive policing på vej til Danmark

Anvendelse af predictive policing er ekstremt afhængigt af, at man baserer det på korrekt data. Hvilket er meget vanskeligt, næsten umuligt når der er tale om hvorvidt folk skal standses på gaden, arresteres, fængsles. Forstærkende feedback loops vil ellers gøre små skævhederne til store fejl i systemet, der kan betyde alt for folks fremtidsmuligheder. Særligt når folk har tendens til at tro blindt på hvad den “neutrale” computer har fundet ud af og træffer beslutninger udfra det.

Diskrimination
Spørgsmålet er ikke om politiet har oplysningerne i forvejen, men om hvordan de udvælges og bruges inden videre analyse. I svaret til retsudvalget tages slet ikke stilling til dette: “Analyseplatformen er et redskab, der skal bruges til at sammenstille
en række oplysninger, som politiet i forvejen har adgang til, og vil ikke indebære indhentelse af nye oplysninger, men alene understøtte analyser mv. af de oplysninger, som politiet efter gældende ret har adgang til at indsamle og behandle.” Besvarelse af spørgsmål nr. 52 (Alm. del)

Hvilket er særligt bekymrende når man kan se på politiets offentlige kommunikation, at fordomme om bestemte befolkningsgrupper florerer indenfor politiet uden at ledelsen tager skridt for at bekæmpe dette. Og hvis man gør, så gøres dette ikke offentligt hvilet nedbryder offentlighedens og særligt disse befolkningsgruppers tillid til politiet.

Husk David, der døde på Amager i 2014: “En kvinde, der som den første forsøgte at alarmere politiet, har forklaret, at en politimand stillede hende det, ret beset irelevante, spørgsmål, om den unge mand var grønlænder.” dækket af Information her: “Hvis politiet kan finde på at lyve …” Husk Københavns politis forvirring omkring romaer og kriminelle, hvor det er åbenbart ok i deres bog, at skrive at romaer er kriminelle bare man ikke kalder den “sigøjnere”… “Københavns Politi fortryder nyt ”sigøjner-tweet”: – Det er meget beklageligt”, som dækket af TV2.

Britiske menneskerettighedsorganisationer har advaret kraftigt mod anvendelsen, som rapporteret af Guardian: “The major concern raised by the coalition is the low reliability of crime data. “It is well known that crime data is notoriously suspect, incomplete, easily manipulated and plagued by racial bias,” said Ezekiel Edwards, director of the Criminal Law Reform Project at the ACLU. “Data on where crime occurs is dependent in part on when and where crime is reported and in part on where the police deploy to find crime.” Malkia Cyril, co-founder and executive director of the Center for Media Justice, said: “Biases are built into the enforcement strategies that generated the data in the first place.” ”

Palantir som leverandør 
Anken mod Palantir er umiddelbart er der er nogle fuldkommen amoralske personer, der står bag firmaet. Deres firmakultur er så anløben at Coca Cola har brudt med dem og de kan ikke holde på deres medarbejdere. Læs bl.a. denne artikel i Buzzfeed fra maj 2016, om “Palantir, the [Silicon] Valley’s most secretive firm, has lost blue chip clients and is struggling to stem staff departures”

Hvor skal Folketinget starte?
Folketinget kan starte med at angribe det svar Retsudvalget fik med er at det virker som politiet vil bruge softwaren til *alt* muligt uden nogen rigtig afgrænsning. Desuden bede om svar på hvordan det danske politi har tænkt sig at forhindre de fejl, som kan ligge indbygget i et sådant system.

Kategori: ,

Efterlad en kommentar