Prediktivni rad policije: Sprječavanje kriminala ili jačanje predrasuda?

KREDIT ZA SLIKE:
Slika kreditne
Istockphoto

Prediktivni rad policije: Sprječavanje kriminala ili jačanje predrasuda?

Prediktivni rad policije: Sprječavanje kriminala ili jačanje predrasuda?

Tekst podnaslova
Sada se koriste algoritmi za predviđanje gdje se sljedeći zločin može dogoditi, no može li se vjerovati da će podaci ostati objektivni?
    • Autor:
    • ime autora
      Quantumrun Foresight
    • Neka 25, 2023

    Korištenje sustava umjetne inteligencije (AI) za prepoznavanje obrazaca zločina i predlaganje opcija intervencije za sprječavanje budućih kriminalnih aktivnosti može biti nova metodologija koja obećava za agencije za provođenje zakona. Analizom podataka kao što su kaznena izvješća, policijski dosjei i druge relevantne informacije, algoritmi mogu identificirati obrasce i trendove koje bi ljudima bilo teško otkriti. Međutim, primjena umjetne inteligencije u prevenciji kriminala otvara neka važna etička i praktična pitanja. 

    Prediktivni policijski kontekst

    Prediktivni policijski rad koristi lokalne statistike kriminala i algoritme za predviđanje gdje će se zločini najvjerojatnije sljedeće dogoditi. Neki pružatelji usluga predviđanja policije dodatno su modificirali ovu tehnologiju za predviđanje naknadnih potresa kako bi odredili područja gdje bi policija trebala često patrolirati kako bi spriječila zločine. Osim "vrućih točaka", tehnologija koristi lokalne podatke o uhićenjima kako bi identificirala vrstu pojedinca koji će vjerojatno počiniti zločin. 

    Američki pružatelj prediktivnog policijskog softvera Geolitica (prije poznat kao PredPol), čiju tehnologiju trenutačno koristi nekoliko tijela za provođenje zakona, tvrdi da su uklonili komponentu rase u svojim skupovima podataka kako bi eliminirali pretjeranu kontrolu nad obojenim osobama. Međutim, neke neovisne studije koje su proveli tehnološka web stranica Gizmodo i istraživačka organizacija The Citizen Lab otkrile su da su algoritmi zapravo pojačali predrasude prema ranjivim zajednicama.

    Na primjer, policijski program koji je koristio algoritam za predviđanje tko je u opasnosti da bude upleten u nasilni zločin povezan s oružjem suočio se s kritikama nakon što je otkriveno da su 85 posto onih za koje je utvrđeno da imaju najveći rizik bili Afroamerikanci, neki s bez prethodne nasilne kaznene evidencije. Program pod nazivom Strategic Subject List došao je pod lupu 2017. kada je Chicago Sun-Times dobio i objavio bazu podataka popisa. Ovaj incident naglašava mogućnost pristranosti u korištenju umjetne inteligencije u provedbi zakona i važnost pažljivog razmatranja potencijalnih rizika i posljedica prije implementacije ovih sustava.

    Razarajući učinak

    Postoje neke prednosti prediktivnog policijskog rada ako se pravilno izvede. Prevencija kriminala velika je prednost, što je potvrdila i policijska uprava Los Angelesa, koja je rekla da su njihovi algoritmi rezultirali smanjenjem provala za 19 posto unutar navedenih žarišta. Još jedna prednost je donošenje odluka na temelju brojeva, gdje podaci diktiraju obrasce, a ne ljudske pristranosti. 

    Međutim, kritičari naglašavaju da, budući da su ti skupovi podataka dobiveni od lokalnih policijskih odjela, koji su imali povijest uhićenja više obojenih ljudi (osobito Afroamerikanaca i Latinoamerikanaca), obrasci samo naglašavaju postojeće predrasude protiv ovih zajednica. Prema Gizmodovom istraživanju koje koristi podatke s Geolitice i nekoliko agencija za provođenje zakona, predviđanja Geolitice oponašaju stvarne obrasce prekomjernog nadzora i identificiranja crnačkih i latinoameričkih zajednica, čak i pojedinaca unutar tih skupina bez evidencije uhićenja. 

    Organizacije za građanska prava izrazile su zabrinutost zbog sve veće upotrebe prediktivne policije bez odgovarajućeg upravljanja i regulatornih politika. Neki su tvrdili da se iza ovih algoritama koriste "prljavi podaci" (brojke dobivene korupcijom i nezakonitim radnjama), a agencije koje ih koriste skrivaju te pristranosti iza "pranja tehnologije" (tvrdeći da je ova tehnologija objektivna jednostavno zato što nema ljudska intervencija).

    Još jedna kritika s kojom se suočava prediktivni policijski rad je da je javnosti često teško razumjeti kako ti algoritmi rade. Ovaj nedostatak transparentnosti može otežati pozivanje agencija za provođenje zakona na odgovornost za odluke koje donose na temelju predviđanja ovih sustava. U skladu s tim, mnoge organizacije za ljudska prava pozivaju na zabranu prediktivnih policijskih tehnologija, posebice tehnologije prepoznavanja lica. 

    Implikacije prediktivnog rada policije

    Šire implikacije prediktivnog policijskog rada mogu uključivati:

    • Građanska prava i marginalizirane skupine koje lobiraju i protive se širokoj upotrebi prediktivnog policijskog rada, posebno unutar obojenih zajednica.
    • Pritisak na vladu da nametne politiku nadzora ili odjel kako bi se ograničilo korištenje prediktivne policije. Budući zakon mogao bi prisiliti policijske agencije da koriste nepristrane podatke o profiliranju građana od trećih strana koje je odobrila vlada kako bi uvježbali svoje prediktivne policijske algoritme.
    • Sve više agencija za provođenje zakona diljem svijeta oslanja se na neki oblik prediktivnog rada policije kako bi nadopunile svoje strategije patroliranja.
    • Autoritarne vlade koriste modificirane verzije ovih algoritama za predviđanje i sprječavanje prosvjeda građana i drugih javnih nemira.
    • Sve više zemalja zabranjuje tehnologije prepoznavanja lica u svojim agencijama za provođenje zakona pod sve većim pritiskom javnosti.
    • Povećani broj tužbi protiv policijskih agencija zbog zlouporabe algoritama koji su doveli do nezakonitih ili pogrešnih uhićenja.

    Pitanja za razmatranje

    • Mislite li da bi se trebalo koristiti prediktivno policijsko djelovanje?
    • Što mislite kako će prediktivni policijski algoritmi promijeniti način na koji se pravda provodi?

    Reference uvida

    Za ovaj uvid korištene su sljedeće popularne i institucionalne veze:

    Brennan centar za pravosuđe Objašnjenje prediktivnog rada policije