Prediktivno policijsko delo: preprečevanje kriminala ali krepitev pristranskosti?

KREDIT ZA SLIKO:
Image kredit
iStock

Prediktivno policijsko delo: preprečevanje kriminala ali krepitev pristranskosti?

Prediktivno policijsko delo: preprečevanje kriminala ali krepitev pristranskosti?

Besedilo podnaslova
Algoritmi se zdaj uporabljajo za napovedovanje, kje se lahko zločin zgodi naslednjič, toda ali je mogoče zaupati, da bodo podatki ostali objektivni?
    • Avtor:
    • ime avtorja
      Quantumrun Foresight
    • Maj 25, 2023

    Uporaba sistemov umetne inteligence (AI) za prepoznavanje vzorcev kriminala in predlaganje možnosti posredovanja za preprečevanje kriminalnih dejavnosti v prihodnosti je lahko obetavna nova metodologija za organe kazenskega pregona. Z analizo podatkov, kot so poročila o kaznivih dejanjih, policijske evidence in druge pomembne informacije, lahko algoritmi prepoznajo vzorce in trende, ki jih je ljudem težko zaznati. Vendar pa uporaba umetne inteligence pri preprečevanju kriminala sproža nekaj pomembnih etičnih in praktičnih vprašanj. 

    Prediktivni policijski kontekst

    Prediktivno policijsko delo uporablja lokalno kriminalistično statistiko in algoritme za napovedovanje, kje se bodo kazniva dejanja najverjetneje zgodila. Nekateri ponudniki prediktivnega policijskega nadzora so dodatno spremenili to tehnologijo za napovedovanje popotresnih sunkov, da bi natančno določili območja, kjer bi morala policija pogosto patruljirati, da bi preprečila kazniva dejanja. Poleg "vročih točk" tehnologija uporablja lokalne podatke o aretacijah, da prepozna vrsto posameznika, ki bo verjetno storil kazniva dejanja. 

    Ameriški ponudnik programske opreme za prediktivno policijo Geolitica (prej znan kot PredPol), čigar tehnologijo trenutno uporablja več organov kazenskega pregona, trdi, da so odstranili rasno komponento iz svojih naborov podatkov, da bi odpravili prekomerno policijsko spremljanje temnopoltih ljudi. Vendar pa so nekatere neodvisne študije, ki sta jih izvedli tehnološko spletno mesto Gizmodo in raziskovalna organizacija The Citizen Lab, ugotovile, da so algoritmi dejansko okrepili pristranskost do ranljivih skupnosti.

    Na primer, policijski program, ki je uporabil algoritem za napovedovanje, kdo je v nevarnosti, da bo vpleten v nasilna kazniva dejanja, povezana z orožjem, je bil deležen kritik, potem ko je bilo razkrito, da je bilo 85 odstotkov tistih, za katere je bilo ugotovljeno, da imajo najvišje ocene tveganja, Afroameričani, nekateri z brez prejšnje nasilne kazenske evidence. Program, imenovan Strategic Subject List, je bil pod drobnogledom leta 2017, ko je Chicago Sun-Times pridobil in objavil bazo podatkov o seznamu. Ta incident poudarja možnost pristranskosti pri uporabi umetne inteligence v kazenskem pregonu in pomen skrbnega preučevanja možnih tveganj in posledic pred uvedbo teh sistemov.

    Moteč vpliv

    Prediktivno policijsko delovanje ima nekaj prednosti, če se izvaja pravilno. Preprečevanje kriminala je velika prednost, kot je potrdila policija Los Angelesa, ki je dejala, da so njihovi algoritmi povzročili 19-odstotno zmanjšanje števila vlomov znotraj navedenih žarišč. Druga prednost je odločanje na podlagi številk, kjer podatki narekujejo vzorce, ne človeška pristranskost. 

    Vendar pa kritiki poudarjajo, da ker so ti nabori podatkov pridobljeni od lokalnih policijskih oddelkov, ki so v preteklosti aretirali več temnopoltih (zlasti Afroameričanov in Latinskoameričanov), vzorci zgolj poudarjajo obstoječe pristranskosti do teh skupnosti. Glede na Gizmodovo raziskavo, ki uporablja podatke iz Geolitice in več agencij kazenskega pregona, napovedi Geolitice posnemajo dejanske vzorce prekomernega nadzora in prepoznavanja temnopoltih in latinoameriških skupnosti, celo posameznikov v teh skupinah z ničelnimi zapisi o aretacijah. 

    Organizacije za državljanske pravice so izrazile zaskrbljenost nad vedno večjo uporabo prediktivnega policijskega nadzora brez ustreznega upravljanja in regulativnih politik. Nekateri so trdili, da se za temi algoritmi uporabljajo »umazani podatki« (številke, pridobljene s koruptivnimi in nezakonitimi praksami), agencije, ki jih uporabljajo, pa te pristranskosti skrivajo za »pranjem tehnologije« (trdijo, da je ta tehnologija objektivna preprosto zato, ker ni človeški poseg).

    Druga kritika, s katero se sooča prediktivno policijsko delovanje, je, da je javnosti pogosto težko razumeti, kako ti algoritmi delujejo. Zaradi tega pomanjkanja preglednosti je organom kazenskega pregona težko zagotoviti odgovornost za odločitve, ki jih sprejmejo na podlagi napovedi teh sistemov. V skladu s tem številne organizacije za človekove pravice pozivajo k prepovedi prediktivnih policijskih tehnologij, zlasti tehnologije za prepoznavanje obraza. 

    Posledice prediktivnega policijskega delovanja

    Širše posledice prediktivnega nadzora lahko vključujejo:

    • Državljanske pravice in marginalizirane skupine, ki lobirajo in nasprotujejo široki uporabi prediktivnega policijskega nadzora, zlasti znotraj barvnih skupnosti.
    • Pritisk na vlado, da uvede politiko nadzora ali oddelek za omejitev uporabe prediktivnega policijskega delovanja. Prihodnja zakonodaja bo morda prisilila policijske agencije, da uporabljajo nepristranske podatke o profiliranju državljanov tretjih oseb, ki jih je odobrila vlada, za usposabljanje njihovih ustreznih algoritmov za napovedovanje policije.
    • Več agencij kazenskega pregona po vsem svetu se zanaša na neko obliko prediktivnega policijskega delovanja, ki dopolnjuje svoje strategije patruljiranja.
    • Avtoritarne vlade uporabljajo spremenjene različice teh algoritmov za napovedovanje in preprečevanje protestov državljanov in drugih javnih nemirov.
    • Več držav prepoveduje tehnologije za prepoznavanje obrazov v svojih organih kazenskega pregona pod vse večjim pritiskom javnosti.
    • Povečano število tožb proti policijskim agencijam zaradi zlorabe algoritmov, ki so vodili do nezakonitih ali napačnih aretacij.

    Vprašanja, ki jih je treba upoštevati

    • Ali menite, da bi bilo treba uporabiti prediktivno policijsko delovanje?
    • Kako mislite, da bodo algoritmi za napovedovanje policije spremenili način izvajanja pravice?

    Insight reference

    Za ta vpogled so bile navedene naslednje priljubljene in institucionalne povezave:

    Brennan Center za pravosodje Razlaga predvidenega policijskega delovanja