Nuspėjamasis policijos darbas: užkirsti kelią nusikalstamumui ar sustiprinti šališkumą?

• Autorius:
• autoriaus vardas

  Quantumrun Foresight
• Gali 25, 2023

Dirbtinio intelekto (AI) sistemų naudojimas siekiant nustatyti nusikaltimų modelius ir pasiūlyti intervencijos galimybes, siekiant užkirsti kelią nusikalstamai veiklai ateityje, gali būti daug žadanti nauja metodika teisėsaugos institucijoms. Analizuodami duomenis, pvz., pranešimus apie nusikaltimus, policijos įrašus ir kitą svarbią informaciją, algoritmai gali nustatyti modelius ir tendencijas, kuriuos žmonėms gali būti sunku aptikti. Tačiau dirbtinio intelekto taikymas nusikalstamumo prevencijoje iškelia keletą svarbių etinių ir praktinių klausimų. 

Nuspėjamas policijos kontekstas

Nuspėjamoji policija naudoja vietinę nusikalstamumo statistiką ir algoritmus, kad prognozuotų, kur toliau greičiausiai įvyks nusikaltimai. Kai kurie nuspėjamosios policijos paslaugų teikėjai dar labiau modifikavo šią technologiją, kad galėtų numatyti žemės drebėjimo požeminius smūgius ir tiksliai nustatyti sritis, kuriose policija turėtų dažnai patruliuoti, kad atgrasytų nuo nusikaltimų. Be „karštųjų taškų“, technologija naudoja vietinius arešto duomenis, kad nustatytų asmens, galinčio padaryti nusikaltimus, tipą. 

JAV įsikūręs nuspėjamosios policijos programinės įrangos tiekėjas „Geolitica“ (anksčiau žinomas kaip „PredPol“, kurio technologija šiuo metu naudojasi kelios teisėsaugos institucijos), tvirtina, kad jie pašalino lenktynių komponentą į savo duomenų rinkinius, kad pašalintų pernelyg didelį spalvotų žmonių kontrolę. Tačiau kai kurie nepriklausomi technologijų svetainės „Gizmodo“ ir tyrimų organizacijos „The Citizen Lab“ atlikti tyrimai parodė, kad algoritmai iš tikrųjų sustiprino šališkumą prieš pažeidžiamas bendruomenes.

Pavyzdžiui, policijos programa, kuri naudojo algoritmą, numatantį, kam gresia smurtinis nusikaltimas, susijęs su ginklais, sulaukė kritikos po to, kai paaiškėjo, kad 85 procentai asmenų, kuriems nustatytas didžiausias rizikos balas, buvo afroamerikiečiai, kai kurie ankstesnio smurtinio teistumo neturi. Programa, pavadinta Strateginių dalykų sąrašu, buvo išnagrinėta 2017 m., kai Chicago Sun-Times gavo ir paskelbė sąrašo duomenų bazę. Šis incidentas pabrėžia galimą šališkumą naudojant dirbtinį intelektą teisėsaugos srityje ir tai, kad prieš diegiant šias sistemas svarbu atidžiai apsvarstyti galimą riziką ir pasekmes.

Trikdantis poveikis

Nuspėjamoji policija turi tam tikrų pranašumų, jei ji atliekama teisingai. Kaip patvirtino Los Andželo policijos departamentas, nusikaltimų prevencija yra didelis privalumas, teigdamas, kad dėl jų algoritmų vagysčių nurodytose karštosiose vietose sumažėjo 19 proc. Kitas privalumas yra skaičiais pagrįstas sprendimų priėmimas, kai duomenys diktuoja modelius, o ne žmonių šališkumą. 

Tačiau kritikai pabrėžia, kad kadangi šie duomenų rinkiniai yra gauti iš vietos policijos departamentų, kurie anksčiau buvo sulaikę daugiau spalvotų žmonių (ypač afroamerikiečių ir lotynų amerikiečių), modeliai tik pabrėžia esamą šališkumą šioms bendruomenėms. Remiantis „Gizmodo“ tyrimu, naudojant „Geolitica“ ir kelių teisėsaugos agentūrų duomenis, „Geolitica“ prognozės imituoja realius juodaodžių ir lotynų bendruomenių perteklinės priežiūros ir identifikavimo modelius, net ir šiose grupėse esančius asmenis, kurių areštų nėra. 

Pilietinių teisių organizacijos išreiškė susirūpinimą dėl vis didesnio nuspėjamosios policijos naudojimo be tinkamo valdymo ir reguliavimo politikos. Kai kurie įrodinėjo, kad už šių algoritmų naudojami „nešvarūs duomenys“ (skaičiai, gauti per korupcinę ir neteisėtą praktiką), o juos naudojančios agentūros šiuos šališkus slepia už „techninių plovimų“ (teigdamos, kad ši technologija yra objektyvi vien todėl, kad nėra žmogaus įsikišimas).

Kita kritika, su kuria susiduria nuspėjamoji policija, yra ta, kad visuomenei dažnai sunku suprasti, kaip veikia šie algoritmai. Dėl skaidrumo trūkumo teisėsaugos institucijoms gali būti sunku atsakyti už sprendimus, kuriuos jos priima remiantis šių sistemų prognozėmis. Atitinkamai, daugelis žmogaus teisių organizacijų ragina uždrausti nuspėjamąsias policijos technologijas, ypač veido atpažinimo technologijas. 

Nuspėjamosios policijos pasekmės

Platesnės nuspėjamosios policijos pasekmės gali apimti:

• Pilietinės teisės ir marginalizuotos grupės, užsiimančios lobizmu ir stumiančios prieš platų nuspėjamosios policijos naudojimą, ypač spalvotose bendruomenėse.
• Spaudimas vyriausybei įvesti priežiūros politiką arba departamentą, kad būtų apribotas numatomos policijos naudojimas. Būsimi teisės aktai gali priversti policijos agentūras naudoti nešališkus piliečių profiliavimo duomenis iš vyriausybės patvirtintų trečiųjų šalių, kad apmokytų atitinkamus nuspėjamus policijos algoritmus.
• Vis daugiau teisėsaugos agentūrų visame pasaulyje pasikliauja tam tikra nuspėjamąja policijos veikla, kad papildytų savo patruliavimo strategijas.
• Autoritarinės vyriausybės, naudojančios modifikuotas šių algoritmų versijas, siekdamos numatyti ir užkirsti kelią piliečių protestams ir kitiems visuomenės trikdžiams.
• Vis daugiau šalių, uždraudusių veido atpažinimo technologijas savo teisėsaugos institucijose, patiria vis didesnį visuomenės spaudimą.
• Padaugėjo ieškinių prieš policijos agentūras dėl piktnaudžiavimo algoritmais, dėl kurių buvo neteisėtai arba klaidingai sulaikyti.

Klausimai, kuriuos reikia apsvarstyti

• Ar manote, kad reikėtų naudoti nuspėjamąją policiją?
• Kaip manote, ar nuspėjamieji policijos algoritmai pakeis teisingumo įgyvendinimą?