Pulizia predittiva: Prevenzione di a criminalità o rinfurzà i preghjudizii?

• Author:
• Nome di l'autore

  Quantumrun Foresight
• Chì 25, 2023

Utilizà sistemi di intelligenza artificiale (AI) per identificà mudelli di crimini è suggerisce opzioni d'intervenzione per prevene l'attività criminale futura pò esse una nova metodulugia promettente per l'agenzii di applicazione di a lege. Analizendu dati cum'è rapporti di crimini, registri di polizia è altre informazioni pertinenti, l'algoritmi ponu identificà mudelli è tendenzi chì ponu esse difficili per l'omu di detectà. Tuttavia, l'applicazione di l'IA in a prevenzione di u crimine suscite alcune dumande etiche è pratiche impurtanti. 

Cuntestu di pulizie predittiva

A pulizzia predittiva usa statistiche è algoritmi di criminalità lucali per previsione induve i crimini sò più probabili di accade dopu. Alcuni fornitori di pulizie predittivi anu mudificatu ulteriormente sta tecnulugia per predichendu scossa di terramoti per indicà e zone induve a polizia duverebbe pattugliare spessu per dissuadà i crimini. A parti di i "hotspots", a tecnulugia usa e dati di arrestu lucali per identificà u tipu di individuu prubabilmente di commette crimini. 

U fornitore di software di pulizie predittiva basatu in i Stati Uniti Geolitica (precedentemente cunnisciutu cum'è PredPol), chì a so tecnulugia hè attualmente aduprata da parechje entità forze di l'ordine, dice chì anu eliminatu u cumpunente di razza in i so datasets per eliminà l'over-policing di e persone di culore. Tuttavia, certi studii indipendenti realizati da u situ web tecnulugicu Gizmodo è l'urganizazione di ricerca The Citizen Lab anu truvatu chì l'algoritmi anu rinfurzatu i preghjudizii contr'à e cumunità vulnerabili.

Per esempiu, un prugramma di pulizie chì hà utilizatu un algoritmu per predichendu quale era in risicu di esse implicatu in crimini violenti cù l'arme, hà affruntatu critichi dopu chì hè statu revelatu chì u 85 per centu di quelli identificati cum'è avè u puntu di risicu più altu eranu omi afro-americani, alcuni cù senza precedenti precedenti criminali viulenti. U prugramma, chjamatu Lista di Sughjetti Strategichi, hè statu sottumessu à u scrutinu in 2017 quandu u Chicago Sun-Times hà ottenutu è publicatu una basa di dati di a lista. Questu incidente mette in risaltu u putenziale di preghjudiziu in l'usu di l'AI in l'applicazione di a lege è l'impurtanza di cunsiderà attentamente i risichi potenziali è e cunsequenze prima di implementà questi sistemi.

Impact disruptive

Ci sò qualchi benefizii per a polizia predictiva se fatta bè. A prevenzione di u crimine hè un vantaghju maiò, cum'è cunfirmatu da u Dipartimentu di Pulizia di Los Angeles, chì hà dettu chì i so algoritmi anu risultatu in una riduzione di 19 per centu di i furti in i hotspots indicati. Un altru benefiziu hè a decisione numerica, induve i dati dettanu mudelli, micca preghjudizii umani. 

Tuttavia, i critichi enfatizanu chì, perchè sti datasets sò ottenuti da i dipartimenti di pulizie lucali, chì avianu una storia di arrestà più persone di culore (in particulari l'Africani-Americani è i Latini-Americani), i mudelli sò solu mette in risaltu i preghjudizii esistenti contr'à queste cumunità. Sicondu a ricerca di Gizmodo aduprendu dati da Geolitica è parechje agenzie di applicazione di a lege, e predizioni di Geolitica imitanu i mudelli di a vita reale di overpolicing è identificanu e cumunità nere è latine, ancu individui in questi gruppi cù zero record di arrestu. 

L'urganisazioni di i diritti civili anu manifestatu preoccupazioni per l'usu crescente di a polizia predittiva senza una guvernanza curretta è pulitiche regulatori. Certi anu sustinutu chì "dati sporchi" (cifre ottenute da pratiche corrupte è illegali) sò aduprate daretu à questi algoritmi, è l'agenzii chì l'utilizanu nascondenu questi preghjudizii daretu à "tech-washing" (pretendendu chì sta tecnulugia hè obiettiva solu perchè ùn ci hè micca intervenzione umana).

Un'altra critica affruntata da a pulizzia predittiva hè chì hè spessu difficiule per u publicu per capisce cumu funziona sti algoritmi. Questa mancanza di trasparenza pò rende difficiuli di mantene l'agenzii di l'infurzatori di a lege rispunsevuli di e decisioni chì facenu basate nantu à e previsioni di sti sistemi. In cunsiquenza, assai urganisazioni di i diritti umani dumandanu a pruibizione di e tecnulugia di a polizia predittiva, in particulare a tecnulugia di ricunniscenza faciale. 

Implicazioni di a polizia predictiva

Implicazioni più larghe di a polizia predittiva pò include:

• I diritti civili è i gruppi marginalizati facenu lobbying è spinghjenu contru l'usu generalizatu di a polizia predittiva, in particulare in e cumunità di culore.
• Pressione per u guvernu per impone una pulitica di sorveglianza o un dipartimentu per limità l'usu di a polizia predittiva. A futura legislazione pò furzà l'agenzii di pulizzia à aduprà dati di profilazione di cittadini senza preghjudiziu da terze parti appruvati da u guvernu per furmà i so rispettivi algoritmi di pulizie predittivi.
• Più agenzie di applicazione di a lege in u mondu si basanu in una certa forma di pulizie predittiva per cumplementà e so strategie di pattuglia.
• I guverni autoritarii utilizanu versioni mudificate di questi algoritmi per predichendu è prevene e prutestazioni di i citadini è altri disturbi publichi.
• Più paesi chì pruibiscenu e tecnulugia di ricunniscenza faciale in e so agenzie di applicazione di a lege sottu una pressione crescente da u publicu.
• Aumentate i prucessi contr'à l'agenzii di pulizzia per abusu di l'algoritmi chì anu purtatu à arresti illegali o erronei.

Dumande da cunsiderà

• Pensate chì a polizia predittiva deve esse usata?
• Cumu pensate chì l'algoritmi di pulizie predittivi cambianu cumu a ghjustizia hè implementata?