Predykcyjne działania policyjne: zapobieganie przestępczości czy wzmacnianie uprzedzeń?

• Autor:
• nazwisko autora

  Foresight Quantumrun
• 25 maja 2023 r.

Wykorzystanie systemów sztucznej inteligencji (AI) do identyfikowania schematów przestępczości i sugerowania opcji interwencji w celu zapobiegania przyszłej działalności przestępczej może być obiecującą nową metodologią dla organów ścigania. Analizując dane, takie jak zgłoszenia przestępstw, rejestry policyjne i inne istotne informacje, algorytmy mogą identyfikować wzorce i trendy, które mogą być trudne do wykrycia dla ludzi. Jednak zastosowanie sztucznej inteligencji w zapobieganiu przestępczości rodzi kilka ważnych pytań etycznych i praktycznych. 

Predykcyjny kontekst policyjny

Predictive policing wykorzystuje lokalne statystyki przestępczości i algorytmy do przewidywania, gdzie przestępstwa najprawdopodobniej wystąpią w następnej kolejności. Niektórzy dostawcy predykcyjnych działań policyjnych dodatkowo zmodyfikowali tę technologię, aby przewidywać wstrząsy wtórne po trzęsieniach ziemi, aby wskazać obszary, w których policja powinna często patrolować, aby odstraszać od przestępstw. Oprócz „hotspotów” technologia wykorzystuje dane z lokalnych aresztowań, aby zidentyfikować typ osoby, która może popełnić przestępstwo. 

Firma Geolitica (wcześniej znana jako PredPol), dostawca oprogramowania do predykcyjnej policji, z której korzysta obecnie kilka organów ścigania, twierdzi, że usunęli element wyścigu ze swoich zbiorów danych, aby wyeliminować nadmierną kontrolę osób kolorowych. Jednak niektóre niezależne badania przeprowadzone przez serwis techniczny Gizmodo i organizację badawczą The Citizen Lab wykazały, że algorytmy faktycznie wzmocniły uprzedzenia wobec wrażliwych społeczności.

Na przykład program policyjny, który wykorzystywał algorytm do przewidywania, kto jest narażony na udział w brutalnych przestępstwach związanych z bronią, spotkał się z krytyką po ujawnieniu, że 85 procent osób zidentyfikowanych jako mające najwyższe wyniki ryzyka to Afroamerykanie, niektórzy z brak wcześniejszej kryminalnej przeszłości. Program, nazwany Listą Tematów Strategicznych, został zbadany w 2017 r., kiedy Chicago Sun-Times uzyskał i opublikował bazę danych tej listy. Incydent ten podkreśla potencjał stronniczości w stosowaniu sztucznej inteligencji w organach ścigania oraz znaczenie starannego rozważenia potencjalnych zagrożeń i konsekwencji przed wdrożeniem tych systemów.

Zakłócający wpływ

Istnieją pewne korzyści z predykcyjnych działań policyjnych, jeśli są one przeprowadzane prawidłowo. Główną zaletą jest zapobieganie przestępczości, co potwierdził Departament Policji Los Angeles, który stwierdził, że ich algorytmy spowodowały 19-procentową redukcję włamań we wskazanych punktach zapalnych. Kolejną korzyścią jest podejmowanie decyzji w oparciu o liczby, gdzie dane dyktują wzorce, a nie ludzkie uprzedzenia. 

Jednak krytycy podkreślają, że ponieważ te zbiory danych są uzyskiwane z lokalnych wydziałów policji, które w przeszłości aresztowały więcej osób kolorowych (zwłaszcza Afroamerykanów i Latynosów), wzorce jedynie podkreślają istniejące uprzedzenia wobec tych społeczności. Według badań Gizmodo wykorzystujących dane z Geolitica i kilku organów ścigania, prognozy Geolitica naśladują rzeczywiste wzorce nadmiernej policji i identyfikowania społeczności czarnych i latynoskich, nawet osób w tych grupach z zerową liczbą aresztowań. 

Organizacje zajmujące się prawami obywatelskimi wyraziły zaniepokojenie coraz częstszym stosowaniem predykcyjnych działań policyjnych bez odpowiedniego zarządzania i polityki regulacyjnej. Niektórzy argumentowali, że za tymi algorytmami wykorzystywane są „brudne dane” (dane uzyskane w wyniku korupcyjnych i nielegalnych praktyk), a agencje, które ich używają, ukrywają te uprzedzenia za „praniem technologii” (twierdząc, że ta technologia jest obiektywna po prostu dlatego, że nie ma ludzka interwencja).

Inną krytyką, z jaką spotykają się predyktywne działania policyjne, jest to, że opinii publicznej często trudno jest zrozumieć, jak działają te algorytmy. Ten brak przejrzystości może utrudniać pociągnięcie organów ścigania do odpowiedzialności za decyzje, które podejmują na podstawie przewidywań tych systemów. W związku z tym wiele organizacji praw człowieka wzywa do zakazania policyjnych technologii predykcyjnych, w szczególności technologii rozpoznawania twarzy. 

Implikacje predykcyjnej policji

Szersze implikacje predykcyjnych działań policyjnych mogą obejmować:

• Prawa obywatelskie i zmarginalizowane grupy lobbujące i sprzeciwiające się powszechnemu stosowaniu predykcyjnych działań policyjnych, zwłaszcza w społecznościach kolorowych.
• Nacisk na rząd, aby narzucił politykę lub departament nadzoru w celu ograniczenia stosowania predykcyjnych działań policyjnych. Przyszłe przepisy mogą zmusić agencje policyjne do korzystania z danych dotyczących profilowania obywateli bez uprzedzeń, pochodzących od zatwierdzonych przez rząd stron trzecich, w celu szkolenia odpowiednich algorytmów predykcyjnych działań policyjnych.
• Więcej organów ścigania na całym świecie polega na jakiejś formie predykcyjnej policji jako uzupełnienia strategii patrolowania.
• Rządy autorytarne używają zmodyfikowanych wersji tych algorytmów do przewidywania i zapobiegania protestom obywateli i innym zakłóceniom publicznym.
• Coraz więcej krajów zakazuje stosowania technologii rozpoznawania twarzy w swoich organach ścigania pod rosnącą presją opinii publicznej.
• Zwiększona liczba procesów sądowych przeciwko agencjom policji za niewłaściwe użycie algorytmów, które doprowadziło do bezprawnych lub błędnych aresztowań.

Pytania do rozważenia

• Czy uważa Pan/Pani, że należy stosować predykcyjne działania policyjne?
• Jak myślisz, w jaki sposób predykcyjne algorytmy policyjne zmienią sposób egzekwowania sprawiedliwości?