Прагнастычная паліцыя: прадухіленне злачынстваў ці ўзмацненне прадузятасцей?

• аўтар:
• імя аўтара

  Quantumrun Foresight
• Можа 25, 2023

Выкарыстанне сістэм штучнага інтэлекту (AI) для выяўлення мадэляў злачынстваў і прапаноўвання варыянтаў умяшання для прадухілення будучай злачыннай дзейнасці можа стаць новай перспектыўнай метадалогіяй для праваахоўных органаў. Аналізуючы такія даныя, як справаздачы аб злачынствах, паліцэйскія пратаколы і іншую рэлевантную інфармацыю, алгарытмы могуць вызначаць заканамернасці і тэндэнцыі, якія людзям можа быць цяжка выявіць. Аднак прымяненне штучнага інтэлекту ў прафілактыцы злачыннасці ставіць некаторыя важныя этычныя і практычныя пытанні. 

Прагназуючы паліцэйскі кантэкст

Прагнастычная паліцыя выкарыстоўвае статыстыку і алгарытмы мясцовай злачыннасці, каб прагназаваць, дзе з найбольшай верагоднасцю адбудуцца наступныя злачынствы. Некаторыя пастаўшчыкі прагназуючых паліцэйскіх паслуг у далейшым мадыфікавалі гэтую тэхналогію для прагназавання афтэршокаў землятрусаў, каб вызначыць месцы, дзе паліцыя павінна часта патруляваць для стрымлівання злачынстваў. Акрамя «гарачых кропак», тэхніка выкарыстоўвае мясцовыя дадзеныя аб арыштах, каб вызначыць тып асобы, якая можа здзейсніць злачынства. 

Амерыканскі пастаўшчык праграмнага забеспячэння для прагназавання паліцыі Geolitica (раней вядомы як PredPol), чые тэхналогіі ў цяперашні час выкарыстоўваюцца некалькімі праваахоўнымі органамі, сцвярджае, што яны выдалілі кампанент расы ў сваіх наборах даных, каб выключыць празмерны кантроль за каляровымі людзьмі. Аднак некаторыя незалежныя даследаванні, праведзеныя тэхнічным вэб-сайтам Gizmodo і даследчай арганізацыяй The Citizen Lab, выявілі, што алгарытмы насамрэч узмацнілі прадузятасць да ўразлівых суполак.

Напрыклад, паліцэйская праграма, якая выкарыстоўвала алгарытм для прадказання таго, хто рызыкуе быць уцягнутым у гвалтоўныя злачынствы, звязаныя з выкарыстаннем зброі, сутыкнулася з крытыкай пасля таго, як высветлілася, што 85 працэнтаў тых, хто мае найбольшую рызыку, былі афраамерыканцамі, некаторыя з адсутнасць папярэдняй судзімасці. Праграма пад назвай Strategic Subject List трапіла пад пільную ўвагу ў 2017 годзе, калі Chicago Sun-Times атрымала і апублікавала базу дадзеных спісу. Гэты інцыдэнт падкрэслівае патэнцыял прадузятасці пры выкарыстанні штучнага інтэлекту ў праваахоўных органах і важнасць уважлівага разгляду магчымых рызык і наступстваў перад укараненнем гэтых сістэм.

Разбуральнае ўздзеянне

Ёсць некаторыя перавагі прагназуючага паліцэйскага кантролю, калі ўсё зроблена правільна. Прадухіленне злачыннасці з'яўляецца галоўнай перавагай, як пацвердзіла дэпартамент паліцыі Лос-Анджэлеса, які сказаў, што іх алгарытмы прывялі да 19-працэнтнага зніжэння колькасці крадзяжоў у пазначаных гарачых кропках. Яшчэ адна перавага - прыняцце рашэнняў на аснове лічбаў, калі дадзеныя вызначаюць шаблоны, а не чалавечыя прадузятасці. 

Аднак крытыкі падкрэсліваюць, што, паколькі гэтыя наборы дадзеных атрыманы з мясцовых паліцэйскіх упраўленняў, якія раней арыштоўвалі больш каляровых людзей (асабліва афраамерыканцаў і лацінаамерыканцаў), шаблоны проста падкрэсліваюць існуючыя прадузятасці супраць гэтых суполак. Згодна з даследаваннем Gizmodo з выкарыстаннем даных Geolitica і некалькіх праваахоўных органаў, прадказанні Geolitica імітуюць рэальныя мадэлі празмернага кантролю і выяўлення чарнаскурых і лацінаамерыканцаў, нават асоб у гэтых групах з нулявымі запісамі арыштаў. 

Арганізацыі па абароне грамадзянскіх правоў выказалі заклапочанасць з нагоды павелічэння выкарыстання прагнастычнай паліцыі без належнага кіравання і нарматыўнай палітыкі. Некаторыя сцвярджаюць, што за гэтымі алгарытмамі выкарыстоўваюцца «брудныя даныя» (лічбы, атрыманыя шляхам карупцыі і незаконнай дзейнасці), а агенцтвы, якія іх выкарыстоўваюць, хаваюць гэтыя прадузятасці за «адмываннем тэхналогій» (сцвярджаючы, што гэтая тэхналогія аб'ектыўная проста таму, што не існуе умяшанне чалавека).

Яшчэ адна крытыка, з якой сутыкаецца прагнастычная паліцыя, заключаецца ў тым, што грамадскасці часта бывае цяжка зразумець, як працуюць гэтыя алгарытмы. Такая непразрыстасць можа ўскладніць прыцягненне праваахоўных органаў да адказнасці за рашэнні, якія яны прымаюць на падставе прагнозаў гэтых сістэм. Адпаведна, многія праваабарончыя арганізацыі заклікаюць забараніць прагназуючыя паліцэйскія тэхналогіі, у прыватнасці, тэхналогію распазнавання твараў. 

Наступствы прагнастычнай паліцыі

Больш шырокія наступствы прагнастычнай паліцыі могуць уключаць:

• Грамадзянскія правы і маргіналізаваныя групы, якія лабіруюць і выступаюць супраць шырокага выкарыстання прагназуючай паліцыі, асабліва ў каляровых супольнасцях.
• Ціск на ўрад, каб увесці палітыку нагляду або аддзел, каб абмежаваць выкарыстанне прагназаванай паліцыі. Будучае заканадаўства можа прымусіць паліцэйскія агенцтвы выкарыстоўваць бесстароннія даныя прафілявання грамадзян ад зацверджаных урадам трэціх асоб для навучання іх адпаведным алгарытмам прагназавання паліцыі.
• Усё больш праваахоўных органаў ва ўсім свеце выкарыстоўваюць некаторую форму прагназуючай паліцыі ў дадатак да сваіх стратэгій патрулявання.
• Аўтарытарныя ўрады выкарыстоўваюць мадыфікаваныя версіі гэтых алгарытмаў для прагназавання і прадухілення пратэстаў грамадзян і іншых грамадскіх беспарадкаў.
• Усё больш краін забараняюць тэхналогіі распазнання твараў у сваіх праваахоўных органах пад усё большым ціскам з боку грамадскасці.
• Павелічэнне судовых працэсаў супраць паліцэйскіх органаў за няправільнае выкарыстанне алгарытмаў, якія прывялі да незаконных або памылковых арыштаў.

Пытанні для разгляду

• Як вы лічыце, ці трэба выкарыстоўваць паліцыю з прагназаваннем?
• Як, на вашу думку, алгарытмы прагназавання паліцыі зменяць спосаб ажыццяўлення правасуддзя?