പ്രവചനാത്മക പോലീസിംഗ്: കുറ്റകൃത്യം തടയണോ അതോ പക്ഷപാതങ്ങൾ ശക്തിപ്പെടുത്തണോ?

• രചയിതാവ്:
• രചയിതാവിന്റെ പേര്

  Quantumrun ദീർഘവീക്ഷണം
• May 25, 2023

ക്രൈം പാറ്റേണുകൾ തിരിച്ചറിയുന്നതിനും ഭാവിയിലെ ക്രിമിനൽ പ്രവർത്തനങ്ങൾ തടയുന്നതിനുള്ള ഇടപെടൽ ഓപ്ഷനുകൾ നിർദ്ദേശിക്കുന്നതിനും ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്നത് നിയമ നിർവ്വഹണ ഏജൻസികൾക്ക് വാഗ്ദാനമായ ഒരു പുതിയ രീതിയാണ്. കുറ്റകൃത്യ റിപ്പോർട്ടുകൾ, പോലീസ് രേഖകൾ, മറ്റ് പ്രസക്തമായ വിവരങ്ങൾ എന്നിവ പോലുള്ള ഡാറ്റ വിശകലനം ചെയ്യുന്നതിലൂടെ, മനുഷ്യർക്ക് കണ്ടെത്താൻ പ്രയാസമുള്ള പാറ്റേണുകളും ട്രെൻഡുകളും അൽഗരിതങ്ങൾക്ക് തിരിച്ചറിയാൻ കഴിയും. എന്നിരുന്നാലും, കുറ്റകൃത്യങ്ങൾ തടയുന്നതിൽ AI യുടെ പ്രയോഗം ചില പ്രധാനപ്പെട്ട ധാർമ്മികവും പ്രായോഗികവുമായ ചോദ്യങ്ങൾ ഉയർത്തുന്നു. 

പ്രവചിക്കുന്ന പോലീസ് സന്ദർഭം

കുറ്റകൃത്യങ്ങൾ അടുത്തതായി സംഭവിക്കാൻ സാധ്യതയുള്ള സ്ഥലങ്ങൾ പ്രവചിക്കാൻ പ്രാദേശിക കുറ്റകൃത്യ സ്ഥിതിവിവരക്കണക്കുകളും അൽഗരിതങ്ങളും പ്രെഡിക്റ്റീവ് പോലീസിംഗ് ഉപയോഗിക്കുന്നു. കുറ്റകൃത്യങ്ങൾ തടയാൻ പോലീസ് ഇടയ്ക്കിടെ പട്രോളിംഗ് നടത്തേണ്ട പ്രദേശങ്ങൾ കൃത്യമായി കണ്ടെത്തുന്നതിന് ഭൂകമ്പത്തിന്റെ തുടർചലനങ്ങൾ പ്രവചിക്കാൻ ചില പ്രവചനാത്മക പോലീസിംഗ് ദാതാക്കൾ ഈ സാങ്കേതികവിദ്യയെ കൂടുതൽ പരിഷ്കരിച്ചിട്ടുണ്ട്. "ഹോട്ട്‌സ്‌പോട്ടുകൾ" മാറ്റിനിർത്തിയാൽ, കുറ്റകൃത്യങ്ങൾ ചെയ്യാൻ സാധ്യതയുള്ള വ്യക്തിയെ തിരിച്ചറിയാൻ സാങ്കേതികത പ്രാദേശിക അറസ്റ്റ് ഡാറ്റ ഉപയോഗിക്കുന്നു. 

യുഎസ് ആസ്ഥാനമായുള്ള പ്രെഡിക്റ്റീവ് പോലീസിംഗ് സോഫ്‌റ്റ്‌വെയർ പ്രൊവൈഡർ ജിയോലിറ്റിക്ക (മുമ്പ് പ്രെഡ്‌പോൾ എന്ന് അറിയപ്പെട്ടിരുന്നു), അതിന്റെ സാങ്കേതികവിദ്യ നിലവിൽ നിരവധി നിയമ നിർവ്വഹണ സ്ഥാപനങ്ങൾ ഉപയോഗിക്കുന്നു, വർണ്ണത്തിലുള്ള ആളുകളുടെ അമിത പോലീസിംഗ് ഇല്ലാതാക്കാൻ തങ്ങളുടെ ഡാറ്റാസെറ്റുകളിൽ റേസ് ഘടകം നീക്കം ചെയ്തതായി അവകാശപ്പെടുന്നു. എന്നിരുന്നാലും, ടെക് വെബ്‌സൈറ്റ് ഗിസ്‌മോഡോയും ഗവേഷണ സ്ഥാപനമായ ദി സിറ്റിസൺ ലാബും നടത്തിയ ചില സ്വതന്ത്ര പഠനങ്ങൾ, ദുർബലരായ കമ്മ്യൂണിറ്റികൾക്കെതിരായ പക്ഷപാതത്തെ അൽഗോരിതങ്ങൾ യഥാർത്ഥത്തിൽ ശക്തിപ്പെടുത്തുന്നതായി കണ്ടെത്തി.

ഉദാഹരണത്തിന്, അക്രമാസക്തമായ തോക്കുമായി ബന്ധപ്പെട്ട കുറ്റകൃത്യങ്ങളിൽ ഏർപ്പെടാൻ സാധ്യതയുള്ളവർ ആരാണെന്ന് പ്രവചിക്കാൻ അൽഗൊരിതം ഉപയോഗിച്ച ഒരു പോലീസ് പ്രോഗ്രാം വിമർശനങ്ങൾ അഭിമുഖീകരിച്ചു, ഏറ്റവും ഉയർന്ന അപകടസാധ്യതയുള്ളവരായി തിരിച്ചറിഞ്ഞവരിൽ 85 ശതമാനവും ആഫ്രിക്കൻ അമേരിക്കക്കാരാണ്, ചിലർ മുമ്പ് അക്രമാസക്തമായ ക്രിമിനൽ റെക്കോർഡ് ഇല്ല. 2017-ൽ ചിക്കാഗോ സൺ-ടൈംസ് പട്ടികയുടെ ഒരു ഡാറ്റാബേസ് വാങ്ങി പ്രസിദ്ധീകരിച്ചപ്പോൾ സ്ട്രാറ്റജിക് സബ്ജക്റ്റ് ലിസ്റ്റ് എന്ന് വിളിക്കപ്പെടുന്ന പ്രോഗ്രാം സൂക്ഷ്മപരിശോധനയ്ക്ക് വിധേയമായി. നിയമ നിർവ്വഹണത്തിൽ AI ഉപയോഗിക്കുന്നതിലെ പക്ഷപാതത്തിനുള്ള സാധ്യതയും ഈ സംവിധാനങ്ങൾ നടപ്പിലാക്കുന്നതിന് മുമ്പ് സാധ്യമായ അപകടസാധ്യതകളും അനന്തരഫലങ്ങളും ശ്രദ്ധാപൂർവ്വം പരിഗണിക്കേണ്ടതിന്റെ പ്രാധാന്യവും ഈ സംഭവം എടുത്തുകാണിക്കുന്നു.

തടസ്സപ്പെടുത്തുന്ന ആഘാതം

ശരിയായി ചെയ്താൽ പ്രെഡിക്റ്റീവ് പോലീസിംഗിന് ചില നേട്ടങ്ങളുണ്ട്. ലോസ് ഏഞ്ചൽസ് പോലീസ് ഡിപ്പാർട്ട്‌മെന്റ് സ്ഥിരീകരിച്ചതുപോലെ, കുറ്റകൃത്യങ്ങൾ തടയുന്നത് ഒരു പ്രധാന നേട്ടമാണ്, അവരുടെ അൽഗോരിതം സൂചിപ്പിച്ച ഹോട്ട്‌സ്‌പോട്ടുകളിലെ കവർച്ചകളിൽ 19 ശതമാനം കുറവ് വരുത്തി. സംഖ്യാധിഷ്‌ഠിത തീരുമാനമെടുക്കലാണ് മറ്റൊരു നേട്ടം, ഡാറ്റ മാനുഷിക പക്ഷപാതങ്ങളല്ല, പാറ്റേണുകളാണ് നിർദ്ദേശിക്കുന്നത്. 

എന്നിരുന്നാലും, വിമർശകർ ഊന്നിപ്പറയുന്നത്, ഈ ഡാറ്റാസെറ്റുകൾ പ്രാദേശിക പോലീസ് ഡിപ്പാർട്ട്‌മെന്റുകളിൽ നിന്നാണ്, കൂടുതൽ ആളുകളെ (പ്രത്യേകിച്ച് ആഫ്രിക്കൻ-അമേരിക്കക്കാരും ലാറ്റിനമേരിക്കക്കാരും) അറസ്റ്റ് ചെയ്ത ചരിത്രമുള്ളതിനാൽ, പാറ്റേണുകൾ ഈ കമ്മ്യൂണിറ്റികൾക്കെതിരായ നിലവിലുള്ള പക്ഷപാതങ്ങളെ ഉയർത്തിക്കാട്ടുന്നു. ജിയോലിറ്റിക്കയിൽ നിന്നും നിരവധി നിയമ നിർവ്വഹണ ഏജൻസികളിൽ നിന്നുമുള്ള ഡാറ്റ ഉപയോഗിച്ചുള്ള ഗിസ്‌മോഡോയുടെ ഗവേഷണമനുസരിച്ച്, ജിയോലിറ്റിക്കയുടെ പ്രവചനങ്ങൾ, ബ്ലാക്ക്, ലാറ്റിനോ കമ്മ്യൂണിറ്റികളെ, ഈ ഗ്രൂപ്പുകളിൽ പോലും അറസ്റ്റ് രേഖപ്പെടുത്താത്ത വ്യക്തികളെ പോലും, അമിതപോലീസിംഗിന്റെയും തിരിച്ചറിയലിന്റെയും യഥാർത്ഥ ജീവിത രീതികളെ അനുകരിക്കുന്നു. 

ശരിയായ ഭരണവും നിയന്ത്രണ നയങ്ങളും ഇല്ലാതെ പ്രെഡിക്റ്റീവ് പോലീസിംഗിന്റെ വർദ്ധിച്ചുവരുന്ന ഉപയോഗത്തെക്കുറിച്ച് പൗരാവകാശ സംഘടനകൾ ആശങ്ക പ്രകടിപ്പിച്ചു. ഈ അൽഗോരിതങ്ങൾക്ക് പിന്നിൽ "വൃത്തികെട്ട ഡാറ്റ" (അഴിമതിയില്ലാത്തതും നിയമവിരുദ്ധവുമായ പ്രവർത്തനങ്ങളിലൂടെ ലഭിച്ച കണക്കുകൾ) ഉപയോഗിക്കുന്നുണ്ടെന്ന് ചിലർ വാദിക്കുന്നു, അവ ഉപയോഗിക്കുന്ന ഏജൻസികൾ ഈ പക്ഷപാതങ്ങളെ "ടെക്-വാഷിംഗിന്" പിന്നിൽ മറയ്ക്കുന്നു (ഈ സാങ്കേതികവിദ്യ വസ്തുനിഷ്ഠമാണെന്ന് അവകാശപ്പെടുന്നത് ഒന്നുമില്ല. മനുഷ്യ ഇടപെടൽ).

ഈ അൽഗോരിതങ്ങൾ എങ്ങനെ പ്രവർത്തിക്കുന്നുവെന്ന് മനസിലാക്കാൻ പൊതുജനങ്ങൾക്ക് പലപ്പോഴും ബുദ്ധിമുട്ടാണ് എന്നതാണ് പ്രവചനാത്മക പോലീസിംഗ് നേരിടുന്ന മറ്റൊരു വിമർശനം. ഈ സുതാര്യതയുടെ അഭാവം, ഈ സംവിധാനങ്ങളുടെ പ്രവചനങ്ങളെ അടിസ്ഥാനമാക്കി അവർ എടുക്കുന്ന തീരുമാനങ്ങൾക്ക് നിയമ നിർവ്വഹണ ഏജൻസികളെ ഉത്തരവാദിയാക്കുന്നത് ബുദ്ധിമുട്ടാക്കും. അതനുസരിച്ച്, പല മനുഷ്യാവകാശ സംഘടനകളും പ്രവചനാത്മക പോലീസ് സാങ്കേതികവിദ്യകൾ, പ്രത്യേകിച്ച് മുഖം തിരിച്ചറിയൽ സാങ്കേതികവിദ്യ നിരോധിക്കണമെന്ന് ആവശ്യപ്പെടുന്നു. 

പ്രവചനാത്മക പോലീസിംഗിന്റെ പ്രത്യാഘാതങ്ങൾ

പ്രവചനാത്മക പോലീസിംഗിന്റെ വിശാലമായ പ്രത്യാഘാതങ്ങൾ ഉൾപ്പെടാം:

• പൗരാവകാശങ്ങളും പാർശ്വവൽക്കരിക്കപ്പെട്ട ഗ്രൂപ്പുകളും പ്രവചനാത്മക പോലീസിംഗിന്റെ വ്യാപകമായ ഉപയോഗത്തിനെതിരെ, പ്രത്യേകിച്ച് നിറമുള്ള കമ്മ്യൂണിറ്റികൾക്കുള്ളിൽ ലോബി ചെയ്യുകയും പിന്നോട്ട് തള്ളുകയും ചെയ്യുന്നു.
• പ്രെഡിക്റ്റീവ് പോലീസിംഗ് എങ്ങനെ ഉപയോഗിക്കപ്പെടുന്നു എന്നതിനെ പരിമിതപ്പെടുത്തുന്നതിന് ഒരു മേൽനോട്ട നയമോ വകുപ്പോ ചുമത്താൻ സർക്കാരിന് സമ്മർദ്ദം. ഭാവിയിലെ നിയമനിർമ്മാണം, സർക്കാർ അംഗീകൃത മൂന്നാം കക്ഷികളിൽ നിന്നുള്ള പക്ഷപാതരഹിത പൗരന്മാരുടെ പ്രൊഫൈലിംഗ് ഡാറ്റ ഉപയോഗിക്കാൻ പോലീസ് ഏജൻസികളെ നിർബന്ധിച്ചേക്കാം.
• ലോകമെമ്പാടുമുള്ള കൂടുതൽ നിയമ നിർവ്വഹണ ഏജൻസികൾ അവരുടെ പട്രോളിംഗ് തന്ത്രങ്ങൾ പൂർത്തീകരിക്കുന്നതിന് ഏതെങ്കിലും തരത്തിലുള്ള പ്രവചനാത്മക പോലീസിംഗിനെ ആശ്രയിക്കുന്നു.
• പൗരന്മാരുടെ പ്രതിഷേധങ്ങളും മറ്റ് പൊതു അസ്വസ്ഥതകളും പ്രവചിക്കാനും തടയാനും ഈ അൽഗോരിതങ്ങളുടെ പരിഷ്‌ക്കരിച്ച പതിപ്പുകൾ ഉപയോഗിക്കുന്ന സ്വേച്ഛാധിപത്യ ഗവൺമെന്റുകൾ.
• പൊതുജനങ്ങളിൽ നിന്നുള്ള വർദ്ധിച്ചുവരുന്ന സമ്മർദ്ദത്തെത്തുടർന്ന് കൂടുതൽ രാജ്യങ്ങൾ അവരുടെ നിയമ നിർവ്വഹണ ഏജൻസികളിൽ മുഖം തിരിച്ചറിയൽ സാങ്കേതികവിദ്യകൾ നിരോധിക്കുന്നു.
• നിയമവിരുദ്ധമോ തെറ്റായതോ ആയ അറസ്റ്റുകളിലേക്ക് നയിച്ച അൽഗോരിതങ്ങൾ ദുരുപയോഗം ചെയ്തതിന് പോലീസ് ഏജൻസികൾക്കെതിരെയുള്ള വർദ്ധിച്ച കേസുകൾ.

പരിഗണിക്കേണ്ട ചോദ്യങ്ങൾ

• പ്രവചനാത്മക പോലീസിംഗ് ഉപയോഗിക്കണമെന്ന് നിങ്ങൾ കരുതുന്നുണ്ടോ?
• പ്രെഡിക്റ്റീവ് പോലീസിംഗ് അൽഗോരിതങ്ങൾ നീതി നടപ്പാക്കുന്ന രീതിയെ എങ്ങനെ മാറ്റുമെന്ന് നിങ്ങൾ കരുതുന്നു?