Pemolisian prediktif: Mencegah kejahatan atau memperkuat bias?

KREDIT GAMBAR:
Gambar kredit
iStock

Pemolisian prediktif: Mencegah kejahatan atau memperkuat bias?

Pemolisian prediktif: Mencegah kejahatan atau memperkuat bias?

Teks subjudul
Algoritme sekarang digunakan untuk memprediksi di mana kejahatan dapat terjadi selanjutnya, tetapi dapatkah data dipercaya untuk tetap objektif?
    • Penulis:
    • nama penulis
      Pandangan ke Depan Quantumrun
    • 25 Mei 2023

    Menggunakan sistem kecerdasan buatan (AI) untuk mengidentifikasi pola kejahatan dan menyarankan opsi intervensi untuk mencegah aktivitas kriminal di masa depan dapat menjadi metodologi baru yang menjanjikan bagi lembaga penegak hukum. Dengan menganalisis data seperti laporan kejahatan, catatan polisi, dan informasi relevan lainnya, algoritme dapat mengidentifikasi pola dan tren yang mungkin sulit dideteksi oleh manusia. Namun, penerapan AI dalam pencegahan kejahatan menimbulkan beberapa pertanyaan etis dan praktis yang penting. 

    Konteks kepolisian prediktif

    Pemolisian prediktif menggunakan statistik dan algoritme kejahatan lokal untuk memperkirakan di mana kejahatan kemungkinan besar akan terjadi selanjutnya. Beberapa penyedia kepolisian prediktif telah memodifikasi lebih lanjut teknologi ini untuk memprediksi gempa susulan untuk menentukan area di mana polisi harus sering berpatroli untuk mencegah kejahatan. Selain "hotspot", teknologi tersebut menggunakan data penangkapan lokal untuk mengidentifikasi tipe individu yang cenderung melakukan kejahatan. 

    Penyedia perangkat lunak kepolisian prediktif yang berbasis di AS Geolitica (sebelumnya dikenal sebagai PredPol), yang teknologinya saat ini digunakan oleh beberapa entitas penegak hukum, mengklaim bahwa mereka telah menghapus komponen ras ke dalam kumpulan data mereka untuk menghilangkan kebijakan berlebihan terhadap orang kulit berwarna. Namun, beberapa penelitian independen yang dilakukan oleh situs web teknologi Gizmodo dan organisasi penelitian The Citizen Lab menemukan bahwa algoritme tersebut sebenarnya memperkuat bias terhadap komunitas yang rentan.

    Misalnya, sebuah program polisi yang menggunakan algoritme untuk memprediksi siapa yang berisiko terlibat dalam kejahatan terkait kekerasan senjata menghadapi kritik setelah terungkap bahwa 85 persen dari mereka yang diidentifikasi memiliki skor risiko tertinggi adalah pria Afrika-Amerika, beberapa dengan tidak ada catatan kriminal kekerasan sebelumnya. Program tersebut, yang disebut Daftar Subjek Strategis, mendapat sorotan pada tahun 2017 ketika Chicago Sun-Times memperoleh dan menerbitkan database dari daftar tersebut. Insiden ini menyoroti potensi bias dalam penggunaan AI dalam penegakan hukum dan pentingnya mempertimbangkan dengan hati-hati potensi risiko dan konsekuensinya sebelum menerapkan sistem ini.

    Dampak yang mengganggu

    Ada beberapa manfaat untuk pemolisian prediktif jika dilakukan dengan benar. Pencegahan kejahatan adalah keunggulan utama, seperti yang dikonfirmasi oleh Departemen Kepolisian Los Angeles, yang mengatakan algoritme mereka menghasilkan pengurangan 19 persen pencurian di dalam hotspot yang ditunjukkan. Manfaat lainnya adalah pengambilan keputusan berbasis angka, di mana data menentukan pola, bukan bias manusia. 

    Namun, para kritikus menekankan bahwa karena kumpulan data ini diperoleh dari departemen kepolisian setempat, yang memiliki sejarah menangkap lebih banyak orang kulit berwarna (terutama orang Afrika-Amerika dan Amerika Latin), polanya hanya menyoroti bias yang ada terhadap komunitas ini. Menurut penelitian Gizmodo yang menggunakan data dari Geolitica dan beberapa lembaga penegak hukum, prediksi Geolitica meniru pola kehidupan nyata dari overpolicing dan mengidentifikasi komunitas Kulit Hitam dan Latin, bahkan individu dalam kelompok ini yang tidak memiliki catatan penangkapan. 

    Organisasi hak-hak sipil telah menyatakan keprihatinan atas meningkatnya penggunaan kebijakan prediktif tanpa kebijakan tata kelola dan peraturan yang tepat. Beberapa berpendapat bahwa "data kotor" (angka yang diperoleh melalui praktik korup dan ilegal) digunakan di balik algoritme ini, dan agensi yang menggunakannya menyembunyikan bias ini di balik "pencucian teknologi" (mengklaim bahwa teknologi ini objektif hanya karena tidak ada Intervensi manusia).

    Kritik lain yang dihadapi oleh kepolisian prediktif adalah seringkali sulit bagi publik untuk memahami cara kerja algoritme ini. Kurangnya transparansi ini dapat mempersulit lembaga penegak hukum untuk meminta pertanggungjawaban atas keputusan yang mereka buat berdasarkan prediksi sistem ini. Oleh karena itu, banyak organisasi hak asasi manusia menyerukan pelarangan teknologi polisi prediktif, khususnya teknologi pengenalan wajah. 

    Implikasi dari kepolisian prediktif

    Implikasi yang lebih luas dari kebijakan prediktif dapat mencakup:

    • Hak-hak sipil dan kelompok-kelompok yang terpinggirkan melobi dan menolak meluasnya penggunaan kebijakan prediktif, terutama dalam komunitas kulit berwarna.
    • Tekanan bagi pemerintah untuk memaksakan kebijakan pengawasan atau departemen untuk membatasi bagaimana kebijakan prediktif digunakan. Perundang-undangan di masa mendatang dapat memaksa lembaga kepolisian untuk menggunakan data pemrofilan warga yang bebas bias dari pihak ketiga yang disetujui pemerintah untuk melatih algoritme pemolisian prediktif masing-masing.
    • Semakin banyak lembaga penegak hukum di seluruh dunia yang mengandalkan beberapa bentuk pemolisian prediktif untuk melengkapi strategi patroli mereka.
    • Pemerintah otoriter menggunakan versi modifikasi dari algoritme ini untuk memprediksi dan mencegah protes warga dan gangguan publik lainnya.
    • Lebih banyak negara yang melarang teknologi pengenalan wajah di lembaga penegak hukum mereka di bawah tekanan yang meningkat dari publik.
    • Tuntutan hukum yang meningkat terhadap lembaga kepolisian karena menyalahgunakan algoritme yang menyebabkan penangkapan yang melanggar hukum atau salah.

    Pertanyaan untuk dipertimbangkan

    • Apakah menurut Anda kepolisian prediktif harus digunakan?
    • Menurut Anda, bagaimana algoritme kepolisian prediktif akan mengubah cara penerapan keadilan?

    Referensi wawasan

    Tautan populer dan institusional berikut dirujuk untuk wawasan ini:

    Pusat Brennan untuk Keadilan Polisi Prediktif Dijelaskan