クォンタムラン

画像クレジット:

iStock

予測警察: 犯罪を防止するか、偏見を強化するか?

犯罪が次にどこで発生する可能性があるかを予測するためにアルゴリズムが使用されていますが、データを信頼して客観性を維持できるでしょうか?

著者：
著者名
クォンタムラン・フォーサイト
2023 年 5 月 25 日

人工知能 (AI) システムを使用して犯罪パターンを特定し、将来の犯罪行為を防ぐための介入オプションを提案することは、法執行機関にとって有望な新しい方法論となる可能性があります。犯罪報告、警察記録、その他の関連情報などのデータを分析することで、アルゴリズムは人間には検出が難しいパターンや傾向を特定できます。しかし、AI を犯罪予防に応用すると、いくつかの重要な倫理的および実践的な問題が生じます。

予測ポリシングのコンテキスト

予測警察では、地域の犯罪統計とアルゴリズムを使用して、次に犯罪が発生する可能性が最も高い場所を予測します。一部の予測警察プロバイダーは、この技術をさらに改良して地震の余震を予測し、犯罪抑止のために警察が頻繁に巡回すべきエリアを正確に特定しています。「ホットスポット」とは別に、この技術は地域の逮捕データを使用して、犯罪を犯しそうな個人のタイプを特定します。

米国に本拠を置く予測警察ソフトウェアプロバイダーのGeolitica（以前はPredPolとして知られていた）は、その技術が現在いくつかの法執行機関で使用されているが、有色人種に対する過剰な取り締まりを排除するために自社のデータセットから人種の要素を削除したと主張している。しかし、テクノロジー関連ウェブサイトのギズモードと研究組織シチズン・ラボが実施したいくつかの独立した調査では、アルゴリズムが実際に脆弱なコミュニティに対する偏見を強化していることが判明した。

たとえば、誰が暴力的な銃関連犯罪に巻き込まれる危険性があるかを予測するアルゴリズムを使用した警察プログラムは、最も高いリスクスコアを持っていると特定された人々の85パーセントがアフリカ系アメリカ人男性であり、中には性的暴行を伴う人もいたことが明らかになり、批判にさらされた。過去に暴力的な犯罪歴がないこと。「戦略的主題リスト」と呼ばれるこのプログラムは、2017年にシカゴ・サンタイムズ紙がリストのデータベースを入手して公開したことにより、精査されるようになった。この事件は、法執行機関における AI の使用における偏見の可能性と、これらのシステムを導入する前に潜在的なリスクと結果を慎重に検討することの重要性を浮き彫りにしました。

破壊的な影響

予測ポリシングが正しく行われれば、いくつかの利点があります。ロサンゼルス市警察が確認したように、犯罪防止は大きな利点であり、そのアルゴリズムにより、指定されたホットスポット内での強盗が 19% 減少したと述べています。もう XNUMX つの利点は、人間のバイアスではなくデータがパターンを決定する数値ベースの意思決定です。

しかし、批評家らは、これらのデータセットは、より多くの有色人種（特にアフリカ系アメリカ人やラテンアメリカ人）を逮捕してきた歴史を持つ地元警察から入手したものであるため、パターンはこれらのコミュニティに対する既存の偏見を浮き彫りにしているだけであると強調している。 Geoliticaといくつかの法執行機関のデータを使用したGizmodoの調査によると、Geoliticaの予測は、黒人とラテン系のコミュニティ、さらには逮捕歴のないこれらのグループ内の個人を過剰に取り締まり、特定する現実のパターンを模倣しています。

公民権団体は、適切なガバナンスや規制政策が伴わない予測型取り締まりの利用が増加していることに懸念を表明している。これらのアルゴリズムの背後で「ダーティデータ」（腐敗した違法な行為を通じて得られた数値）が使用されており、それらを使用する政府機関はこれらのバイアスを「テクノロジーウォッシング」の背後に隠していると主張する人もいます（このテクノロジーは客観的であると主張しています。人間の介入）。

予測ポリシングが直面するもう XNUMX つの批判は、これらのアルゴリズムがどのように機能するかを一般の人々が理解するのが難しいことが多いということです。この透明性の欠如により、法執行機関がこれらのシステムの予測に基づいて行う決定に対して責任を負うことが困難になる可能性があります。したがって、多くの人権団体は、予測警察技術、特に顔認識技術の禁止を求めている。

予測ポリシングの影響

予測ポリシングのより広範な影響には次のものが含まれる可能性があります。

公民権運動や社会から疎外されたグループは、特に有色人種のコミュニティ内で、予測型警察の広範な使用に対してロビー活動を行い、反対している。
政府に対して、予測ポリシングの使用方法を制限するための監視政策または部門を課すよう圧力をかける。将来の法律により、警察機関は、政府が承認した第三者からのバイアスのない国民プロファイリングデータを使用して、それぞれの予測警察アルゴリズムをトレーニングすることが義務付けられる可能性があります。
世界中で、パトロール戦略を補完するために何らかの形の予測ポリシングに依存する法執行機関が増えています。
権威主義政府は、これらのアルゴリズムの修正版を使用して、市民の抗議活動やその他の社会的混乱を予測し、防止します。
国民からの圧力が強まり、法執行機関で顔認識技術を禁止する国が増えている。
違法または誤認逮捕につながったアルゴリズムの悪用に対する警察機関に対する訴訟の増加。