全米50超の警察が採用した「犯罪予測AI」の精度は0.5％未満だった――。

米ウェブメディア「ザ・マークアップ」は10月2日、代表的な犯罪予測AI「プレッドポル」の効果についての検証結果を公表した。

それによると、「プレッドポル」を導入したニュージャージー州の警察署では、10カ月間で2万件を超す犯罪発生予測が生成されたものの、実際の発生と一致したのは100件に満たなかったという。

犯罪予測AIは、精度の問題に加えて、予測の現場が低所得層や人種的マイノリティの居住地区に偏り、偏見や差別を悪化させるとの批判が高まっていた。

今回の検証結果を受け、人権団体は犯罪予測を中止すべきだと指摘している。

犯罪予知が行われる未来を描いたスティーブン・スピルバーグ監督、トム・クルーズ主演のSF映画『マイノリティ・リポート』の舞台は、2054年だった。

現実の「マイノリティ・リポート」の世界は、その精度に大きな問題を抱えていた。

●2万件の予測、的中は100件未満

ザ・マークアップは2023年10月2日の記事の中で、犯罪予測AI「プレッドポル」の効果について、そう指摘する。

「ジオリティカ」は、2021年3月に「プレッドポル」が名称変更した後の社名・製品名だ。

ザ・マークアップはその上で、こう述べている。

このAIに、同署は初年度2万500ドル（約300万円）、次年度以降は1万5,500ドル（約230万円）を支払ったという。

ザ・マークアップは今回の分析について、こう結論づけている。

プレインフィールド警察の幹部は、ザ・マークアップの取材に対して、こんなことを述べている。

同署は期間中、「プレッドポル」による犯罪発生予測の区域、129地点をパトロールしたデータが残っている。

だが実際は、パトロールと予測地点の一致は「偶然」で、パトロールの指示にこのAIシステムを使ったことはなかった、という。

●差別や偏見を悪化させる

「プレッドポル」はカリフォルニア大学ロサンゼルス校教授、ジェフリー・ブランティンガム氏とロサンゼルス警察が2011年、地震予測モデルを応用して共同開発した。

その名称は「予測ポリシング（取り締まり）」に由来する。

過去10年超の犯罪発生データをもとに、12時間以内の時間枠、500フィート（約152メートル）四方のエリア単位で、「窃盗」「強盗・加重暴行」「自動車盗」「銃犯罪」の4類型の犯罪発生を予測し、警官による巡回を促す。

だが研究者らが、「プレッドポル」の予測を検証したところ、犯罪発生を予測する地域は、大半が低所得層やアフリカ系、ラテン系などの人種的マイノリティの居住地域に偏り、白人住民の多い地域はほとんどなかったという。

このため、犯罪予測に従って警官のパトロールが重点的に行われれば、それらの地域への過剰取り締まりにつながり、低所得層、人種的マイノリティへの差別や偏見を悪化させる、との批判が高まった。

※参照：見えないアルゴリズム：「再犯予測プログラム」が判決を左右する（08/06/2016　新聞紙学的）

※参照：あなたの知らないAIの世界：AIが犯罪を予測、是か非か　揺れるアメリカ社会（05/04/2019 GLOBE+ 平和博）

今回の検証で使われたのは、2021年1月、ロサンゼルス警察のウェブサイト上で、セキュリティ対策もなく公開状態となっていた「プレッドポル」の利用データ740万件だ。

このうち590万件が、米国内の38警察署のデータだった。

ザ・マークアップは、この38警察署の実際の犯罪発生報告とパトロールデータを情報公開請求した。これに対して検証可能なデータを開示したのが、ニュージャージー州のプレインフィールド警察署のみだったという。

●犯罪予測産業の拡大

「プレッドポル」は犯罪予測AIの先駆けであり、その代名詞として知られてきた。

前述のように、「プレッドポル」による特定地域の過剰取り締まりは、大きな批判を浴びる。一方で現場の警察署は、そもそも犯罪多発地域については把握しており、精度の低さ、コストの問題が相まって、プレインフィールド警察のように、ほとんど使われぬまま、契約解除に至る例も相次いだ。

その中で、開発に関わったロサンゼルス警察も2020年4月に、新型コロナ禍による予算制約を理由として「プレッドポル」との契約を打ち切っている。

だが、監視データなども利用して犯罪発生予測を行う「予測ポリシング」の市場そのものは、拡大傾向にあるようだ。

調査会社「360iリサーチ」は、「予測ポリシング」の市場規模は2022年で45億ドル、年16％の成長が見込まれ、2030年には約150億ドルに拡大すると推定する。

今回のザ・マークアップの検証報道記事は、米テクノロジーメディア「ワイアード」との共同掲載だという。

ワイアードは2023年9月27日付で、前述の「ジオリティカ」（「プレッドポル」）を、やはり100を超す捜査機関と契約をする捜査テクノロジー企業「サウンドシンキング」が買収すると伝えている。

ワイアードによると、「サウンドシンキング」は旧社名「ショットスポッター」として1996年に設立。信号機や電柱に取り付けたマイクによって銃声を検知し、現場に警官派遣を支援するサービスを行う。

やはり検知精度の問題から、差別や偏見助長についての批判が続いてきた。

同社は2018年、「プレッドポル」のライバル企業だった「ハンチラボ」を買収し、犯罪予測も手がける。

ワイアードはこの動きを、銃声検知から、ビッグデータを使った「ワンストップショップ」、犯罪対策の“グーグル化”への転換、と位置付ける。

『ビッグデータ・ポリシングの台頭』の著者でアメリカン大学教授のアンドリュー・ファーガソン氏は、ワイアードの取材に、こう述べている。

「サウンドシンキング」の広報はワイアードの取材に対し、「ジオリティカ」を会社として買収するのではなく、同社の知的財産の一部を買い取ることで合意した、と述べている。

（犯罪予測と銃声検知という）これら2つの技術の有効性と倫理に対する懐疑的な見方が高まる中で、これらの企業が統合されるにつれ、我々はそれらに対抗する、より強固な組織作りに取り組まなければならない。

米デジタル人権団体「電子フロンティア財団（EFF）」は10月2日の声明でそう指摘し、それらの「ポリシングテクノロジー」の使用停止を求めている。

●リアルな「マイノリティ・リポート」

2002年公開のフィリップ・K・ディック原作、スピルバーグ監督の『マイノリティ・リポート』は、予知能力者による殺人事件の予防システムの恐怖を描いた。

だが現実は、的中率0.5％未満の予測システムが警察に配備され、やはり精度が疑問視される捜査支援テクノロジーと統合され、巨大化していく。

その現実にも、大きな不安がある。

（※2023年10月5日付「新聞紙学的」より加筆・修正のうえ転載）