全米50超の警察が採用した「犯罪予測AI」の精度は0.5%未満だった
全米50超の警察が採用した「犯罪予測AI」の精度は0.5%未満だった――。
米ウェブメディア「ザ・マークアップ」は10月2日、代表的な犯罪予測AI「プレッドポル」の効果についての検証結果を公表した。
それによると、「プレッドポル」を導入したニュージャージー州の警察署では、10カ月間で2万件を超す犯罪発生予測が生成されたものの、実際の発生と一致したのは100件に満たなかったという。
犯罪予測AIは、精度の問題に加えて、予測の現場が低所得層や人種的マイノリティの居住地区に偏り、偏見や差別を悪化させるとの批判が高まっていた。
今回の検証結果を受け、人権団体は犯罪予測を中止すべきだと指摘している。
犯罪予知が行われる未来を描いたスティーブン・スピルバーグ監督、トム・クルーズ主演のSF映画『マイノリティ・リポート』の舞台は、2054年だった。
現実の「マイノリティ・リポート」の世界は、その精度に大きな問題を抱えていた。
●2万件の予測、的中は100件未満
ザ・マークアップは2023年10月2日の記事の中で、犯罪予測AI「プレッドポル」の効果について、そう指摘する。
「ジオリティカ」は、2021年3月に「プレッドポル」が名称変更した後の社名・製品名だ。
ザ・マークアップはその上で、こう述べている。
このAIに、同署は初年度2万500ドル(約300万円)、次年度以降は1万5,500ドル(約230万円)を支払ったという。
ザ・マークアップは今回の分析について、こう結論づけている。
プレインフィールド警察の幹部は、ザ・マークアップの取材に対して、こんなことを述べている。
同署は期間中、「プレッドポル」による犯罪発生予測の区域、129地点をパトロールしたデータが残っている。
だが実際は、パトロールと予測地点の一致は「偶然」で、パトロールの指示にこのAIシステムを使ったことはなかった、という。
●差別や偏見を悪化させる
「プレッドポル」はカリフォルニア大学ロサンゼルス校教授、ジェフリー・ブランティンガム氏とロサンゼルス警察が2011年、地震予測モデルを応用して共同開発した。
その名称は「予測ポリシング(取り締まり)」に由来する。
過去10年超の犯罪発生データをもとに、12時間以内の時間枠、500フィート(約152メートル)四方のエリア単位で、「窃盗」「強盗・加重暴行」「自動車盗」「銃犯罪」の4類型の犯罪発生を予測し、警官による巡回を促す。
だが研究者らが、「プレッドポル」の予測を検証したところ、犯罪発生を予測する地域は、大半が低所得層やアフリカ系、ラテン系などの人種的マイノリティの居住地域に偏り、白人住民の多い地域はほとんどなかったという。
このため、犯罪予測に従って警官のパトロールが重点的に行われれば、それらの地域への過剰取り締まりにつながり、低所得層、人種的マイノリティへの差別や偏見を悪化させる、との批判が高まった。
※参照:見えないアルゴリズム:「再犯予測プログラム」が判決を左右する(08/06/2016 新聞紙学的)
※参照:あなたの知らないAIの世界:AIが犯罪を予測、是か非か 揺れるアメリカ社会(05/04/2019 GLOBE+ 平和博)
今回の検証で使われたのは、2021年1月、ロサンゼルス警察のウェブサイト上で、セキュリティ対策もなく公開状態となっていた「プレッドポル」の利用データ740万件だ。
このうち590万件が、米国内の38警察署のデータだった。
ザ・マークアップは、この38警察署の実際の犯罪発生報告とパトロールデータを情報公開請求した。これに対して検証可能なデータを開示したのが、ニュージャージー州のプレインフィールド警察署のみだったという。
●犯罪予測産業の拡大
「プレッドポル」は犯罪予測AIの先駆けであり、その代名詞として知られてきた。
前述のように、「プレッドポル」による特定地域の過剰取り締まりは、大きな批判を浴びる。一方で現場の警察署は、そもそも犯罪多発地域については把握しており、精度の低さ、コストの問題が相まって、プレインフィールド警察のように、ほとんど使われぬまま、契約解除に至る例も相次いだ。
その中で、開発に関わったロサンゼルス警察も2020年4月に、新型コロナ禍による予算制約を理由として「プレッドポル」との契約を打ち切っている。
だが、監視データなども利用して犯罪発生予測を行う「予測ポリシング」の市場そのものは、拡大傾向にあるようだ。
調査会社「360iリサーチ」は、「予測ポリシング」の市場規模は2022年で45億ドル、年16%の成長が見込まれ、2030年には約150億ドルに拡大すると推定する。
今回のザ・マークアップの検証報道記事は、米テクノロジーメディア「ワイアード」との共同掲載だという。
ワイアードは2023年9月27日付で、前述の「ジオリティカ」(「プレッドポル」)を、やはり100を超す捜査機関と契約をする捜査テクノロジー企業「サウンドシンキング」が買収すると伝えている。
ワイアードによると、「サウンドシンキング」は旧社名「ショットスポッター」として1996年に設立。信号機や電柱に取り付けたマイクによって銃声を検知し、現場に警官派遣を支援するサービスを行う。
やはり検知精度の問題から、差別や偏見助長についての批判が続いてきた。
同社は2018年、「プレッドポル」のライバル企業だった「ハンチラボ」を買収し、犯罪予測も手がける。
ワイアードはこの動きを、銃声検知から、ビッグデータを使った「ワンストップショップ」、犯罪対策の“グーグル化”への転換、と位置付ける。
『ビッグデータ・ポリシングの台頭』の著者でアメリカン大学教授のアンドリュー・ファーガソン氏は、ワイアードの取材に、こう述べている。
「サウンドシンキング」の広報はワイアードの取材に対し、「ジオリティカ」を会社として買収するのではなく、同社の知的財産の一部を買い取ることで合意した、と述べている。
(犯罪予測と銃声検知という)これら2つの技術の有効性と倫理に対する懐疑的な見方が高まる中で、これらの企業が統合されるにつれ、我々はそれらに対抗する、より強固な組織作りに取り組まなければならない。
米デジタル人権団体「電子フロンティア財団(EFF)」は10月2日の声明でそう指摘し、それらの「ポリシングテクノロジー」の使用停止を求めている。
●リアルな「マイノリティ・リポート」
2002年公開のフィリップ・K・ディック原作、スピルバーグ監督の『マイノリティ・リポート』は、予知能力者による殺人事件の予防システムの恐怖を描いた。
だが現実は、的中率0.5%未満の予測システムが警察に配備され、やはり精度が疑問視される捜査支援テクノロジーと統合され、巨大化していく。
その現実にも、大きな不安がある。
(※2023年10月5日付「新聞紙学的」より加筆・修正のうえ転載)