Yahoo!ニュース

全米50超の警察が採用した「犯罪予測AI」の精度は0.5%未満だった

平和博桜美林大学教授 ジャーナリスト
全米50超の警察が採用した「犯罪予測AI」の精度は0.5%未満だった(写真:ロイター/アフロ)

全米50超の警察が採用した「犯罪予測AI」の精度は0.5%未満だった――。

米ウェブメディア「ザ・マークアップ」は10月2日、代表的な犯罪予測AI「プレッドポル」の効果についての検証結果を公表した。

それによると、「プレッドポル」を導入したニュージャージー州の警察署では、10カ月間で2万件を超す犯罪発生予測が生成されたものの、実際の発生と一致したのは100件に満たなかったという。

犯罪予測AIは、精度の問題に加えて、予測の現場が低所得層や人種的マイノリティの居住地区に偏り、偏見や差別を悪化させるとの批判が高まっていた。

今回の検証結果を受け、人権団体は犯罪予測を中止すべきだと指摘している。

犯罪予知が行われる未来を描いたスティーブン・スピルバーグ監督、トム・クルーズ主演のSF映画『マイノリティ・リポート』の舞台は、2054年だった。

現実の「マイノリティ・リポート」の世界は、その精度に大きな問題を抱えていた。

●2万件の予測、的中は100件未満

2018年2月25日から12月18日までの間に「ジオリティカ」が生成した、(ニュージャージー州)プレインフィールド警察署の2万3,631件の予測を検証した。同社のアルゴリズムから分析した各予測は、同署がパトロールしていない地域で発生する可能性が高い1つの犯罪を示していた。検証の結果、その的中率は0.5%未満だった。予測された犯罪カテゴリーのうち、後に警察に発生が報告されたものは、100件に満たなかった。

ザ・マークアップは2023年10月2日の記事の中で、犯罪予測AI「プレッドポル」の効果について、そう指摘する。

「ジオリティカ」は、2021年3月に「プレッドポル」が名称変更した後の社名・製品名だ。

ザ・マークアップはその上で、こう述べている。

さらに掘り下げ、プレインフィールドで発生するとされた犯罪予測を強盗・加重暴行に絞って調べたところ、0.6%とやはり低い的中率だった。窃盗の予測では的中率はより低く、0.1%だった。

このAIに、同署は初年度2万500ドル(約300万円)、次年度以降は1万5,500ドル(約230万円)を支払ったという。

ザ・マークアップは今回の分析について、こう結論づけている。

「ジオリティカ」の犯罪発生予測は、目隠しで地図にダーツを投げるより、わずかにましな割合でしかなかった。

プレインフィールド警察の幹部は、ザ・マークアップの取材に対して、こんなことを述べている。

なぜ当署が「プレッドポル」を導入したのか? 犯罪を減らすために、さらなる効率化を目指したのだと思う。警察官がどこにいるべきか、という予測があれば、その役には立つはずだ。だが役に立ったかどうかはわからない。実際に使用したことはあまりなかったはずだ。だから結局、契約は終了した。

同署は期間中、「プレッドポル」による犯罪発生予測の区域、129地点をパトロールしたデータが残っている。

だが実際は、パトロールと予測地点の一致は「偶然」で、パトロールの指示にこのAIシステムを使ったことはなかった、という。

●差別や偏見を悪化させる

「プレッドポル」はカリフォルニア大学ロサンゼルス校教授、ジェフリー・ブランティンガム氏とロサンゼルス警察が2011年、地震予測モデルを応用して共同開発した。

その名称は「予測ポリシング(取り締まり)」に由来する。

過去10年超の犯罪発生データをもとに、12時間以内の時間枠、500フィート(約152メートル)四方のエリア単位で、「窃盗」「強盗・加重暴行」「自動車盗」「銃犯罪」の4類型の犯罪発生を予測し、警官による巡回を促す。

だが研究者らが、「プレッドポル」の予測を検証したところ、犯罪発生を予測する地域は、大半が低所得層やアフリカ系、ラテン系などの人種的マイノリティの居住地域に偏り、白人住民の多い地域はほとんどなかったという。

このため、犯罪予測に従って警官のパトロールが重点的に行われれば、それらの地域への過剰取り締まりにつながり、低所得層、人種的マイノリティへの差別や偏見を悪化させる、との批判が高まった。

※参照:見えないアルゴリズム:「再犯予測プログラム」が判決を左右する(08/06/2016 新聞紙学的

※参照:あなたの知らないAIの世界:AIが犯罪を予測、是か非か 揺れるアメリカ社会(05/04/2019 GLOBE+ 平和博

今回の検証で使われたのは、2021年1月、ロサンゼルス警察のウェブサイト上で、セキュリティ対策もなく公開状態となっていた「プレッドポル」の利用データ740万件だ。

このうち590万件が、米国内の38警察署のデータだった。

ザ・マークアップは、この38警察署の実際の犯罪発生報告とパトロールデータを情報公開請求した。これに対して検証可能なデータを開示したのが、ニュージャージー州のプレインフィールド警察署のみだったという。

●犯罪予測産業の拡大

「プレッドポル」は犯罪予測AIの先駆けであり、その代名詞として知られてきた。

前述のように、「プレッドポル」による特定地域の過剰取り締まりは、大きな批判を浴びる。一方で現場の警察署は、そもそも犯罪多発地域については把握しており、精度の低さ、コストの問題が相まって、プレインフィールド警察のように、ほとんど使われぬまま、契約解除に至る例も相次いだ。

その中で、開発に関わったロサンゼルス警察も2020年4月に、新型コロナ禍による予算制約を理由として「プレッドポル」との契約を打ち切っている

だが、監視データなども利用して犯罪発生予測を行う「予測ポリシング」の市場そのものは、拡大傾向にあるようだ。

調査会社「360iリサーチ」は、「予測ポリシング」の市場規模は2022年で45億ドル、年16%の成長が見込まれ、2030年には約150億ドルに拡大すると推定する。

今回のザ・マークアップの検証報道記事は、米テクノロジーメディア「ワイアード」との共同掲載だという。

ワイアードは2023年9月27日付で、前述の「ジオリティカ」(「プレッドポル」)を、やはり100を超す捜査機関と契約をする捜査テクノロジー企業「サウンドシンキング」が買収すると伝えている

ワイアードによると、「サウンドシンキング」は旧社名「ショットスポッター」として1996年に設立。信号機や電柱に取り付けたマイクによって銃声を検知し、現場に警官派遣を支援するサービスを行う。

やはり検知精度の問題から、差別や偏見助長についての批判が続いてきた。

同社は2018年、「プレッドポル」のライバル企業だった「ハンチラボ」を買収し、犯罪予測も手がける。

ワイアードはこの動きを、銃声検知から、ビッグデータを使った「ワンストップショップ」、犯罪対策の“グーグル化”への転換、と位置付ける。

ビッグデータ・ポリシングの台頭』の著者でアメリカン大学教授のアンドリュー・ファーガソン氏は、ワイアードの取材に、こう述べている。

私たちは今、巨大警察テック企業がさらに巨大化する統合の瞬間に立ち会っている。この動きは、そのプロセスの第一歩だ。

「サウンドシンキング」の広報はワイアードの取材に対し、「ジオリティカ」を会社として買収するのではなく、同社の知的財産の一部を買い取ることで合意した、と述べている。

(犯罪予測と銃声検知という)これら2つの技術の有効性と倫理に対する懐疑的な見方が高まる中で、これらの企業が統合されるにつれ、我々はそれらに対抗する、より強固な組織作りに取り組まなければならない。

米デジタル人権団体「電子フロンティア財団(EFF)」は10月2日の声明でそう指摘し、それらの「ポリシングテクノロジー」の使用停止を求めている。

●リアルな「マイノリティ・リポート」

2002年公開のフィリップ・K・ディック原作、スピルバーグ監督の『マイノリティ・リポート』は、予知能力者による殺人事件の予防システムの恐怖を描いた。

だが現実は、的中率0.5%未満の予測システムが警察に配備され、やはり精度が疑問視される捜査支援テクノロジーと統合され、巨大化していく。

その現実にも、大きな不安がある。

(※2023年10月5日付「新聞紙学的」より加筆・修正のうえ転載)

桜美林大学教授 ジャーナリスト

桜美林大学リベラルアーツ学群教授、ジャーナリスト。早稲田大卒業後、朝日新聞。シリコンバレー駐在、デジタルウオッチャー。2019年4月から現職。2022年から日本ファクトチェックセンター運営委員。2023年5月からJST-RISTEXプログラムアドバイザー。最新刊『チャットGPTvs.人類』(6/20、文春新書)、既刊『悪のAI論 あなたはここまで支配されている』(朝日新書、以下同)『信じてはいけない 民主主義を壊すフェイクニュースの正体』『朝日新聞記者のネット情報活用術』、訳書『あなたがメディア! ソーシャル新時代の情報術』『ブログ 世界を変える個人メディア』(ダン・ギルモア著、朝日新聞出版)

平和博の最近の記事