「AIロボコップ」GPTが捜査報告書を自動作成する、その問題点とは？
「AIロボコップ」として、GPT-4が現場の音声録音から捜査報告書を自動作成する――。
そんなAIシステムが、米国の警察署で広がっているという。
警察官が装着するボディカメラとセットのシステムで、記録された現場音声supiをテキスト化し、捜査報告書の書式にまとめて生成する。
警察の恒常的な人手不足の中、作業の効率化が期待され、導入が進む。
一方で、逮捕や起訴の裏付けとなる資料として、AI生成の透明性や正確性に疑問も指摘される。
顔認識から、犯罪発生予測、再犯予測まで、犯罪捜査・刑事司法にまつわるAI導入は、様々な場面に進む。
「警察とAI」を巡るメリットとリスクとは？
●ボディカメラの音声をテキスト化
このAIが、正確さを損なわず、報告書作成をスピードアップしてくれるなら、成功と言えるだろう。
米カリフォルニア州のイースト・パロアルト署の署長、ジェフ・リュー氏は、10月3日付の記事の中で、そう述べている。
この記事は、ガーディアンUSとサンフランシスコの公共メディア「KQED」、「KQED」を含むカリフォルニア州内の公共メディアのグループ「カリフォルニア・ニュースルーム」が共同で公開した。
リュー氏が述べているのは、同署が導入した捜査報告書のAI生成システム「ドラフトワン」のことだ。
イースト・パロアルト市は、富裕層が目立つシリコンバレーの一画にありながら、隣接するパロアルト市と比べて平均世帯所得が半額以下、暴力犯罪の発生率が3倍超で、周辺との格差が際立つ地域だ。
警察は恒常的な人員不足に悩まされている。同署では、リュー氏を含む36人の定員枠で8人の欠員となっている。
そこに作業の効率化の需要がある。
「ドラフトワン」は、テーザー銃（スタンガン）の販売で知られる米アクソン（旧テーザー・インターナショナル）が、同社のボディカメラと連動するサービスとして、2024年4月から提供を開始している。
警察官が立ち会った現場で、ボディカメラが収録する音声をもとに、チャットGPTの大規模言語モデル（LLM）であるGPT-4を使ってテキスト化し、捜査報告書の書式に自動編集する。
このシステムによって、「警察官の時間を1日当たり1時間以上節約する」とうたう。
イースト・パロアルト市議会に提出された資料では、使用料は1件あたり月額70.52ドル。同署では43件分の5年契約で計18万1,941.6ドル（約2,700万円）を予算計上している。
●導入拡大、運用に違い
「ドラフトワン」の導入は、各地で広がっている。
シリコンバレーでは、サンタクララ郡のキャンベル署でも導入。インディアナ州ラファイエット署、コロラド州フォートコリンズ署では、「ドラフトワン」の公開前に試験導入をしており、この他にオクラホマ州オクラホマシティ署などでも導入しているという。
「ドラフトワン」のリリースによると、同システムの初期設定では、その用途が軽微な事案に限定されており、逮捕事案、重大犯罪は除外されているという。
ただ、AP通信の8月28日付の報道では、導入した警察の運用にも違いがみられるようだ。
オクラホマシティ警察では、「ドラフトワン」の初期設定どおり、逮捕に至らない軽微な事案の報告書作成のみに使われている。これに対して、ラファイエット警察、フォートコリンズ警察では、「ドラフトワン」の使用範囲に制限を設けていないという。
また、「ドラフトワン」をどの報告書に使ったか、という管理の面でも対応はまちまちだ。
9月4日付のポリティコの報道によると、前述のラファイエットとフォートコリンズの両署は、「ドラフトワン」を使用した報告書の開示請求に対して、報告書に使用の有無を明示しておらず、判別できない、と回答したという。
コロラド州フレデリック署は、署内では判別できなかったが、「ドラフトワン」を提供するアクソンに照会して、該当する報告書を把握したという。
またイリノイ州マウントバーノン署では、「ドラフトワン」を使用した場合には、報告書の末尾に明記するよう全署員に義務付けているという。
●AI捜査報告書への懸念
アクソンは、「ドラフトワン」の使用の有無による報告書の内容の質を比較する二重盲検試験を実施した。その結果、「ドラフトワン」は、完全性、中立性、客観性、用語、一貫性の5つの面で、警察官のみの報告書の内容と同等以上のパフォーマンスを示した。
アクソンは上述のリリースの中で、そう述べている。
さらに、捜査報告書作成に当たっては、担当者に校正作業や最終的な確認と承認を求めるなど、人間の関与を組み込んでいる、と述べる。また公開前に、専門家が関わるバイアスのテストを実施しているという。
だがテックメディア「ギークワイヤー」の9月26日付の報道によると、シアトルを含むワシントン州キング郡の検察局は9月25日付で、「幻覚」などのエラーの可能性を理由として、AIを使用した捜査報告書を受け付けない、との通達を出したという。
実際に目にした事例では、それ以外は優れた報告書の中に、現場にいなかった警察官のことが言及されていた。
「ギークワイヤー」が情報公開請求で入手した通達はそう述べていたという。
自動化やテクノロジーの容易さによって、警察官が文書作成の慎重さをおろそかにするのではないか、と懸念している。
アメリカン大学教授、アンドリュー・ファーガソン氏は、「ドラフトワン」の広がりについて、AP通信の取材にこうコメントしている。
さらにファーガソン氏は、「ドラフトワン」の使用の有無が警察署内で判別できていない現状について、ポリティコに対して、こう述べている。
警察署の監督官や署長が、警察官がこのテクノロジーの使用の有無を知らないのは、とても無責任だと感じる。
チャットGPTなどの生成AIの出力内容には、「幻覚」と呼ばれる虚偽を含む不正確さや、学習データに由来するバイアスの問題が抜きがたくつきまとう。
しかも、チャットGPTのモデルであり、「ドラフトワン」でも使われているGPT-4の学習データは非公開だ。
※参照：チャットAIの「頭脳」をつくるデータの正体がわかった、プライバシーや著作権の行方は？（04/24/2023 新聞紙学的）
そして、警察の捜査報告書は、逮捕や裁判に使われる場合、容疑者・被告の人生を左右することになる。
ファーガソン氏は8月20日付で、論文共有サイト「SSRN」に「ドラフトワン」に関する論文の草稿を公開した。
その中では、「モデルの学習データへの懸念、音声のテキスト化における誤記、幻覚、バイアス、さらに最終的に出力される捜査報告書に生成プロンプト（指示文）がどのような影響を与えるのか、といったことへの疑問」について指摘している。
この他にもデジタル人権団体「電子フロンティア財団（EFF）」のシニアポリシーアナリスト、マシュー・ガリグリア氏も、5月8日付のブログ投稿で、こう指摘している。
一般市民や外部機関は、どのようにしてこれらのAI支援の捜査報告書を独自に検証したり監査したりできるのか？ また、報告書の作成者はどの部分がAIでどの部分が人間なのか、外部の監査人はどうやって知ることができるのか？
また、「ドラフトワン」の導入による効率化にも、疑問が指摘される。
サウスカロライナ大学、ニューハンプシャー州マンチェスター署、クレモン大学の研究チームは、10月2日付で公開した論文の中で、「ドラフトワン」による効率化の効果を検証している。
論文では、249人の常勤警察官と54人の職員からなるマンチェスター署の警ら課（警察官124人）のうち、85人による755件の捜査報告書を対象に調査を実施。「ドラフトワン」の使用は、報告書作成にかかる時間に影響を与えなかった、と結論づけている。
●顔認証、犯罪発生予測、再犯予測
AIによる捜査報告書作成サービスは、「ドラフトワン」だけではない。「ポリスリポーツ」や「トゥルーレオ」などの競合もある。
さらに、「警察とAI」を巡っては、これまでにも様々なサービスが提供され、議論を呼んできた。
AIを使った顔認識の捜査への使用では、肌の色による認識精度の違いから、無実の黒人の誤認逮捕などが問題化した。
※参照：「コンピューターが間違ったんだな」AIの顔認識で誤認逮捕される（06/25/2020 新聞紙学的）
顔認識サービスの提供を巡っては、ソーシャルメディア投稿などネット上の画像から300億枚の顔画像データベースを構築し、警察などに提供している米ベンチャー「クリアビューAI」が、EU（欧州連合）の規制当局から相次いで個人データ保護法制「一般データ保護規則（GDPR）」違反に問われ、巨額の制裁金を科されている。
一方、米国では、「クリアビューAI」に対する訴訟は、和解に合意している。
※参照：SNS投稿30億枚から顔データべース、警察に広がるAIアプリのディストピア（01/19/2020 新聞紙学的）
この他にも、AIを使った「犯罪発生予測」による効率的なパトロールの実現をうたったシステム「プレッドポル」も注目を集めた。
だが、ウェブメディア「ザ・マークアップ」が検証したところ、その予測精度は0.5％未満だった、としている。
※参照：全米50超の警察が採用した「犯罪予測AI」の精度は0.5％未満だった（10/05/2023 新聞紙学的）
また調査報道メディア「プロパブリカ」は、ウィスコンシン州などで、刑事裁判の判決の参考データとして使われていた、被告の再犯可能性を予測するAIシステム「コンパス」に、人種的なバイアスが存在する、と指摘した。
※参照：見えないアルゴリズム：「再犯予測プログラム」が判決を左右する（08/06/2016 新聞紙学的）
●「警察とAI」の間合い
AIのリスクを重く見るEUでは、2024年5月に成立したAI法によって、警察などの捜査における、公共空間でのリアルタイムの顔認識など生体認識の使用や、犯罪実行可能性の予測、ネット上からの無差別収集による顔画像データベースの構築などを禁止した。
※参照：人類は生成AIをいかにして制御するのか？EUで成立したAI規制法400ページの核心（06/26/2024 【StraightTalk】桜美林大学リベラルアーツ学群教授の平和博氏に聞いた「AIと規制」）
また米国では、弁護士が生成AIを使用し、虚偽の内容を含む訴訟資料を裁判所に提出したことから制裁金を科され、AI使用の開示を命じられるケースが相次ぐ。
だが、警察の捜査報告書作成へのAI使用については、今のところ特段の規制はなさそうだ。
生成AIの導入によって、どれだけの効果が期待され、どのようなリスクが想定されるのか。
あらゆる分野で、その見極めが求められている。
「警察とAI」の間合いは、その最前線に位置付けられる。
（※2024年10月7日付「新聞紙学的」より加筆・修正のうえ転載）
