「コンピューターが間違ったんだな」AIの顔認識で誤認逮捕される
AIによる顔認識システムで万引き犯に間違われ、妻や幼い娘たちの見ている前で誤認逮捕されてしまった――そんな事件が波紋を広げている。
AIによる顔認識は、白人と黒人やアジア系では最大100倍と言われる精度のばらつきがあり「AIのバイアス（偏見）問題」として知られている。
だが米デトロイト在住の42歳の黒人男性は、別人と間違われるだけでなく、実際に万引きの容疑者として誤認逮捕されてしまったのだという。
顔認識の誤判定による誤認逮捕が捜査当局も認める形で表面化するのは、米国では初めてと見られている。
男性は30時間後に釈放され、起訴猶予処分となったものの、6月24日、市公安委員会に対して、公式の謝罪や捜査での顔認識システムの使用停止などを求める申し立てを行った。
顔認識のバイアスの問題は、米ミネアポリスの黒人男性死亡事件をきっかけとした人種差別撤廃を求めるうねりの中で改めて浮上。
IT大手のIBM、アマゾン、マイクロソフトが、相次いで撤退やサービス停止を表明している。
※参照：IBM、Amazon、Microsoftが相次ぎ見合わせ、AIによる顔認識の何が問題なのか？（06/10/2020 新聞紙学的）
その懸念が現実化した事件が起きたということになる。
米連邦議会では早速、政府機関による顔認識の使用を禁じる法案が提出された。
●アルゴリズムが「容疑者の顔」判定
ニューヨーク・タイムズが6月24日付の記事で、事件の経緯を報じている。
誤認逮捕されたのは、デトロイトで自動車部品会社に勤める42歳の黒人男性、ロバート・ウィリアムズ氏。
ニューヨーク・タイムズの報道や、ウィリアムズ氏のデトロイト市公安委員会への申し立て、ワシントン・ポストへの寄稿などによると、発端は2018年10月に起きた窃盗事件だった。
ブランドショップとして知られるデトロイト中心部の高級店「シャイノラ」で、時計5点、計3,800ドル（約40万円）分が万引きされた。
監視カメラに写っていたのは、米大リーグのセントルイス・カージナルスの赤い野球帽をかぶった大柄で黒い服をきた黒人男性だった。
地元のデトロイト市警察は事件発生から5カ月後の2019年3月、この監視カメラ映像の鑑定を、ミシガン州警察に依頼する。州警察では、4900万枚の顔画像で構築した顔認識システム「SNAP」を使って、映像の人物の鑑定を行った。
その結果、「SNAP」が映像の人物と“合致する”顔画像の一つとして判定したのが、ウィリアムズ氏の免許証の顔写真だった。
さらに4カ月後の2019年7月、この判定をもとに、ウィリアムズ氏の顔写真を含む6人の"面通し用顔写真"を作成。「シャイノラ」の警備員に見せたところ、この警備員がウィリアムズ氏を特定したという。
その半年後、事件発生から数えて1年3カ月後となる2020年1月9日、デトロイト市警がウィリアムズ氏を逮捕した。
●「コンピューターが間違ったんだな」
ウィリアムズ氏は終業後に自家用車で帰宅した夕方、自宅前で待機していたデトロイト市警の2人の警察官に逮捕状を示され、手錠をかけられる。
妻と2人の幼い娘たちの見ている前での出来事だったという。
拘置所で一泊させられた翌日、ウィリアムズ氏は取り調べの2人の警察官から「シャイノラ」の監視カメラに写っていた容疑者の顔写真を見せられる。
ウィリアムズ氏はその写真を手に取り、自分の顔と並べて見せて、こう言った。
黒人が全員同じに見えてないといいのですが。
すると、2人の警察官は顔を見合わせ、困惑した表情になった。そのうちの1人がこう話した、という。
コンピューターが間違ったんだな。
だが、ウィリアムズ氏は取り調べ後も留め置かれ、結局、保釈金1,000ドル（約11万円）で、逮捕から30時間後の1月10日夜、ようやく冬の雨の中に釈放されたという。
デトロイトを含むウェイン郡の検察官は2週間後の同月23日、「証拠不十分」としながらも、ウィリアムズ氏を明確な不起訴処分ではなく、将来の起訴の可能性も残る起訴猶予処分とした。
これに対してウィリアムズ氏は、米自由人権協会（ACLU）の支援を受け、6月24日にデトロイト市公安委員会に対して、不起訴処分と公式な謝罪、逮捕にまつわる記録の削除、さらに捜査における顔認識システム使用の停止などを求めた申し立てを行った。
デトロイト市警の捜査内容からは、この逮捕は行われるべきではなかった。その点については謝罪したい。幸い、当検察官事務所の判断によって、起訴はされなかった。だがそのことは、ウィリアムズ氏が拘置所で過ごした時間を取り戻すことには決してならない。
ウェイン郡検察官事務所は、ニューヨーク・タイムズの報道を受けて同日、リリースを発表し、こう謝罪している。
その中で、ウィリアムズ氏を含む6人の"面通し用顔写真"を見せられた「シャイノラ」の警備員は、監視カメラの映像は確認していたものの、万引きの発生時に容疑者本人を目撃したわけではないこと、容疑者を目撃した別の店員は"面通し用顔写真"を確認していないことなどから、起訴しないことを決めた、と説明する。
つまり、顔認識システムが別人の容疑者の顔をウィリアムズ氏と誤判定した上で、さらに万引きの現場を見ていない警備員が、ウィリアムズ氏を"容疑者"と特定した、ということになる。
また、検察官は顔認識システムが特に有色人種に関して信頼性に欠けることは理解しており、その考え方は現在も変わらない、と述べている。
デトロイト市警は声明でこう述べている、という。
逮捕は顔認識のみに基づいて行われたものではない。捜査官は映像を検証し、目撃者を聴取し、顔写真の面通しを行っている。
ただ、ウィリアムズ氏は窃盗事件があった時間は仕事からの帰宅途中で、その時の様子を動画でインスタグラムに投稿しているなど、明確なアリバイもあったが、警察は確認していなかったという。
デトロイト・フリー・プレスのインタビューに、ウィリアムズ氏はこう述べている。
私は泥棒ではない。順調にこれまでやってきた。事実としてわかっていることは、私が理由もなく逮捕された、ということだけだ。
さらに、ウィリアムズ氏はワシントン・ポストへの寄稿でも、こう指摘している。
拘置所暮らしがたった一晩で済んだのは、トラウマにはなったが、幸運だったとずっと思っている。多くの黒人には、幸運は訪れない。家族も私も、そんな恐怖を抱えて過ごしたくはない。誰にもそんな恐怖を抱えて過ごして欲しくはない。
ジョージタウン大学プライバシー・テクノロジー・センターのシニアアソシエイト、クレア・ガービー氏は、ニューヨーク・タイムズのインタビューに、こう指摘している。
（顔認識の）誤判定によって、犯していない犯罪のために別人が逮捕されたのは、決してこれが初めてではないはずだ。これは、表面化した初めてのケースにすぎない。
●顔認識のバイアス
ニューヨーク・タイムズによれば、ミシガン州警察の顔認識システム「SNAP」は、サウスカロライナ州の企業「データワークス・プラス」が550万ドル（約5億9,000万円）で受託。顔認識については、NECとコロラド州の企業「ランクワン・コンピューティング」のテクノロジーを採用しているという。
AIによる顔認識は、白人よりも黒人やアジア系などの有色人種、男性よりも女性で誤認識率が高い傾向にあることが知られている。
米国立標準技術研究所（NIST）が2019年12月に発表した、100社の顔認識システムを検証した報告書では、白人に比べて、黒人やアジア系などの誤認識率は10倍から100倍に上ったとしている。
この問題で注目を集めたのが、マサチューセッツ工科大学（MIT）メディアラボの研究者、ジョイ・ブォラムウィニ氏らが2018年2月に発表した研究結果だ。
※参照：ＡＩと「バイアス」：顔認識に高まる批判（09/01/2018 新聞紙学的）
ブォラムウィニ氏らは、マイクロソフト、IBM、さらに中国の顔認識サービス「フェイス＋＋」の3つのサービスの認識精度を比較。
3つのサービスの誤認識率は、いずれも男性より女性の方が高く、白い肌より黒い肌の方が高かった。性別と肌の色の組み合わせでは、いずれも誤認識率が最も高かったのは肌の黒い女性。マイクロソフトでは20.8％、フェイス＋＋では34.5％、IBMでは34.7％だった。
また米自由人権協会（ACLU）は2018年7月、アマゾンの顔認識AI「レコグニション」が、28人の連邦議会議員を逮捕歴のある人物として誤認識した、との実験結果を明らかにしている。
MITメディアラボのブォラムウィニ氏は、今回の誤認逮捕事件について、NPRのインタビューにこう述べている。
このずさんな人違いは、顔認識テクノロジーの危険性の一つを示したに過ぎない。つまり一般的傾向として、白人に比べて有色人種、肌の色が濃い人々は、誤認識されやすいということだ。これは、様々な研究ですでに繰り返し明らかにされてきたことだ。
これが大規模監視で使われることによって、市民の自由に及ぼす脅威は計り知れない。
●顔認識への違和感、さらに広がる
ウィリアムズ氏がデトロイト市公安委員会に申し立てを行った翌日の6月25日、エドワード・マーキー上院議員ら、民主党の上下両院の議員4人が、政府機関による顔認識システムを禁じる法案を議会に提出した。
マーキー氏は声明でこう述べている。
顔認識テクノロジーは我々のプライバシーに重大な脅威を及ぼすだけではなく、わが国の黒人やその他のマイノリティーを身体的な危険にさらすのだ。
また6月24日、ボストン市議会では、同市及び職員が顔認識システムやそのデータを使うことを禁じる条例案を全会一致で可決した。
人口69万人のボストン市は、同様に顔認識を禁じる米国内の大都市としては、サンフランシスコ市（88万人）に次ぐ規模だという。
大手IT企業も顔認識のテクノロジーとは距離を置く姿勢を相次いで表明している。
IBMは6月8日、顔認識のビジネスからの撤退を表明。2日後の10日にはアマゾンも顔認識の警察への提供を1年間停止すると発表。マイクロソフトも翌11日、法整備が行われるまで、警察への顔認識の提供は行わないとしている。
AIによる顔認識への違和感は、加速度的に広がっている。
（※2020年6月25日付「新聞紙学的」より加筆・修正のうえ転載）
