IBM、Amazon、Microsoftが相次ぎ見合わせ、AIによる顔認識の何が問題なのか?

(写真:ロイター/アフロ)

AIを使った顔認識のテクノロジーは、なぜ今、問題となっているのか。そこにはAIによるバイアス(偏見)に対する嫌悪感がある――。

顔認識AIへの懸念が急速に高まっている。直接のきっかけは、米ミネアポリスの白人警察官による黒人死亡事件に端を発した、警察官の不正行為に対する改革を求める議論だ。

そんな中でIBMは8日、顔認識AIビジネスからの撤退を表明した。同社の新CEO、アルビンド・クリシュナ氏は、大規模な監視を批判し、特に警察などによる顔認識テクノロジーの使用には、明確な規制が必要と指摘している。

また、アマゾンも10日、警察が使用する同社の顔認識AI「レコグニション」について、今後1年間、提供を停止すると発表した。これは「連邦議会が適切なルールを実施するのに要するであろう時間」だとしている。

両社に続き、マイクロソフト社長のブラッド・スミス氏も11日、法整備が行われるまで、顔認識AIを警察には提供しない、と表明した

背景には、人種、性別などによる誤判定も大きい顔認識AIが、警察によるデモ鎮圧などの監視システムとして使われることへの反発がある。

一方でAIを使った顔認識は、新型コロナウイルスの感染追跡でも利用が検討されているといい、反発を呼んでいる。

●IBMが撤退表明

IBMは今後、汎用の顔認識や分析ソフトの提供は行わない。IBMは、他のベンダーによる顔認識技術などを、大規模な監視、人種プロファイリング、基本的人権と自由の侵害、さらに我々の価値観と「信頼と透明性の原則」にそぐわないいかなる目的の利用にも、断固反対し、許容するつもりはない。

2020年4月にIBMの新CEOに就任したばかりのクリシュナ氏は6月8日、民主党議員らが提出した警察改革法案「警察公正法案2020」をめぐって連邦議会に提出した書簡の中で、顔認識AIからの撤退を表明している。

インド出身のクリシュナ氏は、100年を超す同社の歴史の中で、初の有色人種のCEOだという。

IBMは人気クイズ番組で人間のチャンピオンを制したAI「ワトソン」により、AI商用利用の先陣を切ってきた。顔認識分野での存在感は限定的ながら、広がる市場からの「撤退」のインパクトは大きい。

書簡の中でクリシュナ氏は、続けてこう指摘している。

AIは法執行機関による市民の安全保護の手助けができる強力なツールだ。だが特に法執行機関が使う場合、AIのバイアス(偏見)についての検証が行われているか、そのバイアス検証が監査を受け、結果報告が行われているか。AIシステムのベンダーとユーザーは、この検証に共同責任を負っている。

●アマゾン、マイクロソフトも

我々は警察が使用するアマゾンの顔認識テクノロジーについて、1年間の提供停止を実施する。(中略)我々はこれまでも、顔認識テクノロジーの倫理的使用を統制するために、政府が強力な規制を行うべきであると主張してきた。そしてこの数日、連邦議会においても、この課題に取り組む準備が進みつつあるようだ。この1年間の提供停止は、議会が適切なルールを実施するのに十分な時間であるだろうし、もし求めがあれば、いつでも支援の用意はある。

アマゾンも6月10日、同社の顔認識AI「レコグニション」について、公式ブログ上でそう表明した

アマゾンの顔認識AI「レコグニション」の警察での使用はこれまで、フロリダ州オーランドとオレゴン州ワシントン郡の事例が明らかになっている。このうち、オーランドはすでに契約を終了しており、今回の提供停止措置による現実的な影響は大きくなさそうだ。

我々は米国内において、人権に基づいて顔認識テクノロジーを統制する連邦法が整備されるまでは、警察に販売することはない。

ワシントン・ポストによると、マイクロソフト社長のブラッド・スミス氏は11日、同紙主催のライブイベントで、こう表明したという。ただ、同社はこれまで、警察への顔認識AIの販売実績はないという。

AI顔認証がなぜ今、焦点になるのか。

背景には、米ミネアポリスでの白人警察官による黒人男性、ジョージ・フロイド氏死亡事件をきっかけにした人種差別抗議運動、さらに警察官の不法行為に対する改革要求の議論がある。

警察による黒人に対する過重な取り締まりは、米国社会で以前から問題視されてきた。

その現状をさらに悪化させるとして、深刻な問題点が指摘されてきたのが、黒人や女性に誤認識の傾向が強く出るAIによる顔認識テクノロジーの、警察による採用だった。

さらに、全米規模に拡大した抗議運動に対する警察の行き過ぎた制圧や監視への嫌悪感もある。

これまで繰り返し指摘されてきたAIのバイアスや監視への懸念が今回、人種差別を象徴する問題点として、改めてクローズアップされている。

●顔認識の精度

この問題で注目を集めたのが、マサチューセッツ工科大学(MIT)メディアラボの研究者、ジョイ・ブォラムウィニ氏らが2018年2月に発表した研究結果だ。

ブォラムウィニ氏らは、マイクロソフト、IBM、さらに中国の顔認識サービス「フェイス++」の3つのサービスの認識精度を比較。

3つのサービスの誤認識率は、いずれも男性より女性の方が高く、白い肌より黒い肌の方が高かった。

性別と肌の色の組み合わせでは、いずれも誤認識率が最も高かったのは肌の黒い女性。マイクロソフトでは20.8%、フェイス++では34.5%、IBMでは34.7%だった。

※参照:AIは中立ではなく「女性嫌い」 検証結果で見えてきた負の側面(02/20/2019 AERA.dot

※参照:AIのバイアス問題、求められる「公平」とは何か?(09/22/2018 新聞紙学的

※参照:AIと「バイアス」:顔認識に高まる批判(09/01/2018 新聞紙学的

さらに米自由人権協会(ACLU)は2018年7月、アマゾンの顔認識AI「レコグニション」が、28人の連邦議会議員を逮捕歴のある人物として誤認識した、との実験結果を明らかにしている。

実験に使ったのは、ネットから入手した2万5,000人分の逮捕写真。これを「レコグニション」に入力して「犯罪者データベース」を構築し、535人の上下両院の連邦議会議員の顔写真を判定させたところ、28人が「犯罪者」と認識されたという。

この中には、公民権運動で知られる有力下院議員、ジョン・ルイス氏(民主)ら連邦議会黒人幹部会のメンバー6人も含まれ、有色人種の割合は39%。議会における有色人種の割合20%の倍の割合だった。

顔認識と人種差別の問題は、古くは「グーグルフォト」が2015年、黒人カップルの写真を「ゴリラ」とタグ付けした「事件」にさかのぼる。

●600を超す捜査機関と新型コロナ

顔認識AIと警察をめぐっては、2020年に入り、新たな動きも明らかになった。

ニューヨーク・タイムズは1月、ニューヨークのAIベンチャー「クリアビューAI」が、ネット上から収集した30億枚の顔画像をもとに容疑者を割り出す顔認識AIを開発し、米連邦捜査局(FBI)や警察など600を超す捜査機関に提供していることを明らかにした。

この顔認識アプリは、フェイスブックやユーチューブ、ツイッター、インスタグラムなどのソーシャルメディアから自動収集した画像をもとに、AIを使って即座に捜査対象者を割り出すのだという。

30億枚という規模は、FBIの保有する顔写真(4億枚)の、7倍に相当する。

※参照:SNS投稿30億枚から顔データべース、警察に広がるAIアプリのディストピア(01/19/2020 新聞紙学的

さらに同社は、この顔認識AIを新型コロナウイルスの感染追跡にも提供することを検討している、と表明。CEOのホアン・トンザット氏は、すでに連邦政府や3つの州当局と話し合いを進めていることを明らかにしている。

これに対し、民主党上院議員のエドワード・マーキー氏はトンザット氏に質問状を送付

さらに、ツイッターでこう批判している

新型コロナの接触追跡の必要性を、クリアビューのような企業が怪しげな監視ネットワークを作り上げるための隠れ蓑にさせてはならない。

●懸念と規制の動き

AIによる顔認識の法規制には、すでに州レベルなどで乗り出している。

カリフォルニア州議会は2019年9月、警察のボディーカメラで顔認識AIを使用することを禁止する法案を可決。2020年1月から3年間の時限立法として施行されている。

すでにオレゴン、ニューハンプシャーの両州でも同様に警察のボディーカメラでの顔認識AIの使用を禁止する州法が成立。

また、ワシントン州では2020年3月、地元企業であるマイクロソフトが後押しする顔認識の規制法に州知事が署名している。警察が顔認識を使用する場合には令状が必要などと枠をはめることで、使用禁止は回避する内容だ。

マイクロソフト社長のブラッド・スミス氏は2018年7月、公式ブログで顔認識に対する法規制推進を打ち出している。

連邦法の法整備と絡めた今回の「警察に販売せず」との表明も、この延長線上にある。

一定の規制をかけることで、顔認識AIの市場そのものを死守する狙いがあるようだ。

●「皮肉な動き」

今回、撤退へと踏み出した背景には、顔認識の市場でのIBMの存在感がさほど大きくないことに加え、米国における人種問題への関心の高まりと、監視への嫌悪感が指摘される

ただ、IBMの動きに懐疑的な見方もある。

顔認識AIの警察への提供は、今回、撤退を表明したIBMも手がけていた。

調査報道メディア「インターセプト」は2018年9月、IBMがニューヨーク市警と顔認識AIの実証実験を行っていたことを明らかにしている。

プライバシーインターナショナルのエヴァ・ブラム・デュモンテ氏は、英BBCのインタビューに対し、監視カメラなどによる「スマートシティ」を推進してきたのはほかならぬIBMだったとし、その顔認識からの撤退表明を「皮肉な動き」だと指摘し、こう述べている

IBMは“スマート警察”と呼ばれる手法を開発し、警察のテクノロジーの能力を向上させる役目を担ってきた。そのことの埋め合わせをしようとしているのだ。今回の動きに、ダマされてはいけない。

一方で、AIによるバイアスの是正を訴え続けるブォラムウィニ氏はブログメディア「ミディアム」への6月10日の投稿で、IBMの撤退表明を評価しつつ、是正キャンペーンへの資金提供や、アルゴリズムの透明性などを求める声明への賛同といった、より積極的な取り組みを示せ、と述べる。

人種間の公平性には公正なアルゴリズムが必要だ。その立場を、行動で示せ。

また、IBMに続くアマゾンの動きについて、ACLU北カリフォルニア支部のディレクター、ニコール・オザー氏はニューヨーク・タイムズなどへの声明で、「(アマゾンが)ようやく、顔認識が黒人やヒスパニックのコミュニティーにもたらす危険と、より幅広い市民権について理解したということだろう」と指摘。こう述べている。

顔認識テクノロジーは、我々がどこにいこうとスパイすることができる空前の権力を与えている。そして、警察による濫用も後押しする。この監視テクノロジーは、中止されるべきだ。

AIのバイアスや、監視に対する嫌悪感の高まりは目に見える形で広がっている。企業の立場も、その動きに無関心ではいられない。

テクノロジーと社会の汽水域に、うねりが起きているように見える。

【Update 06/11/2020 11:06am: アマゾンの動きを追記しました】

【Update2 06/12/2020 09:10am: マイクロソフトの動きを追記しました】

(※2020年6月10日付「新聞紙学的」より加筆・修正のうえ転載)