顔認識AIのデータは、街角の監視カメラとSNSから吸い上げられていく

(写真:ロイター/アフロ)

AIによる顔認識が、改めて大きな議論を呼んでいる。

AIが顔認識をするためには、大量の顔画像のデータが必要だ。そのデータはどこからやってくるのか?

街角に設置された監視カメラやソーシャルメディアからだ。

By Sheila Scarborough (CC BY 2.0)
By Sheila Scarborough (CC BY 2.0)

街角で、あるいはネットの投稿から、気づかぬうちに自分の顔が収集され、AIに入力されていく。

そんな実態を米ニューヨーク・タイムズ英フィナンシャル・タイムズが相次いで報じている。

顔認識AIは、以前から人権侵害の懸念が指摘されてきた。

そんな中で米マイクロソフトが4月、人権侵害への懸念を理由に、カリフォルニア州の警察当局に対して顔認識システムの提供を拒否した、とロイターが報じている

AIと人権の衝突は、提供する側のIT企業にとっても大きな課題となっている。

AIを、何に対し、どうやって、どこまで利用するのか――そんな議論が進んでいる。

●9時間で2750人の顔収集

ニューヨーク・タイムズが記事の舞台にしたのは、マンハッタンのミッドタウン、タイムズスクエアとグランドセントラル駅の間のビジネス街にあるブライアント公園。約4万平方メートルの敷地内にはニューヨーク公共図書館がある。

そのレストランの屋上に公園の管理団体が設置した3台のカメラがインターネットで一般公開された24時間ライブ中継を行っている。

タイムズは今年3月のある日、9時間にわたってこのカメラに映し出される人々の顔を、アマゾンの顔認識AI「レコグニション」を使って収集。のべ2750人の顔画像を入手した、という。

この中で、何人かの顔画像については、本人と思しき身元情報が表示された。

その1人が、リチャード・マドンナ氏。ブライアント公園とは42丁目の通りをはさんで北側にあるニューヨーク州立大学眼科大学の臨床教育学部長で、同一人物である確率は89%とされていた。

これはニューヨーク・タイムズが立ち上げた企画「プライバシー・プロジェクト」の一環だ。

顔画像収集のためにタイムズが使った費用は、わずか60ドル(約6700円)だった。

タイムズの取材を受けたマドンナ氏は、こう述べている。

こんなに簡単に私の身元が特定されてしまったことにショックを受けた。なぜなら、まさに、ここに写っているのは私の側頭部だから。

マドンナ氏はこの時、採用面接の対象者と昼食をとりにいく途中に、公園内を歩いていたのだという。

タイムズは、記事公開にあたってマドンナ氏の事前同意を得ており、その他の顔画像は実験後にすべて消去。以後はブライアント公園のライブ中継のチェックは行っていないという。

今のところ米国では、タイムズが行ったようなAIによる顔認識を使った顔データベース作成は、法規制がないという。

●NY市警は9000超のカメラで

ネットに接続されたライブカメラは、これ以外にも大量に設置されている。

ニューヨーク市警察は、マイクロソフトと共同開発した「領域認識システム(DAS)」と呼ばれる、監視カメラ、車両ナンバー読み取りシステムなどと、同市警のデータベースを連携させた防犯システムを運用している。

米自由人権協会(ACLU)によると、このシステムにより、ニューヨーク市警察から直接アクセスできるライブカメラは、マンハッタン南部地域だけで9000にのぼる。

ニューヨーク市内には、同市が設置する公共無線LANの端末に2台ずつあるセキュリティ用の監視カメラが計3000超。さらに運輸省が交通量監視のために設置しているライブカメラが数百にのぼる、という。

タイムズが使ったアマゾンの顔認識AI「レコグニション」は、すでにオレゴン州ワシントン群の保安官事務所で運用されており、フロリダ州オーランド市でも試験運用されている。

一方でこれが市民を監視し、集会の自由や移動の自由などの制限につながるとして、批判も相次いでいる。

※参照:AIと「バイアス」:顔認識に高まる批判(新聞紙学的、09/01/2018

※参照:「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンAIに相次ぐ懸念(新聞紙学的、05/26/2018

ジョージタウン大学ローセンターの推計では、前科前歴の有無に関係なく、米国成人の半数の1億3000万人が、犯罪捜査で使われる顔写真データベースに登録されていると見られる、という。

ただ、アマゾンのAIの手軽さと低コストが、捜査の顔認識と結びつくことで、新たなインパクトを生んでいる、ということのようだ。

アマゾンの説明書きでは、「最初の1年間は1か月間に1,000分、動画を無料」とし、米国西部(オレゴン)での利用料金は「分析したライブストリーム動画1分あたり 0.12USD」「毎月保存した顔のメタデータ1000 個につき0.01USD」などとしている。

CNNによると、ワシントン郡保安官事務所が「レコグニション」の利用で払っているのは月額6ドルから12ドル程度、という。

●人権団体のスタッフの顔画像も収集される

タイムズの取材に対し、監視問題に取り組む人権擁護団体「電子フロンティア財団(EFF)」で訴訟担当ディレクター、ジェニファー・リンチ氏は、こう述べている。

政府がひとたび、我々がどこにいても追跡し、身元を割り出すことができるようになれば、匿名で話をしたり、社会参加をすることは不可能になってしまう。

ところが、そのEFFの複数のメンバーが、顔認識AIのための米政府のデータベースに顔画像を無断で収集されていたことが明らかになった、とフィナンシャル・タイムズが伝えている

これは、国家情報長官室(ODNI)の研究支援組織「情報高等研究開発活動(IARPA)」が、商務省傘下の国立標準技術研究所(NIST)と共同して、顔認識AIシステムの機能向上に使うために収集したデータ(IJB-C)だ。

このデータに含まれていたのは、ネット上から収集した3500人分の3万件超の顔画像や1万件超の動画などだ。

その中に、顔認識AIの問題告発に取り組むEFFのスタッフが、デジタルプライバシーについて講演するユーチューブ動画なども含まれていた――そんな皮肉な事態が起きていたというのだ。

このデータセットの利用先には、中国公安当局の2000万台の監視カメラのネットワーク「天網(スカイネット)」に顔認識機能を提供する中国のAIベンチャー「センスタイム」や、米英、インドの法執行機関に顔認識ソフトを提供するNECなども含まれていた、という。

さらにこのデータセットの中には、ほかにもEFFのボードメンバー3人の顔画像も含まれていた、という。

●IT企業も表明する「法規制」

マイクロソフト社長のブラッド・スミス氏は4月16日、人権侵害への懸念から、カリフォルニア州の警察当局からの顔認識システムの提供要請を断ったことを明らかにした、とロイターが伝えている

ロイターによると、スミス氏はスタンフォードであったシンポジウムでこの判断を明かしたという。警察当局の具体名は明らかにしていないが、顔認識システムは、車両とボディカメラへの導入が想定されており、「対象者を呼び止めた際に、いつでも顔識別ができるようにしたい、との要望だった」とスミス氏。

これに対して、「このテクノロジーはそのような用途には適さない、と回答した」という。

また、国民の自由が保障されていない国から、首都全域に設置されたカメラへの顔認識システムの導入要請も断った、という。

ニューヨーク市警に対しては、顔認識システムの提供をしたマイクロソフトだが、考え方が変わったようだ。

顔認識AIをめぐる批判は、昨年から大きなうねりを見せてきた。

大きな論点としては、顔画像を手がかりに、公共の場での行動が監視・追跡されてしまうという懸念がある。さらには女性や、黒人などの人種的マイノリティに対しては顔認識の精度が落ち、誤って別人と認定されてしまう、などの可能性も指摘されてきた。

マイクロソフトでは、100人を超す社員が、顔認識システムの政府への提供に関する公開質問状を送付する事態となっていた。

そんな中でスミス氏は2018年7月、政府による法規制を求めていくと表明していた

「レコグニション」をめぐる騒動で矢面に立ってきたアマゾンも、批判に対しては反論の構えは崩さないものの、全面対決という姿勢ではなくなっている。

グローバル公共政策担当副社長、マイケル・パンク氏も今年2月、人権保護のための法的な枠組みを支持するとし、法執行機関で使用する際の人間による検証の必要性などを盛り込んだ5項目のガイドラインを明らかにしている。

●超党派の規制法案提出

顔認識の法規制をめぐっては、すでに3月、上院議員のブライアン・シャッツ(ハワイ、民主)とロイ・ブラント(ミズーリ、共和)両氏による超党派の法案「商用顔認識プライバシー法」が提出されている。

法案では、顔認識のデータ収集において、明確な本人同意を義務付けたり、第三者とのデータ共有を制限したりすることなどが盛り込まれている。

マイクロソフトのスミス氏も、この法案を支持している、という。

様々に指摘されるAIをめぐるリスクの中で、今のところ、最も大きなうねりになっているのがこの顔認識だ。

AIをどのように、どこまで規制するのか。

そのルールを考える上で、手かかりとなる動きだ。

(※2019年4月21日付「新聞紙学的」より加筆修正のうえ転載)