ＡＩによる顔認識が、改めて大きな議論を呼んでいる。

ＡＩが顔認識をするためには、大量の顔画像のデータが必要だ。そのデータはどこからやってくるのか？

街角に設置された監視カメラやソーシャルメディアからだ。

街角で、あるいはネットの投稿から、気づかぬうちに自分の顔が収集され、ＡＩに入力されていく。

そんな実態を米ニューヨーク・タイムズや英フィナンシャル・タイムズが相次いで報じている。

顔認識ＡＩは、以前から人権侵害の懸念が指摘されてきた。

そんな中で米マイクロソフトが４月、人権侵害への懸念を理由に、カリフォルニア州の警察当局に対して顔認識システムの提供を拒否した、とロイターが報じている。

ＡＩと人権の衝突は、提供する側のＩＴ企業にとっても大きな課題となっている。

ＡＩを、何に対し、どうやって、どこまで利用するのか――そんな議論が進んでいる。

●９時間で２７５０人の顔収集

ニューヨーク・タイムズが記事の舞台にしたのは、マンハッタンのミッドタウン、タイムズスクエアとグランドセントラル駅の間のビジネス街にあるブライアント公園。約４万平方メートルの敷地内にはニューヨーク公共図書館がある。

そのレストランの屋上に公園の管理団体が設置した３台のカメラがインターネットで一般公開された２４時間ライブ中継を行っている。

タイムズは今年３月のある日、９時間にわたってこのカメラに映し出される人々の顔を、アマゾンの顔認識ＡＩ「レコグニション」を使って収集。のべ２７５０人の顔画像を入手した、という。

この中で、何人かの顔画像については、本人と思しき身元情報が表示された。

その１人が、リチャード・マドンナ氏。ブライアント公園とは４２丁目の通りをはさんで北側にあるニューヨーク州立大学眼科大学の臨床教育学部長で、同一人物である確率は８９％とされていた。

これはニューヨーク・タイムズが立ち上げた企画「プライバシー・プロジェクト」の一環だ。

顔画像収集のためにタイムズが使った費用は、わずか６０ドル（約６７００円）だった。

タイムズの取材を受けたマドンナ氏は、こう述べている。

マドンナ氏はこの時、採用面接の対象者と昼食をとりにいく途中に、公園内を歩いていたのだという。

タイムズは、記事公開にあたってマドンナ氏の事前同意を得ており、その他の顔画像は実験後にすべて消去。以後はブライアント公園のライブ中継のチェックは行っていないという。

今のところ米国では、タイムズが行ったようなＡＩによる顔認識を使った顔データベース作成は、法規制がないという。

●ＮＹ市警は９０００超のカメラで

ネットに接続されたライブカメラは、これ以外にも大量に設置されている。

ニューヨーク市警察は、マイクロソフトと共同開発した「領域認識システム（ＤＡＳ）」と呼ばれる、監視カメラ、車両ナンバー読み取りシステムなどと、同市警のデータベースを連携させた防犯システムを運用している。

米自由人権協会（ＡＣＬＵ）によると、このシステムにより、ニューヨーク市警察から直接アクセスできるライブカメラは、マンハッタン南部地域だけで９０００にのぼる。

ニューヨーク市内には、同市が設置する公共無線ＬＡＮの端末に２台ずつあるセキュリティ用の監視カメラが計３０００超。さらに運輸省が交通量監視のために設置しているライブカメラが数百にのぼる、という。

タイムズが使ったアマゾンの顔認識ＡＩ「レコグニション」は、すでにオレゴン州ワシントン群の保安官事務所で運用されており、フロリダ州オーランド市でも試験運用されている。

一方でこれが市民を監視し、集会の自由や移動の自由などの制限につながるとして、批判も相次いでいる。

※参照：ＡＩと「バイアス」：顔認識に高まる批判（新聞紙学的、09/01/2018）

※参照：「顔認識で監視」「アレクサが会話を盗み聞き」アマゾンＡＩに相次ぐ懸念（新聞紙学的、05/26/2018）

ジョージタウン大学ローセンターの推計では、前科前歴の有無に関係なく、米国成人の半数の１億３０００万人が、犯罪捜査で使われる顔写真データベースに登録されていると見られる、という。

ただ、アマゾンのＡＩの手軽さと低コストが、捜査の顔認識と結びつくことで、新たなインパクトを生んでいる、ということのようだ。

アマゾンの説明書きでは、「最初の１年間は１か月間に１，０００分、動画を無料」とし、米国西部（オレゴン）での利用料金は「分析したライブストリーム動画１分あたり ０．１２ＵＳＤ」「毎月保存した顔のメタデータ１０００ 個につき０．０１ＵＳＤ」などとしている。

ＣＮＮによると、ワシントン郡保安官事務所が「レコグニション」の利用で払っているのは月額６ドルから１２ドル程度、という。

●人権団体のスタッフの顔画像も収集される

タイムズの取材に対し、監視問題に取り組む人権擁護団体「電子フロンティア財団（ＥＦＦ）」で訴訟担当ディレクター、ジェニファー・リンチ氏は、こう述べている。

ところが、そのＥＦＦの複数のメンバーが、顔認識ＡＩのための米政府のデータベースに顔画像を無断で収集されていたことが明らかになった、とフィナンシャル・タイムズが伝えている。

これは、国家情報長官室（ＯＤＮＩ）の研究支援組織「情報高等研究開発活動（ＩＡＲＰＡ）」が、商務省傘下の国立標準技術研究所（ＮＩＳＴ）と共同して、顔認識ＡＩシステムの機能向上に使うために収集したデータ（ＩＪＢ－Ｃ）だ。

このデータに含まれていたのは、ネット上から収集した３５００人分の３万件超の顔画像や１万件超の動画などだ。

その中に、顔認識ＡＩの問題告発に取り組むＥＦＦのスタッフが、デジタルプライバシーについて講演するユーチューブ動画なども含まれていた――そんな皮肉な事態が起きていたというのだ。

このデータセットの利用先には、中国公安当局の２０００万台の監視カメラのネットワーク「天網（スカイネット）」に顔認識機能を提供する中国のＡＩベンチャー「センスタイム」や、米英、インドの法執行機関に顔認識ソフトを提供するＮＥＣなども含まれていた、という。

さらにこのデータセットの中には、ほかにもＥＦＦのボードメンバー３人の顔画像も含まれていた、という。

●ＩＴ企業も表明する「法規制」

マイクロソフト社長のブラッド・スミス氏は４月１６日、人権侵害への懸念から、カリフォルニア州の警察当局からの顔認識システムの提供要請を断ったことを明らかにした、とロイターが伝えている。

ロイターによると、スミス氏はスタンフォードであったシンポジウムでこの判断を明かしたという。警察当局の具体名は明らかにしていないが、顔認識システムは、車両とボディカメラへの導入が想定されており、「対象者を呼び止めた際に、いつでも顔識別ができるようにしたい、との要望だった」とスミス氏。

これに対して、「このテクノロジーはそのような用途には適さない、と回答した」という。

また、国民の自由が保障されていない国から、首都全域に設置されたカメラへの顔認識システムの導入要請も断った、という。

ニューヨーク市警に対しては、顔認識システムの提供をしたマイクロソフトだが、考え方が変わったようだ。

顔認識ＡＩをめぐる批判は、昨年から大きなうねりを見せてきた。

大きな論点としては、顔画像を手がかりに、公共の場での行動が監視・追跡されてしまうという懸念がある。さらには女性や、黒人などの人種的マイノリティに対しては顔認識の精度が落ち、誤って別人と認定されてしまう、などの可能性も指摘されてきた。

マイクロソフトでは、１００人を超す社員が、顔認識システムの政府への提供に関する公開質問状を送付する事態となっていた。

そんな中でスミス氏は２０１８年７月、政府による法規制を求めていくと表明していた。

「レコグニション」をめぐる騒動で矢面に立ってきたアマゾンも、批判に対しては反論の構えは崩さないものの、全面対決という姿勢ではなくなっている。

グローバル公共政策担当副社長、マイケル・パンク氏も今年２月、人権保護のための法的な枠組みを支持するとし、法執行機関で使用する際の人間による検証の必要性などを盛り込んだ５項目のガイドラインを明らかにしている。

●超党派の規制法案提出

顔認識の法規制をめぐっては、すでに３月、上院議員のブライアン・シャッツ（ハワイ、民主）とロイ・ブラント（ミズーリ、共和）両氏による超党派の法案「商用顔認識プライバシー法」が提出されている。

法案では、顔認識のデータ収集において、明確な本人同意を義務付けたり、第三者とのデータ共有を制限したりすることなどが盛り込まれている。

マイクロソフトのスミス氏も、この法案を支持している、という。

様々に指摘されるＡＩをめぐるリスクの中で、今のところ、最も大きなうねりになっているのがこの顔認識だ。

ＡＩをどのように、どこまで規制するのか。

そのルールを考える上で、手かかりとなる動きだ。

（※2019年4月21日付「新聞紙学的」より加筆修正のうえ転載）