最適な条件下では認証率99%と自称する万引き犯容疑者顔認証システムが渋谷の大型書店で稼働開始

(写真:アフロ)

 以前から書店の万引き対策に向けた試みとして顔認識技術を利用した実証実験が検討されていることは報道などを通じて周知されておりました。

書店、万引抑止に顔認識技術 渋谷駅周辺3店、共同運用へ最終調整(SankeiBiz 19/5/6)

読書離れやインターネット通販の台頭による経営の苦境に万引被害が拍車を掛けており、対策を強化する。実証実験から始め、NPO法人の全国万引犯罪防止機構(東京)と協力して段階的に全国に広げたい考えだ。

出典:SankeiBiz

 そうですか。

 で、いよいよ7月末からこの実証実験が開始されることになった旨を知らせるニュースがありました。

渋谷の3書店、「顔」共有で万引き警戒(日本経済新聞 19/7/22)

3書店は啓文堂書店渋谷店、大盛堂書店、MARUZEN&ジュンク堂書店渋谷店。各店には顔認証システムと連動する防犯カメラがあり、これまで万引き行為が確認された人物の顔の画像を抽出し、各店がそれぞれに警戒のために活用してきた。

出典:日本経済新聞

 この記事から分かるように、既に各書店は個々で独立した形で万引き犯容疑者の顔情報などをデータ化して活用していたようですが、今回はそうして収集・分析された万引き犯容疑者の顔認識データを共有して活用するという点が新しいということになります。

 上の記事の中でも解説されているように「顔の画像は法律上の個人情報」にあたるため、本来は第三者同士で共有される際には個人情報保護法に則って最大限の配慮が欠かさないわけですが、政府の個人情報保護委員会としては「万引きが疑われる行為を撮影した画像は要配慮個人情報にあたらない」という見解を出しているとのことで、万引きであることが確定していなくても疑われた時点で個人情報の扱いが変わってしまうというのはなかなか怖い話だなと感ずるところです。本当に個人情報保護委員会がそんな見解を出しているのかは微妙なところではあるのですが、本件については追って記事にしたいと思います。

 そして、こうした万引き犯容疑者の顔認証に起用されるシステムなんですが、開発会社がなかなか豪快な説明をしているんですね。

万引き犯の顔画像、共有ダメ? 被害苦しむ書店の新対策(朝日新聞 19/7/26)

顔認証の精度がどの程度か、実際に使うシステムを記者が体験した。記者の顔画像を登録すると、眼鏡をかけたり、うつむいたりしても同一人物と認知した。開発した企業「グローリー」(兵庫県)の越智康雄さんは「認証率は最適な条件下では99%を超えるが、人と重なるなどの影響を考慮すると7~8割の精度」と話す。

出典:朝日新聞

 本当なんですかね。最適な条件下であれば99%を「超える」ということは、間違えることなどまずあり得ないと宣言しているようなもので、これはもはや愚かな人間の不正行為は絶対に見逃すことがない神のような存在という感じでしょうか。そしてどんなに条件が悪くても7~8割の精度が期待されているとありますが、逆に考えれば2~3割の誤認識は起こり得るということにもなります。仮にそこで誤認識されてしまった人の扱いはどうなるのかは大変気になるところですが、そのあたりについては以下のような形で対応するということのようです。

顔認証技術で万引抑止へ 渋谷3書店 全国初の共同運用(東京新聞 19/6/29)

誤って登録された人は事務局に書面を提出し、個人データの情報開示や修正、削除を求めることができる。

出典:東京新聞

 誤認識されたまま登録されてしまえば、その事実を当人が気付かない限りはずっとそのままということであるようですが、誰が登録されているのかといった情報が公開されることはまずないでしょうから、自分がこのシステムに登録されているのかどうかを確認する術も無さそうではあります。そもそも「あなた、登録されていますよ」と誰がどう本人に通知するのかはっきりしないのに、万引犯に誤認識されたという通知を本人が知り、それを訂正するよう書面で提出する手間をかけさせるのは何なのか、という議論はどうしても出てくると思います。

 もっと言えば、皆さんがフラッと本屋に立ち寄って、実はたまたま前回本屋で「買うか迷った本を一度手に取って、しばらくして本棚に戻した」とか「肩にかけたバッグのほうの脇に、他の本を取るため一時的にまだ買ってない本を挟んだ」などの紛らわしい行動が万引犯の行動と誤認されることはあり得ます。実際、アメリカの小売店で防犯カメラの万引監視の人工知能についてはたくさん論文や実装内容の発表が行われているわけですが、具体的な万引犯の特定精度は約4割前後で「優秀」とされている状態でもあるので、むしろ万引きをしない人の行動をアルゴリズムで解析してホワイトリスト化する方が早い、というアイデアも出ている始末です。

 この「99%」問題については以前にも話題として記事に取り上げたのですが、このシステムに関わっている人達はそこに何の疑問も感じていないのでしょうか。これは相当に怖い話だと思うのですが。

万引犯を99%の判定精度で割り出せるという謎の人工知能が運営されるそうです(ヤフーニュース個人 山本一郎 19/5/10)

 科学的な視点から考えれば「99%」という数字は明らかに無理のあるものですし、他国の事例から見ても営業トークとしても厳しい状態ではないかと思います。「人工知能は絶対に間違えない」みたいな宗教的な思い込みであれば多くの人にとって非常に説得力のある話なのかもしれません。

 ちなみに、米国のサンフランシスコ市では安易な顔認証技術の応用は危険であるという考えから公共機関による顔認証技術の使用を禁止する条例案が可決しています。こちらも、何より誤認の割合が高すぎることが背景にあり、よりトラディショナルな認証の方針に戻すことが重要という指摘が相次いでいます。所変われば品変わると言いますが、まさにそんな感じでしょうか。

サンフランシスコ市、顔認証技術の使用を禁止へ(BBCニュース 19/5/15)

 もちろん、特定の条件下で充分な本人の表情のデータが確保できているならば、顔認証技術そのものについてはさらに性能が進化しているのは事実です。これらの技術の動向や利活用が、今後どう効果を発揮するのかはいろいろと気になるところです。

Amazonの顔認識Rekognition、「恐怖」の表情を検出可能に。法執行機関での使用には批判も(Engadget日本版 19/8/15)

Amazonは今週月曜日の発表において、性別や年齢の識別精度の向上に加えて、感情についても、幸福・悲しみ・怒り・驚き・嫌悪・平静・困惑に加えて、恐怖を検出可能になったと報告しました。

Amazonは、向上した顔分析機能は画像および動画の両方で利用でき、対象となるすべてのAWSリージョンの顧客が利用可能だと説明しています。またこの技術を使うのに人工知能の知識などは必要ないとしています。

出典:Engadget日本版

 なお、昨年このAmazonの人工知能による顔認証技術では、元になるデータ(教師データ)次第でアメリカの議員ですら犯罪者と誤認してしまうという大爆笑事案がありました。そこから技術は改善しているとは思いますが、日本の書店が運用する人工知能の万引き防止システムよりもはるかに大量の処理能力を使って行っている本件技術ですらこの有り様ですので、大惨事になる前にもっと冷静に己の技術と達成できることを見極めて丁寧な運用を目指していただきたいと心から願っております。

アマゾンの顔認識技術、米議員28人の顔を犯罪者と誤認--人権団体が報告(CNET 18/7/27)

 末筆になりますが、先日この顔認識技術のデモがあったので、髭を剃っていない自分の顔を認証させてみたらトルコ人のゲリラ、犯罪者という結果が出ました。悲しみに包まれております。とても心外ですが、力強く人工知能の時代を生き抜いていきたいと思います。