まだまだ不完全な音声アシスタント周辺はプライバシー面で取り扱いが面倒だという話

 昨今の報道を通じて分かることは、まだまだ英語圏中心という事情はありますが、スマートスピーカーなどに搭載される音声アシスタントの普及がさらに進みつつあるということです。スマートスピーカーが家庭に受け入れられること自体は、技術革新を享受できる層が広がるという意味で凄く良い変化ではあります。

英NHS、音声アシスタントによる医療助言で米アマゾンと提携(ロイター 19/7/11)

音声アシスタント「アレクサ」を通じて片頭痛や風邪など一般的な症状についての医療アドバイスを提供する。患者の自宅での医療を援助し、医療費を削減するのが狙い。

(中略)

こうした機器を購入して利用できる人とできない人との『デジタルデバイド(情報格差)』を作り出さないように気を付ける必要がある」と付け加えた。

出典:英NHS、音声アシスタントによる医療助言で米アマゾンと提携(ロイター)

 デジタルデバイドの問題点などを考慮しつつ、医療にまつわる課題を解消すべく新しい機器を積極的に導入していこうというのはとても前向きで良い話なのではないかと感じます。もちろん安易にこういう形で導入するとリスクもあるよという指摘はありますから是々非々で議論しつつ慎重な取り組みが求められるべきではあります。

病気のことはAlexaに質問:英国で音声による医療情報の提供が開始、その利便性と潜在的リスクを考える(WIRED.jp 19/8/5)

 一方で、音声アシスタント周りというのはまだまだ発展途上のテクノロジーであることもあり、残念ながら意図しない形でユーザーのプライバシーが漏洩してしまう可能性があります。

 音声アシスタントで拾われた会話が第三者による聞き取り作業に晒されているという話は以前からAmazonのサービスで指摘されていたことですが、新たにGoogleやAppleでも同様な状況であることが明らかになっています。

「Googleアシスタント」の録音内容を外部パートナーが聞き取り--グーグルが認める(CNET Japan 19/7/12)

世界中のGoogleの従業員数千人が、Googleアシスタントから音声を収集するシステムを利用し、音声の断片を聞いているという。

出典:CNET Japan

Siriの録音が定期的に契約企業に送られて分析されていた(TechCrunch Japan 19/7/27)

ほかの企業と同じようにAppleも、このデータはサービスを改善するために収集し人間が分析していると言う。そして分析はすべて、安全な施設で守秘義務を負った者が行っていると表明している。そしてほかの企業と同じようにAppleも、それをやってることを開示を強制されるまでは言わなかった。

出典:TechCrunch Japan

 結局、いろんな家庭で日常的に、かつ自然に交わされる会話に関して、進歩著しいAI分野と言えどもすべてのニュアンスについて正しく判断できているとは限らないし、まだ完璧に至る道は遠いことの証左でもあります。

 IT業界の巨人クラスであるAmazonもGoogleもAppleも軒並み同じことをやっているということは、LINEその他非英語圏のスマートスピーカーやインディーメーカーがAIを売りにリリースしている製品などもふくめて他は推して知るべしということでして、音声認識サービス関連で人間が聞き取り作業にかかわっていないケースはまず無いだろうということです。もしそうした人間が聞き取ることは絶対にないという事案があるのであれば、逆にどうやって認識精度の改善などを実現できているのか不思議でもあります。

 音声アシスタント動作時に人間の発した音声の認識が上手くいかない場合、そこでなぜ認識できなかったのか、どういう問題があるのかといった分析を行うためには、今の時点ではどうしても実際に人間がその音声を聞いて判断するしかないわけです。それが技術的には最善の方法でも、勝手に聞かれているかもしれないユーザー、利用者からすると「まさか自宅内の家庭の会話を聞かれているとは思わなかった」という意味で不快や困惑といった感情を持つでしょう。現状の各社の対応というのは致し方ない側面も大いにあるのですが、ユーザー側からするとどうしても気持ち悪いという感情が生まれるのは否めないものがあります。

 スマートスピーカーの取り扱いが面倒な一番のポイントは、結果としてどういう会話がサービス提供者側に取得されているのかが、ユーザー側からすれば必ずしもはっきりしない点なんだろうと思います。いくら音声アシスタントを起動するためのウェイクワードが決まっていてそのきっかけがなければ動作しないように作られているからといっても、何らかの誤動作でシステム側にユーザーの会話が収集されてしまう可能性はありますし、また、ウェイクワードを発したつもりはないのに音声アシスタント側で何かがウェイクワードと誤認されて会話が取得されてしまう場合も往々にあることでしょう。そして不幸にしてそうした形で拾われてしまった会話こそが自動的にシステムで認識できないものとして人間によって分析される事例が今のところ多いのではないかと想像できます。

 もしスマートスピーカーが寝室にあれば、ちょっとした寝言がウェイクワードとして機能してしまい、そのまま寝言が延々と収集されてしまうという可能性もあるでしょう。いずれはそうした場合は動作しないようにプログラムされることになるはずですが、現時点ではそうした誤動作の原因を知るためには人間の誰かが聞き耳を立てるしかないということです。こんな形で寝言を聞かれる可能性があるのは嫌だということであれば、とりあえず寝室にはスマートスピーカーを置かないようにするか、寝るときはスマートスピーカーのスイッチをオフにするといった対応をとるのが妥当なんでしょう。アナログすぎる対応ではありますが。

 とりあえず、こうしたトラブルが相次いだ結果、音声アシスタント界隈を牽引するトップ3社が揃って新たなプライバシー対応施策を発表することになりましたが、これで何かが大きく変わるものなのかどうか、そのあたりも含めて成り行きを見守りたいところです。

 少なくとも、特定の会話を聞いて精度を高めることはユーザーの承認が必要という認識から、情報法と契約の制約においてプライバシー対策が図られるというのは一歩前進ではありますが、あまり問題を起こし過ぎると各国の消費者行政当局から制裁が行われかねない内容で、実に気になるところではあります。

アップル、「Siri」の音声分析を停止--グーグルもEUで(CNET Japan 19/8/5)

アマゾン、「Alexa」の音声確認についてプライバシー設定を明確化(CNET Japan 19/8/5)

 それにしても、子どもたちに渡しているiPhoneを使って子どもたちが勝手にSiriで猥褻なワードを大量に吹き込んで遊んでいたんですが、その後、私のiPhoneのSiriや検索予想が凄いことになっていたのには冷汗が出ました。まるで私が猥褻なワードをSiriにぶち込んだように思われてしまっているのでしょうか。「この人はいい歳になってそういう猥褻な言葉を日常的に使う人柄なのだ」と機械に誤解をされてしまった場合、それをどう解けばよいのか、途方に暮れる日々です。