アマゾン『Alexa』に盗聴問題。録音した会話を顧客情報と紐付け&面白い内容は従業員で共有とヤバい

『Alexa』を搭載したアマゾンのスマートスピーカー『Echo』(写真:Rodrigo Reyes Marin/アフロ)

 アマゾンのAIアシスタント『Alexa』がユーザーとの会話を録音しており、それを従業員たちが聞ける状態にあることを米メディア『Bloomberg』が衝撃的な証言とともにすっぱ抜きました。

 これが海外を中心に、「盗聴だ」と騒ぎになっています(『Alexa』とユーザーの会話なので正確には「盗聴」ではないのですが、プライバシーへの配慮が足りないため騒がれています)。

会話の録音は精度を高めるために必要なものの……

 まず説明しておきたいのは、AIアシスタントを搭載するスマートスピーカーがユーザーとの会話を録音する行為は、AIの精度を高めるために行われているという点です。

 たとえば発端となった『Bloomberg』の記事では、スペイン語の「Hecho(エチョ)」がよく「echo(エコー。アマゾンのスマートスピーカーの名前)」と聞き間違えられるといった例が紹介されていました。

 筆者が家族との会話のなかで「それくさ(博多弁)」と言ったとき、リビングの『Alexa』が起動することと似たようなものなのでしょう。こうした聞き間違いを減らして精度を高めるために、録音は必要なことです。

 会話の録音はアップルの『Siri』でも行われており、同社が録音した会話を6ヶ月間保存していることは数年前にも報道されています。これはグーグルも同様です。

 けれどもアップルやグーグルとアマゾンの録音には大きな違いがありました。アップルとグーグルは匿名化してユーザーの情報がわからないようプライバシーに配慮していますが、アマゾンはアカウント情報と紐付けています。

 そして録音内容をチェックする従業員はユーザーのフルネームと住所はわからないものの、アカウント番号、ファーストネーム、デバイスのシリアル番号を見ることができると『Bloomberg』は伝えています。

 つまりほかに情報があれば録音内容とユーザーを紐付けることが可能な状態で会話が保存されているわけです。これは大きな問題だと言えます。

面白い会話は従業員のあいだで共有も

 そしてもうひとつ筆者が大きな問題だと感じるのは、「面白い会話は共有している」という従業員の証言です。

 共有する理由のひとつとして語られていた「会話の解析に手助けが必要な場合(おそらくは会話が聞き取りにくい場合)」はわかります。しかし、「面白い会話だから共有する」というのはちょっと受け入れられません。

 そうした行為は悪意ある従業員がいればどの企業でも行われてしまうことでしょう。けれども、こうして証言として表に出てきてしまうのは完全にアウトです。

 Amazonの広報担当者は『Bloomberg』の取材に、「顧客の個人情報のセキュリティとプライバシーを真剣に考えている」と述べたそうですが、ほかのAIアシスタントを開発している企業と比べると「盗聴」と言われても仕方のないレベルだと思います。

『Alexa』の録音データの利用を拒否するには?

 ちなみに『Alexa』による録音データの利用は「Alexaプライバシー」のページから「新機能の開発に貢献する」をオフにすることで拒否できます。

「Alexaプライバシー」のページ。筆者キャプチャ
「Alexaプライバシー」のページ。筆者キャプチャ

 オフにする際に「このオプションをオフにすると、新機能がうまく機能しない可能性があります」とのメッセージがポップアップしますが、気にせずオフにしましょう。筆者としても現時点での管理方法では録音データを提供したくありません(とは言えこれをオフにしても新機能開発に利用されなくなるだけで通常の解析には利用されるとの話も)。

 アマゾンにはもっとユーザーのプライバシーを考えた録音データの管理を実施して欲しいものです。