米アップルは先ごろ、AIアシスタント「Siri」のプライバシー保護を強化し、一時中止していた利用者の会話分析を今後のOS更新に合わせて再開するとの計画を明らかにした。

意図せぬ起動で会話が筒抜け

　同社はアシスタントの音声認識と応答の精度向上を目指し「グレーディング（等級付け）」と呼ぶ分析プログラムを実施していた。音声データは匿名化、暗号化、無作為化されてアップルのサーバーに送られる。

　ほとんどのデータ処理はiPhoneなどの端末内で行われるため、サーバーに送信されるのはごくわずかだと説明していた。

　しかし、会話に人の名前や住所などが含まれれば、個人を特定できてしまうと指摘されていた。また、英紙ガーディアンは、アップルの委託業者がプログラムを通じて日常的に会話を聞いていると報じた。

　病気についての医師と患者の会話やカップルの性行為の音声などが含まれていたという。スマートウオッチの「Apple Watch」やAIスピーカーの「HomePod」などで意図せずにSiriが起動し、録音されたものとみられている。

　この報道を受け、アップルは8月初旬、「全世界でプログラムを一時中止し、徹底的な調査を行う」と発表。そして先ごろ、同プログラムのプライバシー保護強化策を明らかにし、併せて「調査の結果、我々の高い理想を十分に満たしていないことが分かった」と陳謝した。

• 「みなさんの生活基盤であるiPhoneは、プライバシー保護を徹底しています」と謳うアップルのCM（今年3月ごろ放送）

新ルールを設けて運用再開

　アップルは再開するプログラムに新ルールを設けるという。

　例えば、同意した利用者の録音情報だけを保持する。つまり初期設定では誰もが「拒否」状態になっているのだという。そして、会話の分析は外部に委託するのではなく、アップルの従業員が担当するという。また、誤った起動によって収集された録音情報は削除するという。

　ただし、コンピューターが生成した会話のテキストは同意の有無にかかわらず使用していくようだ。

　アップルはこれらの会話データに対し、機器ごとに異なる無作為の識別子を付けて管理する。利用者のApple IDや電話番号にはひも付けないという。また6カ月が過ぎたデータは識別子を外すという。

　アップルはこうして集めたデータをSiriの精度向上に役立てる。正確に命令を聞き取ったか、適切な対応をしたか、呼びかけは利用者の意図したものだったのか、といったことを調査し、サービスの信頼性向上を図るという。

　アップルはたびたび、個人のデータを広告事業に利用している企業を批判してきた。それだけにこの「盗聴問題」は同社に大きな打撃を与えたようだ。ただ、新たに導入する措置が信頼回復につながるかどうかは分からない。

グーグル、アマゾン、フェイスブック、マイクロソフトも状況同じ

　米グーグルや米アマゾン・ドット・コムもAIアシスタントの技術向上に向けて音声履歴を利用している。

　先ごろは米フェイスブックが対話アプリの音声メッセージをテキスト化していると伝えられた。

　米マイクロソフトのインターネット通話アプリやゲーム機のAIアシスタントサービスでも人間による録音データのチェックが行われていると伝えられている。

　利用者の不安を払拭するためには業界統一の厳格なルールを作り、それを着実に実行している証拠を示し、安心を訴えていくことが必要なのだろう。

• （このコラムは「JBpress」2019年8月30日号に掲載された記事をもとに、その後の最新情報を加えて再編集したものです）