2,600万円詐取、AI使った“声のディープフェイクス”が仕掛けるオレオレ詐欺

By Tomasz Baranowski (CC BY 2.0)

AIはどのような犯罪に悪用されるのか――欧州で確認されたその実例が、「声のディープフェイクス」によるオレオレ詐欺だ。

ウォールストリート・ジャーナルやワシントン・ポストによると、今年3月、英国のエネルギー会社の最高経営責任者(CEO)が、ドイツの親会社のCEOを騙った「声のディープフェイクス」の電話による指示で、ハンガリーの企業の口座に22万ユーロ(約2,600万円)を送金してしまった、という。

AIを使った音声のなりすましによる犯罪の被害事例はこれまで明らかになってこなかったが、表面化していないだけで、すでに類似の事件は複数確認されているという。

しかも、悪用されたテクノロジーは、ネットで不特定多数に提供されているものとみられ、水面下の広がりも予感させる事件だ。

●「22万ユーロを送れ」

事件はまずウォールストリート・ジャーナルが8月30日に報じ、ワシントン・ポストが9月4日にその詳細を続報した。

事件を明らかにしたのは、被害企業を担当するフランスの保険会社、ユーラーヘルメス・グループだ。

それらの報道によると、被害者となった英国のエネルギー会社のCEOが問題の電話を受けたのは、3月の金曜日午後遅く。

相手はドイツの親会社のCEOを名乗り、ハンガリーにある仕入先の口座に22万ユーロを送金するように、と指示したという。

ハンガリーの会社の支払い遅延の罰金を回避するために送金は至急で、1時間以内に、との要求だった。

偽CEOは被害側のCEOを名前で呼び、支払いの詳細についてメールを送付してきた、という。

被害企業のCEOによると、電話の声はわずかなドイツなまりで、声の調子も親会社のCEOのものだった、という。

偽CEOの声による電話があったのは計3回。

ポストによると、被害CEOは2回目の送金要求で疑問を抱き、親会社のCEOに直接、電話をしたという。すると、その電話の最中に偽CEOからの3度目の電話がかかってきた、という。

被害企業では、この電話の主を「偽ヨハネス」と呼ぶ。被害CEOはユーラーヘルメスに送付したメールでこう述べている。

私が本物のヨハネスと電話をしているのに、「ヨハネス」は私に取り次げといってきたのだ。

●少なくとも3件ある

ハンガリーの口座に送金された金は、さらにメキシコに移された後、複数の場所に分散され、その後の行方はわかっていない。

ジャーナルによると、警察による捜査はすでに終了しており、容疑者は特定できていないという。

ジャーナルは、AIを使った音声のなりすましによるサイバー犯罪は、欧州では初めてではないか、との専門家の声を紹介している。

だがポストは、企業の役員の音声を使ったなりすまし事件は、少なくとも3件が確認されている、とのセキュリティ会社、シマンテックの研究者の話を紹介している。

この中に今回のケースが含まれるかどうかについて、シマンテックは回答をしていないが、このうちの1件の被害額は数百万ドルに上る、という。

つまり今回をはるかに上回る被害が、別件で発生していたということだ。

また、今回のケースについては、被害全額がユーラーヘルメスの保険でカバーされる、としている。

●「覆面AI」への懸念

このようなAIを使った「音声のクローン」作成のサービスは、すでにネット上で無料で利用できるものも提供されている。

ポストは、これらのサービスを悪用すれば、「数学の博士号の知識は必要ない」との専門家のコメントを紹介している。

このようなAIを使った人工音声と対話のテクノロジーについて、EUではすでに懸念も指摘されていた。

EUのAIに関するハイレベル専門家グループは2018年12月18日、「信頼できるAIの倫理ガイドライン」の草案を公開している。

全37ページの草案の中で、「AIがもたらす重大な懸念」の一つとして取り上げられていたのが「覆面AI」だ。人間もどきの自然な応答で、それが機械かどうかの判別がつかないAIのことを指す。

報告書は、「自分がやりとりしている相手が人間か機械かは、常に理解しておく必要がある。それを確実に担保するのは、開発者や実装担当者の責任だ」と述べる。

そしてこの「覆面AI」は、2018年5月にグーグルが発表した電話応答AI「デュプレクス」を思わせる。

合成音声がヘアサロンに電話をかけ、自然な会話で細かい予約調整のやりとりまでこなしてしまう――そんなデモが注目を集めた。

「デュプレクス」は音声エージェント「グーグル・アシスタント」経由で利用。米国ではすでに同年11月、ニューヨーク、サンフランシスコ、フェニックス、アトランタで、同社製スマートフォン「ピクセル」ユーザーを対象にサービスが始まっている。

EU報告書は、「覆面AIが人間社会に取り込まれるようになれば、人間や人間性に対する考え方が変わってしまうかもしれない」と述べていた。

そんな懸念を、より真剣に考えなくてはならない状況が、すでに現実のものとして姿を見せ始めているようだ。

(※2019年9月5日付「新聞紙学的」より加筆・修正のうえ転載)