2,600万円詐取、ＡＩ使った“声のディープフェイクス”が仕掛けるオレオレ詐欺
ＡＩはどのような犯罪に悪用されるのか――欧州で確認されたその実例が、「声のディープフェイクス」によるオレオレ詐欺だ。
ウォールストリート・ジャーナルやワシントン・ポストによると、今年３月、英国のエネルギー会社の最高経営責任者（ＣＥＯ）が、ドイツの親会社のＣＥＯを騙った「声のディープフェイクス」の電話による指示で、ハンガリーの企業の口座に22万ユーロ（約2,600万円）を送金してしまった、という。
ＡＩを使った音声のなりすましによる犯罪の被害事例はこれまで明らかになってこなかったが、表面化していないだけで、すでに類似の事件は複数確認されているという。
しかも、悪用されたテクノロジーは、ネットで不特定多数に提供されているものとみられ、水面下の広がりも予感させる事件だ。
●「22万ユーロを送れ」
事件はまずウォールストリート・ジャーナルが８月30日に報じ、ワシントン・ポストが９月４日にその詳細を続報した。
事件を明らかにしたのは、被害企業を担当するフランスの保険会社、ユーラーヘルメス・グループだ。
それらの報道によると、被害者となった英国のエネルギー会社のＣＥＯが問題の電話を受けたのは、３月の金曜日午後遅く。
相手はドイツの親会社のＣＥＯを名乗り、ハンガリーにある仕入先の口座に22万ユーロを送金するように、と指示したという。
ハンガリーの会社の支払い遅延の罰金を回避するために送金は至急で、１時間以内に、との要求だった。
偽ＣＥＯは被害側のＣＥＯを名前で呼び、支払いの詳細についてメールを送付してきた、という。
被害企業のＣＥＯによると、電話の声はわずかなドイツなまりで、声の調子も親会社のＣＥＯのものだった、という。
偽ＣＥＯの声による電話があったのは計３回。
ポストによると、被害ＣＥＯは２回目の送金要求で疑問を抱き、親会社のＣＥＯに直接、電話をしたという。すると、その電話の最中に偽ＣＥＯからの３度目の電話がかかってきた、という。
被害企業では、この電話の主を「偽ヨハネス」と呼ぶ。被害ＣＥＯはユーラーヘルメスに送付したメールでこう述べている。
私が本物のヨハネスと電話をしているのに、「ヨハネス」は私に取り次げといってきたのだ。
●少なくとも３件ある
ハンガリーの口座に送金された金は、さらにメキシコに移された後、複数の場所に分散され、その後の行方はわかっていない。
ジャーナルによると、警察による捜査はすでに終了しており、容疑者は特定できていないという。
ジャーナルは、ＡＩを使った音声のなりすましによるサイバー犯罪は、欧州では初めてではないか、との専門家の声を紹介している。
だがポストは、企業の役員の音声を使ったなりすまし事件は、少なくとも３件が確認されている、とのセキュリティ会社、シマンテックの研究者の話を紹介している。
この中に今回のケースが含まれるかどうかについて、シマンテックは回答をしていないが、このうちの１件の被害額は数百万ドルに上る、という。
つまり今回をはるかに上回る被害が、別件で発生していたということだ。
また、今回のケースについては、被害全額がユーラーヘルメスの保険でカバーされる、としている。
●「覆面ＡＩ」への懸念
このようなＡＩを使った「音声のクローン」作成のサービスは、すでにネット上で無料で利用できるものも提供されている。
ポストは、これらのサービスを悪用すれば、「数学の博士号の知識は必要ない」との専門家のコメントを紹介している。
このようなＡＩを使った人工音声と対話のテクノロジーについて、ＥＵではすでに懸念も指摘されていた。
ＥＵのＡＩに関するハイレベル専門家グループは2018年12月18日、「信頼できるＡＩの倫理ガイドライン」の草案を公開している。
全37ページの草案の中で、「ＡＩがもたらす重大な懸念」の一つとして取り上げられていたのが「覆面ＡＩ」だ。人間もどきの自然な応答で、それが機械かどうかの判別がつかないＡＩのことを指す。
報告書は、「自分がやりとりしている相手が人間か機械かは、常に理解しておく必要がある。それを確実に担保するのは、開発者や実装担当者の責任だ」と述べる。
そしてこの「覆面ＡＩ」は、2018年５月にグーグルが発表した電話応答ＡＩ「デュプレクス」を思わせる。
合成音声がヘアサロンに電話をかけ、自然な会話で細かい予約調整のやりとりまでこなしてしまう――そんなデモが注目を集めた。
「デュプレクス」は音声エージェント「グーグル・アシスタント」経由で利用。米国ではすでに同年11月、ニューヨーク、サンフランシスコ、フェニックス、アトランタで、同社製スマートフォン「ピクセル」ユーザーを対象にサービスが始まっている。
ＥＵ報告書は、「覆面ＡＩが人間社会に取り込まれるようになれば、人間や人間性に対する考え方が変わってしまうかもしれない」と述べていた。
そんな懸念を、より真剣に考えなくてはならない状況が、すでに現実のものとして姿を見せ始めているようだ。
（※2019年9月5日付「新聞紙学的」より加筆・修正のうえ転載）
