香港を揺るがした「ディープフェイクによる詐欺で38億円事件」

(Hummingbird公式サイトより)

生成AIの発展に伴い、詐欺や金融犯罪も巧妙化している。ビッグデータの解析と生成が得意なAIを利用すれば、フィッシング詐欺メッセージはより本物らしく、より特定の個人に適したものになり、ブロックチェーン技術の匿名性は違法な取引をカモフラージュ・隠蔽したい犯罪者にとって大変都合のいい隠れ蓑となる。 直近では、今年の2月に報道された香港での超大型金融犯罪が記憶に新しい方もいらっしゃるだろう。 とある多国籍企業の香港支社で財務を担当していた社員が、複数回にわたり詐欺グループに合計約38億円を送金してしまった事件だ。スケールの大きな被害額もさることながら、プロセスの中で生成AIによる「ディープフェイク」が重要な役割を果たしたことで香港のみならず世界に衝撃が走った。 事の発端となったのは「極秘の案件で、コンフィデンシャルに口座振り込みが必要」という内容のEメール（これも内容におかしな部分はなく、本物に見えたという）。これを受信した時点ではある程度訝しんでいた被害者も、その後当該の案件に関する複数回のビデオ会議にイギリス本社のCFOや実際によく見知っている同僚などが出席していたことで疑惑が払拭され、その後15回にわたって5つの講座に計2億香港ドル（約38億5,000万円）を振り込んでしまった。 その後本社に振り込みを再確認したところで犯罪が発覚し、ビデオ会議の出席者もすべてディープフェイクだったことが判明。捜査の中で被害者が「知人も含めてみんな本物と見分けがつかなかった」と語ったことで、世間に「生成AIもここまで来たか」感をを印象付けた。 この事件を受けて香港の捜査当局は「全ての振り込みの依頼をまず疑うこと、ビデオ会議中は頭を動かして見せるように頼むこと、本人しか知らない情報に関する質問やパスワードなどで本物であることを確認すること」などを呼び掛けた。またそれと同時に、高速決済システムをはじめとして詐欺データベースの充実を図り、詐欺に関連した講座との取り引きをしようとしているユーザーに警告が表示されるシステムを開発・拡充中だという。 しかしここまで大掛かりではなくとも、「ディープボイス」による電話での会話による同様の振り込み依頼など生成AIを利用した金融犯罪は世界で増加中。その影響も相まって2024年の金融詐欺の被害額は世界で合計4,856億ドル（約73兆円）に達するとも見積もられている。