生成AI（人工知能）でつくられたと見られるフェイク情報の被害が止まらない。 　その筆頭は足元で急拡大するSNS型投資詐欺だ。茨城県警は4月24日、70歳女性が投資詐欺で約7億円をだまし取られたと発表。女性はインスタグラムで投資の広告にアクセスしたところ、経済アナリストの森永卓郎氏をかたるLINEアカウントに誘導されたという。 【関連画像】警察庁が公開した、23年にSNS型投資詐欺で悪用されたツールの内訳。特定のツールへの片寄りが目立つ 　近年はSNSで著名人に扮（ふん）した投資広告が広がる。警察庁によると、SNS型投資詐欺の2023年における被害総額は約277億円に及んだ。生成AIが悪用されるケースも多く、中には人の映像や音声データを他者そっくりに変換する「ディープフェイク」を使い、著名人本人であるかのようにビデオ通話をする事例もあるという。 　例えば、ユーチューブ上で投資詐欺に悪用された実業家の前澤友作氏のインタビュー映像。AIで作成したと見られる音声で「こんにちは。私、ゼンザクユウサ（前澤友作氏のことと見られる）は、日本人に高収入をもたらす新規の投資プロジェクトをご紹介したいと思います」というセリフが付け加えられている。 　セキュリティーソフトの米マカフィーのスティーブ・グロブマン最高技術責任者（CTO）は「ディープフェイクを作るのは、今や半日もあれば誰でもできる」という。 　警察庁によれば、投資詐欺への誘導で最も用いられたSNSは男性でフェイスブック、女性でインスタグラムがそれぞれ1位。どちらも米Meta（メタ）が提供するプラットフォームだ。前澤友作氏はなりすまし被害を受け、メタ米国本社の告訴を進めている。 　日本はメタのような大手プラットフォーマーへの規制が他国より弱い。例えば欧州連合（EU）は22年、詐欺広告など違法コンテンツの提供者に対応を迫るようプラットフォーマーに義務づける「デジタルサービス法（DSA）」を定めた。日本では同種の法律がなく、規制の緩さが投資詐欺の急拡大を招いた可能性がある。 　政府も頭を悩ませる。総務省は違法コンテンツの削除要請を進めやすくするよう、「プロバイダ責任制限法」の改正を進める。ただしEUのような強制力を持たせるのは困難と見られる。ネット規制に詳しい山﨑法律事務所の長瀬貴志弁護士は「改正してもプラットフォーマーがコンテンツを削除しやすくなる程度。日本でDSAのような強い枠組みを導入するハードルは高い」と説明する。 　プラットフォーマーはあくまで「場」を提供しているだけであり、コンテンツの不適切さは投稿主自体が負うべきと広く見なされてきた。 　日本はEUなど海外諸国に比べてコンテンツへの規制に慎重だ。プロバイダ責任制限法も長い間改正が叫ばれたが、表現の自由との兼ね合いで改正が進まなかった背景がある。 　もっとも、違法コンテンツの存在を知りながら放置していた場合は、現行法でもプラットフォーマーに民事責任を問えうる。実際に4月25日、SNS型投資詐欺の被害者4人がメタ日本法人に損害賠償金を求めて提訴した。まずはメタが適切にサービスを管理監督できていたかどうかが問われそうだ。訴訟の動きは今後広がる可能性がある。