三菱総合研究所の飯田正仁氏（右）と高橋怜士氏＝８月、東京

　災害時に偽の情報が出回ると「救助などの判断が難しくなり、現場が混乱する」と村上氏。例えば、本来なら急いで救助に向かわなければならない現場があるのに、別の場所に人が取られる恐れがある。その結果、対応が遅れ「助かる命が助からなくなるかもしれない」と危機感を示す。 　▽よく見ると不自然？人の目では真偽の判別が難しく 　ＡＩでつくった画像を人の目で見抜くことはできるのだろうか。 　スペクティが試験的に生成した水害の画像。市街地で複数の車が水没している様子を写したように見えるが、細部を確認すると看板の字が読めなかったり、水面が不自然だったりする。スペクティによると、こうした文字や水の様子は生成画像かどうかを判別するポイントの一つだといい、静岡のフェイク画像も、水の流れなどにおかしい点があったという。 　このように目視で違和感を覚える生成画像はあるものの、技術の進歩によって真偽の判別は難しくなっているのが実情だ。スペクティは画像のデータや写っている道路標識などの物体を基にＡＩがフェイクかどうかを判定し、人がその結果をチェックしている。静岡のフェイク画像についても投稿当時に分析し、顧客らに「デマだ」と注意を呼びかけた。

　では一般のＳＮＳ利用者は、災害時にどのような心構えでいればいいのか。村上氏は「アップされた一つの情報だけを見て真実だとは思わず、複数のソースを確認することが最も大切だ」と強調する。 　▽フェイクの動機、多いのは… 　フェイクの被害は世界で深刻化している。実態を調べた三菱総合研究所によると、フェイクを仕掛ける動機で多いのは「金銭」と「政治」で、投資詐欺や政治家への誹謗中傷といった行為が目立つ。画像だけでなく偽の音声や動画を使うなど手口は多様化、高度化している。 　具体的な事例では２０１９年にイギリスで、ＡＩでつくったとみられる偽の音声に会社幹部がだまされ、２２万ユーロ（約３５００万円）を口座に振り込むという詐欺事件が起こった。２０２４年は、偽のビデオ会議によって２億香港ドル（約３７億円）がだまし取られる事件があった。ウクライナのゼレンスキー大統領がロシアへの降伏を呼びかける偽動画の拡散など、情報操作とみられる攻撃もある。