日本は“無防備”か 選挙で「ディープフェイク」はこう使われる
法的アプローチの必要性
生成AIの進化に伴い、ディープフェイクコンテンツの品質は向上し、制作コストは大幅に下がっている。現時点ではディープフェイクによる誤情報の拡散を完全に防ぐ手段は存在せず、技術的対策と法的対策の両面からアプローチする必要がある。 ただし、ディープフェイクが氾濫する米国でもディープフェイクに対する法的規制はまだ発展途上にある。しかし、2024年9月に米カリフォルニア州知事がディープフェイク画像や音声・動画コンテンツを用いた選挙広告を規制する法案に署名したことで、一歩前進と思われた。 しかし、署名からわずか1日後に、表現の自由の侵害だとして阻止する訴訟を起こされてしまった。連邦地裁はこの訴えを認め、新法の執行を一時的に中止する仮差し止め命令を出した。そのため、抑止策は決め手を欠いたまま、大統領選に突入することになる。
日本の状況
2023年11月に生成AIで作成された岸田文雄前首相のディープフェイク動画がSNS上で拡散され問題となったが、選挙に関連したものではなかった。それだけに法的な枠組みについては、カリフォルニア州のように選挙を想定した特段の検討はされていないのが実情である。 一方、技術的な対策については世界共通である。実際、マイクロソフトは「ディープフェイクから日本の選挙を守るためのマイクロソフトの取り組み」として、英国やフランスの選挙で既に活用実績のあるコンテンツ整合性ツールを提供するとしている。 これは、ディープフェイクに対抗するためのツールであり、メディアの作成元やAIが作成したものかどうかなどを確認することができる。 一般の有権者としても、こうしたツールの活用などを通じて偽情報をいたずらに拡散することがないようにAIリテラシーを高めていくことが求められる。
著者プロフィール：城田真琴（しろた まこと）
野村総合研究所DX基盤事業本部プリンシパル・アナリスト。2001年に入社後、IT基盤技術戦略室長などを経て現職。 専門はエマージングテクノロジー、及びエマージングITビジネスの動向調査。『決定版Web3』『ChatGPT資本主義』『デス・バイ・アマゾン』など著書多数。
ITmedia ビジネスオンライン
