米マイクロソフトや米グーグル、米アマゾン・ドット・コムなどIT（情報技術）大手20社が、選挙関連の偽情報コンテンツ対策で、協定を結んだ。AI（人工知能）を悪用したコンテンツが、2024年に世界各地で行われる選挙を妨害しないよう協力する。

メタ、X、TikTok、オープンAI、IBMなども参加

協定の名称は「Tech Accord to Combat Deceptive Use of AI in 2024 Elections／2024年選挙におけるAIの欺瞞（ぎまん）的使用に対抗するための技術協定」（マイクロソフトの発表資料）。

この枠組みに参加したのは、マイクロソフト、グーグル、アマゾンのほか、米メタ、米IBM、米アドビ、米オープンAI、米X（旧ツイッター）、米スナップ、英アーム、中国・字節跳動（バイトダンス）傘下の動画共有アプリ「TikTok（ティックトック）」などだ。

ディープフェイク、1年前の10倍に

2024年は世界各地で大型選挙が相次ぐ「選挙イヤー」である。米国では11月に大統領・連邦議会選挙がある。ドイツでは9月に3つの州議会選挙が予定されている。6月は、欧州連合（EU）の欧州議会選挙がある。このほか、韓国議会選挙やインド総選挙なども予定されている。

米CNBCによると、これらを含めて2024年に世界で実施される選挙は、40カ国以上の40億人以上に影響を及ぼす。

こうした状況を受け、プラットフォーマー各社は、偽情報拡散への対策強化に力を入れる。イスラエルの機械学習（マシンラーニング）企業であるクラリティー（Clarity）のデータによると、2024年1月における「ディープフェイク（AIを用いて人物の動画や音声を人工的に合成する技術）」の作成件数は、前年同月比900％増（10倍）と、急増しており、選挙関連デマ情報に対する懸念が深刻化している。

「2016年の米大統領選でロシア勢力がSNS（交流サイト）上で不正確な内容を安価かつ容易に拡散させたことをきっかけに、選挙における偽情報は大きな問題になった」とCNBCは伝えている。AIの急速な発展に伴い、議員らはかつてないほど強い懸念を抱いているという。

ただ、生成AIコンテンツの検出は多くの課題を抱えており、解決には長い道のりが必要だと指摘されている。例えば、エッセーなどを対象にした、英文生成AIテキスト検出技術は、英語を母国語としない人の文章に対してバイアスを示すことが指摘されている。画像や動画の判別も、まだ容易にはできないという。

偽コンテンツ検出技術の開発などで合意

今回の協定に参加した企業は、①AIが生み出した偽コンテンツによって生じるリスクを軽減するための技術開発・導入、②リスクを理解するためのモデル評価、③偽コンテンツ検出技術の開発、④検出されたコンテンツへの適切な対応、⑤企業がどのように対処しているかについての情報公開、など計8つの具体的なコミットメントに合意した。

グーグルの国際問題担当社長ケント・ウォーカー氏は声明で「民主主義は安全で確実な選挙に基づいている」とし、「合意は、AIが生成する偽情報に対処する業界の取り組みを反映している」と述べた。

IBMの最高プライバシー責任者を務めるクリスティーナ・モンゴメリー氏は「重要な選挙の年において、欺瞞的コンテンツの増大リスクから人々と社会を守るために、具体的で協力的な対策が必要だ」と強調した。

• （本コラム記事は「JBpress」2024年2月21日号に掲載された記事を基にその後の最新情報を加えて再編集したものです）