マイクロソフトの新しいレポートにより、AI生成による危険なコンテンツから人々を守ることに伴う重要な課題や機会、緊急性が浮き彫りになっている。 マイクロソフトは7月30日、選挙関連の偽情報やディープフェイクコンテンツなど、有害な生成AIを防ぐための取り組みに関する新しい調査結果を発表した。この50ページのホワイトペーパーでは、人々がさまざまなタイプのAIの悪用に接すること、合成コンテンツを識別するユーザーの能力、金銭面の詐欺や露骨なコンテンツなどの問題に対して高まる懸念についても焦点が当てられた。 また、AI生成によるテキストや画像、動画や音声に関する新しい規制の策定において政策立案者が検討すべき提案事項も提供されている。 このレポートはことし最後の選挙シーズンにおけるAI生成コンテンツに対する懸念が高まるなかで発表された。レポートが発表された7月30日は米国上院が子どもオンライン安全法（KOSA）を可決した日でもあり、それにより未成年者に関連する新たなコンテンツルールを含むソーシャルネットワーク、ゲームプラットフォーム、ストリーミングプラットフォームに対する新たな規制が設けられる可能性がある。 マイクロソフトの副会長兼プレジデントのブラッド・スミス氏はこのレポートを紹介するブログ投稿のなかで、コンテンツの信頼性を促進し、不正なディープフェイクを検出して対応し、合成AIの害について学ぶためのツールを国民に提供するための業界全体の能力が、政治家によって拡大されることを期待すると述べた。 「犯罪者がディープフェイクを利用して高齢者を騙したり、子どもを虐待したりするのを阻止するための新しい法律が必要だ。当社や他企業は選挙介入に使われるディープフェイクに対して当然フォーカスしているが、ほかの種類の犯罪や虐待においてディープフェイクが果たす広範な役割にも同様の注力が必要だ」とスミス氏は書いている。