Shutterstock.com

米メタ・プラットフォームズは米国時間4月5日、同社が独自に設置した独立監督委員会からの批判に応え、生成AIを用いたコンテンツに関するポリシーを変更すると発表した。 同社は、フェイスブックやインスタグラム、スレッズの投稿にAIの使用が検出された場合に、「Made with AI（AIで作成）」のラベルを表示すると表明した。このルールは、5月から適用され、投稿者がAIの使用を開示した場合も同じラベルを表示する。 従来のポリシーでは、「AIを用いて人が言ってもいないことを言ったように見せかけるような編集を加えた動画」を禁止し、削除していたが、同社は、「このポリシーの適用範囲が狭すぎる」という監督委員会の主張を受け入れたと述べている。 メタは今回の変更により、コンテンツがどのように作られたかの情報を提供したうえで、そうした「加工されたコンテンツ」の掲載を続けるという方針にシフトする。 「加工されたコンテンツに関する従来のポリシーは、生成AIを用いたコンテンツがまだ少なく、主な懸念の対象が動画だった2020年に書かれたものでした」と、同社のコンテンツポリシー担当バイスプレジデントのモニカ・ビッカートは5日のブログで述べた。 メタのラベルは今後、より広範なコンテンツをカバーすることになる。特に、重要な事柄について世間を著しく欺く危険性が特に高いと考えられる、デジタルで作成または加工された画像や動画、音声コンテンツには、より多くの情報とコンテキストを盛り込んだ目立つラベルが付与される可能性があるという。

大統領のフェイク動画が発端

メタはまた、投稿されたコンテンツは、AIで生成したものであっても、同社のポリシーに違反しない限り、削除されない点を強調した。逆に、「例えば、選挙の妨害やいじめやハラスメント、暴力や扇動を含むコンテンツは、AIで生成したものであれ、人間によって作成されたものであれ、削除します」とビッカートは説明した。 今回の変更は、今年2月に監督委員会から提起された懸念を受けてのものだ。その懸念は特に、フェイスブックに投稿されたバイデン大統領のフェイク動画に向けられていた。 ■大統領のフェイク動画が発端 その動画は、本来は、大統領が孫娘のシャツに「I Voted（投票済み）」のステッカーを貼り付ける場面を撮影したものだったが、あるユーザーがそれに編集を加え、大統領が孫娘の胸を触っているように見えるように加工していた。動画が加工されたものであることは明らかだったが、既存のメタのポリシーには違反していなかった。 メタは「加工されたメディア」に関するポリシーで、ディープフェイクなどのコンテンツの投稿を禁止していたが、その対象を「AIによって生成された動画や、被写体となった人物が実際には言っていないセリフを言わせているもの」と規定していた。そのため、この動画は「AIを用いておらず、発言そのものは加工していない」という理由で、当時のポリシーには違反していないと監督委員会は判断した。 監督委員会によれば、メタがそのコンテンツを放置したのは正しかったが、今後はそのようなコンテンツには、加工されたものであることを表示するよう助言したという。 「現状では、メタのポリシーはほとんど意味をなさない。このポリシーは、人が言ってもいないことを言う様子を映した加工された動画を禁止しているが、個人がやってもいないことをする様子を映した投稿は禁止していない。そして、最も心配なのは、選挙の偽情報の最も強力な形態のひとつである音声フェイクをカバーしていないことだ。メタは、これらのギャップを埋めるために緊急に対処しなければならない」と、監督委員会のマイケル・マコーネル共同委員長は当時述べていた。 メタは、生成AIを用いたコンテンツのラベル付けを5月に開始し、7月には「加工されたメディアに関するポリシー」のみに基づくコンテンツの削除を停止するとしている。