動画生成AI 「Sora（ソラ）」 閣僚から“悪用への懸念”相次ぐ【WBS】
東京の隅田川沿いの桜並木を思わせる映像に繁華街のような所を歩く女性の映像…実はこの動画はチャットGPTを開発したアメリカのオープンAIが発表した「Sora（ソラ）」という生成AIが作成したものです。その高いクオリティに閣僚から相次いで悪用を懸念する声が上がりました。 【動画】生成AI 「Sora」発表 文章から動画を作成 「AIが作ったものと実際の事実を撮影したものと、明確に区別ができるようにしておくのがまず第一歩目からやっておくべきこと」（河野デジタル大臣） 「まず生成AIの利用には、まさしく大きなメリットがある。その一方で詐欺に悪用され得るなどのリスクもある」（松村国家公安委員長）
オープンAIが15日に発表し、世界中で話題となっている生成AI「Sora」への懸念です。簡単な文章による指示で動画を作り出すことができます。 かわいい子犬の映像は「雪の中で遊ぶゴールデンレトリバーの子犬の群れ。雪の中から飛び出し、頭は雪に覆われている」と入力し作成したもの。毛並みや雪の質感もリアルです。 さらに「東京近郊を走る電車の窓に反射」と入力し生成された映像には、車窓に一瞬映る女性の様子が描写されています。映像のクオリティはこれまでよりも遥かに高く、時間も既存のAIは数十秒程度が多い中、1分間の動画が作れます。
ただ、一方でよく見ると、看板の文字など所々に違和感も。オープンAIは「Sora」を芸術家や映像制作者に限定公開。リスクや安全性を今後検証していくとしています。
世界で選挙イヤー、懸念も
急速に進化する生成AI。最も懸念されるのが選挙での悪用です。 共和党の大統領候補者選びでトランプ前大統領と指名争いを繰り広げていた、フロリダのデサンティス知事が選挙からの撤退を表明する映像。去年話題になりましたが、実はこれ生成AIで作られたフェイク動画です。 今年は世界40カ国以上で大統領などを決める選挙が行われる予定で、フェイク動画への警戒感はより高まっています。 4月に衆議院の3つの補欠選挙が行われる日本。松本総務大臣は「情報の中にニセ情報、誤情報も入ってくることをどのように考えるか。民主主義の根幹に関わる問題で、私どもとしてもどう捉えていくかを考えなければいけない」と話しました。 はたして対策はあるのでしょうか。個人向けのオンラインセキュリティを提供している「マカフィー」が開発したのはAIが生成したものかどうか判別できる仕組みです。 人物のまばたきの仕方や、声の周波数など様々な要素を複合的に数値化。基準値を超える回数が多ければ、その動画は人工的に作られたものだと判別でき、人間では認識が難しい違和感も検知できるといいます。 「Sora」の登場など、今後本物か偽物かの見分けが難しくなることについて、マカフィーの栗山憲子社長は「日進月歩だが学習している。技術を合わせていく。生成AIの精度も上がってきているので、非常によい反面、悪用する人間も増えてくる」と話します。 こうした中、16日にはオープンAIやGoogle、Microsoftなど大手IT企業20社が選挙でのAIの悪用に対策を講じることを誓う協定に署名。AIが作ったものだとわかるような仕組みの導入などを進める方針ですが、その有効性は未知数です。 ※ワールドビジネスサテライト
