生成AIで世界はこう変わる　#2

トランプ大統領

「AIに聞けばなんでも解決する」ということは、裏を返せばAI以外のものに一切頼らなくなるということである。そしてそれはともすれば個人個人の人や組織との関係が希薄になるということでも……そう指摘するのは書籍『生成AIで世界はこう変わる』の著者、今井翔太氏だ。 【図】AIと人間の創作物に対する評価比較

規制や我々の知識が追いつかないまま成長を続けるAI生成のディープフェイクの危険性ついて、書籍より一部抜粋して紹介する。

デジタルコンテンツは本物と偽物の区別がつかなくなる？

突然ですが、「トランプ大統領逮捕」などのワードでGoogle検索して、関連画像を見てください。いくつかの画像が出てくると思いますが、そのなかにトランプ元アメリカ大統領が複数の警官に取り押さえられている写真があると思います。 見かけ上は本物の写真のようですが、これはMidjourneyによってつくられたフェイク画像で、ディープラーニングを用いて生み出されるフェイクコンテンツ、いわゆる「ディープフェイク」です。 トランプ元大統領はこのフェイク画像が出回ったあと、逮捕ではないものの本当に起訴されてしまい、本物の警察記録写真（マグショット）が出回ることになるのですが、現在のインターネット上では、フェイクと本物の逮捕・起訴写真が混在しており、あたかも両者に関連性があるように見える状況になっています。 ディープフェイク自体は、生成AIブーム以前から問題視されていました。しかし、当時のものは技術的に未成熟であり、不自然な部分が多く存在したり、動画像以外の部分についてはフェイクが難しかったりしました。 しかし、生成AIの発展によって、デジタル化できるコンテンツについてはほとんどすべてにおいて、本物と見分けがつかないものを生成できてしまう世界が近づいています。現在では、実在しない人間の画像を生成し、それを違和感なく動かした動画をつくることが可能であり、個人の声についても30分、高品質なものを求めなければ3秒程度のサンプルがあれば、本人のものと聞き分けることができない声を生成することができます。 すでに何度か触れたように、イラストについても、特定のイラストレーターが描いたものと見分けがつかないものを第三者が生み出すことができます。言語生成AIによる文章は、個人の属性に対するフェイクとして機能することはほとんどありませんが、偽情報を流す目的で利用される可能性があります。 また、使用者本人が意図しない形で誤った情報を含む文章が生成され、拡散される可能性もあります。このような世界では、デジタル空間で目にするあらゆるコンテンツを疑わざるをえません。おまけに、自分に関連したフェイクコンテンツがどこかで作成され、拡散される可能性に怯えながら生きることになります。 このような事態は回避すべきです。また、フェイクではなくても、第4章でも述べたように、AIが用いられた作品がどの程度人間から受け入れられるかは、まだ議論の余地があります。生成AIで誰もが生産者になれるとしても、人が本質的には人によってつくられた作品を好むという事実を考えると、既存の作品と同じ場で無制限に公開されることには慎重になる必要があります。 すでに、生成AIによって生成されるコンテンツに対して、透かしを入れたり、生成される過程を記録・開示したりするなど、さまざまな対策が検討されていますが、対策しようとする検知側とそれを回避しようとする生成側とのイタチごっこが続いているというのが実情です。 高度な生成AIによって生み出されたものを発見できるのは、同じく高度なAIを置いてほかにはありません。私の意見としては、生成AIのサービスを提供する側が、検知のための機能も同時に提供する、という形になっていくことが妥当だと思われます。