今見ている画像は本物か？ 利便性高い生成AIでの画像生成に潜む“ニセ画像”の脅威
一人ひとりが自分の目で画像を判断することも重要
ディープフェイクの脅威が高まる中で、その影響は個人だけでなく、政治、ビジネス、社会全体にまで広がっている。 ChatGPTを開発したアメリカの「OpenAI」も対策に乗り出した。生成AIによるニセ画像が11月のアメリカ大統領選に影響を与えてはならないと、画像を判別するツールの提供を開始したのだ。 ツールは、記事の冒頭で紹介した画像を生成したOpenAIが提供する画像生成AI「DALL-E 3」による画像であれば、その98.8％を正確に識別できるという。しかし、その他の画像生成AIサービス「Midjourney」や「Stability」などで生成された画像を検出するようには設計されておらず、それらを識別する精度は約5～10%だという。
また、スタートアップも識別技術の開発に乗り出している。ミラノ拠点のスタートアップ企業「IdentifAI」が開発したのは、画像や動画が生成AIによって生成されたものか、人間によって生成されたものかを判断するプラットフォーム。 これは「De-generative AI」、“生成AI仕分け”と訳されるであろう技術をベースに開発され、本物か偽物かを高い確率で判別することができるという。 IdentifAIは、プラットフォームを通じて、あらゆる個人、市民、消費者、政治やビジネスの意思決定者が、目の前にあるコンテンツがAIによって作成されたのか、人間が創ったものかを明確に区別できるようにするのが目的だ。 画像などが誰かの政治的意見を左右したり、購買を決定し得るならば、その画像がどのように作られたのか知るのは当然の権利だと、IdentifAIの創設者は考えているという。 このIdentifAIの技術に大きな期待が寄せられている。テクノロジー系スタートアップへの投資を中心に行うベンチャーキャピタル企業「United Ventures」が主導し、複数企業が9月に220万ユーロ（日本円にして約3億4千万円）の投資を行った。IdentifAIはこの投資を活用して、悪意あるディープフェイクなどに対抗していく姿勢だ。 生成AIは効率性の向上などをもたらす一方で、フェイクコンテンツが現実に与える影響も無視できなくなっている。今後、世界中の政府や企業が、技術の進展に伴うリスクをどのように制御し、適切な規制を設けるかが課題となるだろう。また私たち消費者一人ひとりも、IdentifAIの技術を活用するなどし、ネット上の情報を批判的に捉え、事実と虚偽を見極めようとすることが必要だ。 最終的には、AI技術がどのように利用され、社会にどのような影響を与えるかは、私たち自身の選択と行動にかかっているのかもしれない。テクノロジーが進化しても、その背後にある人間の判断力と倫理観が、今後も重要な役割を果たすことを忘れてはならない。
文：星谷なな /編集：岡徳之（Livit）
