今見ている画像は本物か? 利便性高い生成AIでの画像生成に潜む“ニセ画像”の脅威
生成AI市場が急速に成長しているからこそ、ディープフェイクの進化も著しい。ディープフェイクとは、生成AIが作ったほぼリアルな動画などのこと。元々は映画制作の現場で用いられるために開発されたが、現在は詐欺などの犯罪に応用されてしまっている。 人間の創造か、AIか?もはや簡単には見分けがつかなくなってきた中で、それを識別するプラットフォームをミラノ拠点のスタートアップ企業「IdentifAI」が開発した。 今、世界では判別技術の開発が急ピッチで進められている。悪用されることで、選挙や私生活に影響が出始めているからだ。
利便性を高める生成AIの技術、市場は今後も急拡大の予想
生成AIで画像を作ったことがあるだろうか?作りたい画像のイメージなどをテキストで伝えるだけで、AIが自動的に画像を作ってくれる画期的なサービスだ。 例えばChatGPTで「“コーヒー、山”で画像を作って」などと入力すると、約10秒で画像を作ってくれた。イメージと異なる場合には、どう修正したいのかを書き込むだけで、画像を作り直してくれる。 サービスによって生成される画像の種類は異なり、写真のような画像、アニメテイストの画像の生成を行うサービスもある。また、画像だけでなく、動画を生成可能なプラットフォームもあり、企業や個人がコンテンツ制作などで活用している。医療業界でも利用が進むなど、幅広い分野でさまざまな使い道がされているようだ。
生成AI市場は急速に成長している。生成AIを活用したサービスを展開する日本のスタートアップ企業も出資を受ける機会が増えており、ますます拡大すると考えられる。 電子情報技術産業協会(JEITA)によれば、2030年に世界での需要額は2,110億米ドル(日本円にして約29兆円)にまで伸びると予測されており、これは2023年の約20倍の数字である。日本市場では現在の15倍である1兆7,774億円に拡大すると見られている。昨今、製造現場での業務支援や製品開発支援などで活用が進んでいるという。 また人間の顔の表情をスムーズに動かし、喋らせることができるようにもなったため、企業はカスタマーサポートの新人研修の現場などで導入されている。簡単な問い合わせであればAIが対応できるようになったことで、生産性も上がり、人手不足が解消された事例もあるとか。今後は、金融や公共、通信・放送の分野などでも利用が広がる見通しだという。