先週公開されたAIと会話できるサービス「ChatGPT」は、もっともらしい文章を簡単に作ってくれることもあり、世界的に話題になっています。

その一方で、内容については不正確な情報が多く含まれており、こうした文章がウェブやSNS空間に氾濫することが懸念されています。一部では、すでに実害が発生しているようです。

AIが作り出す「もっともらしい」文章の問題点

ChatGPTが登場する前から、ビジネスの現場ではAIチャットボットの導入が進んでいます。特定のキーワードに反応して回答する単純なシステムなら、数十年前から存在していました。

これに対してChatGPTは、聞かれたことをしっかり理解する能力があり、それに合わせて破綻の少ない長文を生成できる点で優れています。従来のものに比べて確実に世代が進んだ印象です。

問題は、こうした文章が「もっともらしく」見えるだけで、内容の正確さが保証されていないという点です。一般常識があれば誰もが間違いと分かるようなことを、さも本当であるかのように表現することがあります。

開発元はこの点を制限事項として挙げてはいるものの、こうした文章を作るコストが大幅に下がることで、ウェブやSNSに氾濫することが懸念されています。

たとえば情報の真偽を確かめるためにウェブを検索したとき、ChatGPTが生成した不正確な文章がヒットするようになる、といった可能性が考えられます。

すでに技術者向けのQ&Aサイト「Stack Overflow」ではこの問題が起きており、ChatGPTで作った文章の投稿を一時的に禁止する事態になっています。

低コストな検証方法はあるか

AIが作り出した「もっともらしい」文章は、その分野について知識がある人間が見ることで検証することは可能です。

ただ、AIが文章を作るコストは低いため、人力で検証するにはコストが高すぎます。そこで問題となるのは、どうやって現実的なコストで検証するのかという点です。

たとえば「AIが書いたかどうか」を判定するため、過去にAIが生成した文章のハッシュ値を保存しておき、比較するという方法は考えられます。しかし文章が1文字でも変わるとこれは回避できます。

あるいは、「ゼロ幅スペース」のような特殊な文字を用いて、見た目には分からない透かしを入れる技術もあります。ただ、これも事前に分かっていれば除去するのは簡単です。

ChatGPT自体は研究用のプレビューとして無料で提供されており、将来的に有料化されるなど、文章を作るコストが上がる可能性はあります。

ただ、似たような性能を持つAIが増えていくことは容易に想像できることから、何らかの対策は必要になるでしょう。

それまでの間は、AIで作った文章の投稿をサービスの規約などで禁止することが、現実的な対策になるかもしれません。

「検索エンジン」を置き換える？

ChatGPTには、これまでにない可能性を感じる面もあります。たとえば「グーグル検索よりも便利」との声があります。

検索エンジンは、世界中のWebページをインデックスしておき、検索キーワードにヒットしたものをリストとして返してくれます。

この仕組みは、パソコンの大きな画面で情報を取捨選択するときには便利ですが、スマホの小さな画面には向いていないと感じるときがあります。

これに対してChatGPTは、ユーザーの要求に対して1つの「答え」を提示してくれます。これはスマホや音声インターフェイスとの親和性が高いといえます。

内容の不正確さなどから、現時点ではグーグル検索を置き換えるとまでは言えないものの、その片鱗が見えているあたりに大きな魅力があるといえそうです。

（なお、本記事にChatGPTが生成した文章は含まれていません）