ChatGPTの発話の背後に人間はいるのか? 川添愛×川原繁人×三木那由他
ChatGPTの発話はどういう行為なのか?
川原 ChatGPTは、いま社会から最も関心を集めているテーマの一つですよね。三木さんの『言葉の展望台』にこんな箇所があるのですが、まさにChatGPTと人間の違いを表しているようで重要な視点だと感じました。 ---------- 会話の場面に参加するのは言葉や情報だけではなくあくまで人間なのであり、人間には、その人が発言した内容の言葉の内容だけに還元できないような、いくつもの側面がある。会話というのは単なる情報の交換ではなく人間の交流なのだ。 ---------- このあたりを川添さんに解説していただけるとありがたいです。 川添 そうですね。話の前提として少し説明すると、ChatGPTの基盤にあるのは「大規模言語モデル」というものです。そもそも言語モデルとは、人間の書いた文章の中で、ある単語の並びがどのくらいの確率で出てきやすいかという情報を持ったものです。言語モデル自体は何十年も前から、人間の言葉として自然な単語の列を見極めるために使われてきました。 例えば「にほんごきょういく」という音声を機械が正しく認識できたとしても、それを文字に変換するときには、「日本語教育」なのか、「日本語今日行く」なのか、それとも他の単語の列なのかを判断しなくてはなりませんよね。正解を見つけるには、人間の文章の中で「日本語教育」と「日本語今日行く」のどちらがより高確率で現れるかが大きな手がかりになります。 そういう確率の情報を持ったものが言語モデルなのですが、それを大規模なニューラルネットワークにしたのが大規模言語モデルです。ChatGPTの基盤となっているモデルについては詳細が公表されていませんが、それより一つ前のGPT-3というモデルでは、英単語5000億ワードぐらいの規模の文章を使って、機械に「こういう単語の列の後に、どんな単語が来るか」という問題の解き方を学習させています。それによって、人間の文章としてより自然な単語の列を生み出せるようにしています。つまりChatGPTは、膨大なデータ量をベースに、人間から与えられた指示や質問への答えとしてふさわしい言葉を紡いでいるわけです。 川原 その背後に人間はいないんですよね。言語学を専門としない一般の方から「ChatGPTの背後に人間はいますか?」って聞かれたら、どう答えますか? 川添 もともと誰かが書いた言葉の断片をもとにしているので、背後に人間が存在しないわけではないんですが、少なくとも個人ではないですよね。「たくさんの人の言葉がぶつ切りにされて、つなぎ合わされている」と言ってもいいんじゃないでしょうか。 以前、ムラブリという少数民族の言葉を研究されている言語学者の伊藤雄馬さんとトークイベントをしたのですが、そのときに面白い話を聞きました。伊藤さんは「言葉の身体性」に大きな関心をお持ちで、その延長で武術の修行もされているそうなのですが、あるときから、言葉を見たらその背後にある「書き手の身体の状態」みたいなものが感じ取れるようになったそうなのです。その伊藤さんがChatGPTが書いた文章を読んだところ、その背後にある「状態」がブツブツ切れているように感じたそうなんですね。不思議な話ですけれども、ChatGPTのしくみを考えると、そういうこともあるのかもしれない、と思いました。 三木 私が関心があるのは、ChatGPTの発話を、行為として考えたとき、どうとらえられるのか、ということです。哲学では、私は、プラグマティズムの立場をとっているのですが、プラグマティズムとは、言葉や発話の意味を、それによってどういった行為の方向性がもたらされるか、どう行為が変わっていくかといった「行為」の観点から見ていく考え方です。言葉によるコミュニケーションも、行為の影響という観点から見た方がいいんじゃないかというのが私の立場なんですね。 川添 確かに、言葉を話すというのは何らかの行為を行なっているといえますよね。例えば「これからイベントを開催します」と言ったら、それはイベントを始めるという行為だし、「あなたにこれこれこういうことを約束します」って言ったら約束という行為だし、「あなたを何とかに任命します」って言ったら、任命という行為になる。では、その観点から、AIが発する言葉が行為になるかというと、なかなか難しいと思うんですよね。AIは、私たちが言葉を使って行う行為のまだ一部しかできていないと思うし、できるようになるには、ある意味、AIに何らかの権限を持たせる社会にならないといけないというか。そうなるのは、まだまだ先の話ではないかと思います。 川原 そのためには、社会的な権限だけじゃなくて、社会的な義務についても考えなくてはいけないですね。 川添 そのとおりだと思います。 川原 ChatGPTと約束できないですもんね。 川添 そうですね(笑)。約束を守らなくても、責任をとってもらえないですし。 川原 少し別の話をすると、最近、言語学の探究は「人間とは何か」という問いにつながるという信念を再確認しはじめてきたのですが、ChatGPTの興隆がそのきっかけになったというのはあるかなと思っていて。人間ではないものが生み出す言語と人間が生み出す言語を比べる機会ができたことによって、「人間にとって言語とは何か」という問いをより切実に考えられるようになった気がしています。 →【後編】学問が役に立つとはどういうことだろうか? 川添愛×川原繁人×三木那由他(5月23日公開予定)に続きます。
川添 愛(言語学者・作家)/川原 繁人(慶應義塾大学言語文化研究所教授)/三木 那由他(言語哲学者 大阪大学講師 )