AIが「暴走」するリスク

受験費用が59ドルのDETは、2016年に始動し、パンデミック時にリモートで受験できるために注目を集めた。DuolingoはこのDET試験のすべての要素にAIを使用しており、試験問題の生成から、受験者の不正の検知までをAIで行っている。この試験は現状で同社の収益の約10％を占めており、フォン・アンは今後さらに成長させ、特に英語を母国語としないユーザーに焦点を当てたいと考えている。 ■AIが「暴走」するリスク しかし、高品質なAIツールを作るのは、長いプロセスになりそうだ。Duolingoは、動画生成AIで作成したキャラクターを使ったレッスンの実験をしているが、フォースが確認したデモでは、キャラクターの声がロボットのようで、応答にも遅延が生じていた。それでも、対話は自然でカジュアルな印象を受けるものに仕上がっており、フォン・アンのAI家庭教師のビジョンに近づいていた。 DuolingoのAI責任者であるクリントン・ビックネルは、良い家庭教師の3つの資質をサービスに反映しようとしている。1つ目は、生徒が何を知っているかを正確に把握し、効果的に教える方法を知っていること。2つ目は、生徒のすべての質問に答えられること。3つ目は、生徒のモチベーションを維持し、レッスンに戻ってくるように促すことだ。 同社のビデオ通話機能は、すでにこの最初のポイントに取り組んでおり、各セッションを通じてユーザーについての情報を学んでいく。たとえば、前回の通話でユーザーが友達の結婚式について話した場合、次回の通話でリリーがそれに言及するかもしれない。Duolingoはまた、リリーがユーザーの発音や文法を訂正することでユーザーが落胆しないように配慮しており、AIがユーザーの言っていることを理解している限り、会話はそのまま続行される。 一方、フォン・アンは、AIが予期せぬ方向に暴走し、「ナチスについて話したりすることを懸念している」とも述べている。しかし、それでも彼は、同社のAI機能が引き起こす可能性のある反発について「覚悟ができている」と説明した。「なにか特別な緊急対応策があるわけではないが、それが起きても準備はできている。大丈夫だ」と彼は語った。 DuolingoのCFO（最高財務責任者）を務めるマット・スカルッパは、同社が他のAI企業が直面するような落とし穴を、それほど心配する必要がないと述べている。なぜなら、Duolingoは語学学習という専門的な分野でこのテクノロジーを利用しているからだ。「私たちのミッションは、世界中のAIの問題を解決することではない。私たちは、焦点を絞り込んだ目的にAIを利用している」と彼はフォーブスに語った。 フォン・アンは、AIがもたらす潜在的なリスクに尻込みしていない。「我々は、おそらく失敗もするだろう。しかし、AIがもたらす利益は、潜在的な問題を上回る」と彼は語った。