顧客が入力したテキストデータをAIの学習に使うこと自体がリスク

──AI開発においては昨今、情報流出やセキュリティへの懸念が指摘されています。 AIを活用したサービスの安心、安全、セキュリティを考えるうえで最も大事なポイントは、顧客の入力データをAIのトレーニングに活用しないという点だろう。 私は、顧客が入力したテキストデータをAIの学習に使ってしまうこと自体がリスクの高い行為だと考えている。顧客の入力データをニューラルネットワークが学習してしまうと、情報漏洩のリスクが必ず生じる。そのため、我々は常に顧客に対して、「DeepL Proでは、サービスの向上を目的としてお客様のテキストを使用することはありません」と伝えている。 ──DeepL翻訳をビジネスシーンで活用している人は大勢いますが、例えばAIが重大な翻訳ミスなどを犯した場合、その責任は誰にあるのでしょうか。 この件については常に顧客と協議している。AIのユースケースにおいては、AIが独自に学習しアウトプットを出すというケースのほかに、AIが人と連携しながら最終的なアウトプットを出すケースもある。 後者の場合、AIはあくまでも人を支援するツールであって、最終的な成果物や結果を出すのは人だという位置付けになる。しかしながら、最終的に「間違いを犯したのはAIなのか、それとも人なのか」という点については議論の落としどころがなく、結論を出すのは難しい問題だ。 AIをどこまで信頼し、どの部分に活用するかは組織内で話し合い、合意のうえで進めることが重要だ。例えば法的な契約書を作成あるいは翻訳する場合、最終的には法務部できちんと見直さなくてはいけないといった組織内のルールがあるだろう。重要性が高い文書については引き続き、AIを活用したかどうかに関わらずプロセスの中に人が介在することになると思う。 ──言語AIが目覚ましい進化を遂げるなか、近い将来、人間は語学を学ぶ必要がなくなると思いますか。 私自身は、言語学習は今後も極めて重要だと考えている。特にプライベートな場面では、技術に依存せずリアルタイムでスムーズにやり取りできることの価値は極めて大きい。 一方で、言語AIは語学学習のプロセスの一環として活用することができる。例えば、私の子どもたちも日常的にDeepL翻訳を使っているが、彼らには「最初から技術を使って解を探そうとするのではなく、まずは自分の頭を使って自力でソリューションを考えなさい。そのうえで、自分で考えた解をもっと良くするために技術を活用しなさい」と教えている。 この順番で学習すれば、自分の考えに対して瞬時にフィードバックを得られるとともに、技術が学びを支援してくれたという認識が生まれる。どんなに優れた技術であっても、人としての成長や学びに活かせるかどうかは、技術を使う目的や学び方次第なのだ。 ヤロスワフ・クテロフスキー◎DeepL CEO。ポーランド生まれ。10歳でコンピューターのコーディングを開始し、コンピューター科学の博士号を取得。ハイテク企業勤務などを経て2017年にドイツでDeepLを創業。