生成AI利用動向調査を業界ごとに実施してはどうか--日銀の調査から提案
生成AIには業界特有の生かし方があるはず 生成AIの管理状況では、7割前後がクラウドにおける自社専用区画を利用し、入力内容の再利用や生成物のインターネット流出を防ぐ仕組みを導入しているほか、入力データに制約を設けている。これについては、「金融機関は機密情報などの重要情報を多く取り扱うため、情報漏えいリスクに留意していることがうかがわれる」としている。 一方、生成AIの利用方針の明文化や、実務的なルールの整備、出力データの検証・評価といった項目については、5割程度の先が「改善の余地がある」または「検討中」と回答しており、「生成AIに関する技術革新が急速に進む中、リスクの変化に応じて運用ルールを継続的に見直すことが求められる」としている(図5)。 調査レポートでは最後に、生成AIのリスクについて、「生成AIについては、ハルシネーション、機密情報の漏えい、権利侵害、倫理上問題のある情報の生成といった特有のリスクも存在するため、顧客情報を扱う金融機関においては、リスクを十分に認識した上で、生成AIを利用する必要がある」とした上で、そうしたリスクへの対策について次のように述べている。 「リスクを避けるためには、生成AIの回答をうのみにしない、機密情報は入力しないといった運用ルールを整備する必要がある。クラウド上の生成AIシステムについては、自社専用区画を利用するなど、適切なセキュリティ対策を講じることが求められる。また、生成AIの普及が進むにつれて、プロンプトインジェクション(生成AIに悪意のある指示文・命令文を与えることによって誤作動を起こさせる⼿法)などを用いた新たなサイバー攻撃が増えている点にも留意が必要である。このほか、定期的な研修などを通じて、利用者に運用ルールを浸透させるとともに、生成AIの利用状況を定期的にモニタリングし、ルールに沿った運用がなされているかを確認することも、リスク管理の観点からは重要である」 こうしたリスク対策は、ほかの業界でも共通するところが多いことから参考になるだろう。 なお、日銀の今回の調査レポートでは上記の内容のほかに、ユースケース、リスクとガバナンスにおける注意点、従来型AIの利用の現状なども記されている。 改めて、この調査から筆者が提案したいのは、日銀のような業界の取りまとめ役が同様の調査を継続して行っていくことにより、それぞれの業界で生成AIの活用法を磨き上げていけるのではないかということだ。生成AIには業界特有の生かし方があるはずだ。例えば、それぞれの業界団体が実施すればどうか。 こうした調査は各業界の大手ベンダーや民間の調査会社なども行っているが、それぞれのビジネスを目的としたものではなく、各業界の取りまとめ役がニュートラルな立場で実態を明らかにすることに意味があると、筆者は考える。生成AIの活用には、その価値が大いにあるはずだ。 日銀の今回の調査レポートを見てそう強く感じたので、提案しておきたい。