金融機関のAIリスク管理の課題と対策、AIスタートアップ資金調達額から見る
EUのAI法案が金融に与える影響
デロイトによると、EUのAI法案の目標は「欧州の消費者がAIを受け入れて信頼する」と単純であるとしながらも、そこに至る道のりは厳しいと分析している。 この法案の重要な点は、リスクベースのアプローチを採用していることで、金融セクターのAIシステムは高リスクに分類される可能性がある。高リスクとは、人々の健康、安全、または基本的権利に重大な影響をもたらすリスクを指す。 法案では、経済活動の分野を特定していなものの、金融セクターでは、信用スコアリングモデルや保険セクターのリスク評価のAIツールが高リスクと見なされる可能性がある。これらのシステムが適切に設計されないと、人々の生活や健康に深刻な影響を及ぼし、財政的排除や差別を引き起こすリスクがあるからだ。 高リスクのAIシステムには、データセットの品質、技術文書の保持、透明性、利用者への情報提供、人による監視、堅牢性、正確性、サイバーセキュリティに関する要件など厳格な規制が課される。 一方で、金融セクターはすでに内部のガバナンスやモデルリスク管理プロセスに関連して厳格な規則が設けられており、すでに要件の一部を満たしているという見解もある。そうであっても、AI法案はサービス提供の目的でAIツールを展開する限り従うべき法的な基準であり続けるし、継続的に更新もされる。
イノベーションを脅かすモデルリスク管理の煩雑性
ValidMindが銀行にヒアリングしたところによると、銀行でのモデルリスク管理のデータ更新はその30％が手作業で行われているそうだ。 Mckinsey＆Companyの調査によれば、大手銀行機関では、モデルの数が年間10～25％の割合で増加しているという。AIソリューションの迅速な展開と、規制遵守の両方のプレッシャーにより、開発者がモデルを作成あるいは更新して管理チームが運用を承認するまでに6～24週間の遅延が発生し、それは常態化している。 また、金融機関はAIソリューションを開発する内部能力を持たない場合がほとんどで、法を尊守しながらAIシステムをアップグレードしていくには、ICTサービスプロバイダへのアウトソーシングに頼らざるを得ない。 そのため、外部との内部統制やデータ管理、データ保護などのセキュリティやガバナンスのフレームワークに関連する課題が増加の一途をたどっている。Validmindがモデルリスク管理のソリューションにフォーカスしている理由は、そこにある。 ValidMindは、モデルリスク管理の機能を強化するには3つの原則があるという。 ●データ品質の数量テストの結果など、モデル検証の最も反復的なタスクを自動化して文書化する。 狙い：モデル評価の一貫性の担保 ●モデル開発と検証を同時に行いながら文書化する。 狙い：コミュニケーションの障壁、開発の遅延を削減 ●モデルの前提、欠点、制限、および関連する意思決定や利害関係者を体系的に記録し文書を向上させる。 狙い：説明責任を果たす
