金融機関のAIリスク管理の課題と対策、AIスタートアップ資金調達額から見る
今年（2024年）の3月末、アメリカのカリフォルニア州を拠点にするAIスタートアップ企業ValidMindが、810万ドルのシードラウンド資金調達に成功した。ValidMindは2022年に創立、主に銀行を中心にモデルリスク管理（Model Risk Management）に特化したソリューションを提供している。約12億円というその調達額から、投資家がこの分野に大きな関心を寄せていることがうかがえる。
モデルリスク管理とは、様々なリスクを評価し、意思決定を行う際に使用する数学的なモデルの信頼性を確保するためのプロセスである。モデルが正確で信頼性が高いことが重要で、モデルの基礎となるデータが不足していたり、古かったりすると、信用リスクの過小評価による損失や市場の変動、不確実性を十分に捉えられない危険もある。 誤ったモデルを適用して発生した過去の事件として、2008年のリーマン・ブラザーズの経営破綻がある。アルゴリズムの改ざんなどによる資産価値の過大評価、リスクの不適切な評価が発端となり、世界に金融危機をもたらした。 その他にも2011年のスイスの大手投資銀行UBSのアルゴリズムの悪用による不正なトレーディング、2012年のJPモルガン・チェースのリスクモデルの不具合による巨額喪失などがある。
限界にきている規制
世界の規制当局は、金融危機以来、モデルリスク管理を規制するための具体的な規則を次々と発表した。しかし、最近のAI技術導入により新たな課題が浮上している。 例えば「ブラックボックス」モデルだ。ブラックボックスとは、人間が理解できないほど複雑なアルゴリズムやモデルにより内部の仕組みや意思決定プロセスが不透明になり、その結果、説明性が極めて低くなることをいう。 つまり従来の規制はAIの特有の事象に対応しきれず、限界に達しているのだ。AIによるメリットを享受しつつ透明性のあるガバナンスを担保するために、世界の当局は新たな規制作りに乗り出している。 その代表例が、今年の3月、EUの立法機関である欧州議会が可決したAI法案（EU AI Act）である。2026年中に全面運用を目指すこの法案は、世界初の包括的なAI規制法案として世界標準になると言われている。
