EUで世界初のAI規制法が可決 年内にも一部施行を予定 その影響とは?
高リスクAIに対する規制違反の罰則は重大
チャットボットやAIを活用したマーケティングツールなど、「限定的なリスク」に分類されたAIに関しては、ユーザーが人間ではなくAIと対話していることを通知する透明化の義務にとどまり、その他の「最小限のリスク」に分類されるAIについては、原則として規制は課されていない。 このような規制に企業が違反した場合には、高額の罰金が課される。罰金額は、侵害の重大度に応じて、750万ユーロから3,500万ユーロ、または年間売上高の1%から7%のうち、より高額な罰金額が適用される。ただし、暫定協定では、中小企業やスタートアップには、支払額に上限を設けることとなっている。消費者は苦情の申し立てを行い、十分な説明を企業から受ける権利を有している。
EU域内だけでなく全世界の企業に影響
前述したように、このEU規制AI法はEU域内の企業だけでなく、世界全体に影響を及ぼすものだ。AIによって生成された出力がEU内で使用される場合、EU域外のAIサービスプロバイダーやそのユーザーにもこの法律は適用される。 ChatGPTを開発するOpenAIやGeminiを発表したGoogleなど、世界的にサービスが使われているAI企業には米国企業が多いが、これらの企業もEUのAI法による規制を遵守し、課された責任に対して適切に対応する必要がある。 この企業に課される責任には、EUデータベースへのAIサービスの登録、リスク分類、リスク管理、データガバナンス、技術文書の保管、人間による監視、サイバーセキュリティの保証、インシデント報告などが含まれる。
リスクベースのアプローチに肯定的な反応
高リスクAIは全面禁止、非常に低いリスクのAIには原則規制なしという、階層的なリスクに基づいたこのAI規制法のアプローチに対しては、IBMやセールスフォースといった米国の大手テック企業から肯定的な反応が寄せられている。 IBMのヴァイス・プレジデントであるクリスティーナ・モンゴメリー氏は、「リスク・ベースのアプローチは、倫理的なAIの実践に対するIBMのコミットメントに合致したものであり、オープンで信頼できるAIエコシステムの構築に貢献するだろう」とEUを称賛。 また、セールスフォースのグローバルガバメントアフェアーズ担当エグゼクティブバイスプレジデントであるエリック・ローブ氏は、「EUのAI規制法のようにリスクベースの枠組みを構築し、倫理的で信頼できるAIへのコミットメントを推進し、複数の利害関係者を招集することで、規制当局は実質的にポジティブな影響を与えることができると信じている。セールスフォースは、この領域でリーダーシップを発揮しているEU機関に賞賛を送る」と述べている。