行政法学で見る「AIの現在地」~規制と利活用の両面から
◇AI社会にはポリシーミックスで対応すべき 「行政によるAIに関する規制」を具体的に考察してみましょう。たとえば、自動運転技術を搭載した自動車が交通事故を起こした場合。行政は道路を整備・確保する義務を負っており、走行する車両等の認証においても関与しています。それらが妥当であったかどうかは、場合によっては国家賠償法等によって法廷で問われることになります。 しかし、ここにAIが絡んでくると、従来の行政規制が前提としていなかった、製品の出荷後の改変・変更可能性の問題が重要になります。もともと“物”に着目した行政規制は、利用者保護の観点から、出荷時の状態がそのまま保たれることを前提としており、メンテナンスが必要な場合や死傷事故につながり得る瑕疵が発見された場合には、自主回収や回収命令等による規律を予定しています。 ところが、AIなどのソフトウェアについての慣行はそうなってはいません。むしろ、セキュリティアップデートにより安全を確保するのはユーザー側にも求められています。とくに、プログラムがデータを学習して判断や推論を行うためのアルゴリズムを作成・修正していく機械学習の特性は、安全と規律をめぐる大きな論点となります。 第一に、データ収集それ自体が利用者のプライバシーに与える影響があります。正確性や応用可能性を高めるために、AIは学習データとして大量の情報を収集し、加工し、分析することが想定されますが、その前提となっている収集過程におけるプライバシー侵害はすでにさまざまな方面で問題が表面化しています。 第二に、学習後のプログラムによって何らかの問題が発生した場合、誰が責任をとるのかという問題があります。たとえば、AIが搭載された機器が出荷時には想定されていなかった動き方をした場合、その結果引き起こされた事故につき、その判断過程を検証する仕組みが必要となります。 第三に、行政が規制を導入するとAIの開発に悪影響が及んでしまうという問題です。実際、これまで国はAIの開発に関するガイドライン等を作成してきましたが、これに対するパブリックコメントでは少なくない拒否反応が見られました。 しかし、こうした反応については、開発者に対する禁止と許可、あるいは認証の仕組みだけを想定するような、ある種の誤解や相互不信があったように思います。法学の立場から言えば、原則として企業は開発など営利活動の自由がありますから、反対者たちが想定していたような、規制一辺倒にもならないわけです。つまり、単純に禁止などで対応するのではなく、守るべき方向性を示してその方向に社会を誘導するのが開発ガイドラインの目的であったところ、一種の「規制アレルギー」とでもいうような、過剰反応が出てしまったのはとても残念です。 ガイドラインによるべきだ、という考え方は一定程度進展しており、現在ではさまざまなガイドラインが、官民学から出されています。あるいは、行政が厳格な規制を設けるのではなく、情報の公開性を重視するビジョンを共有することで、開発者・メーカー側に自発的に報告書を提出してもらう方法もありえます。各企業が情報を公表して、それを行政が取りまとめる形で報告をする形式も考えられるでしょう。 ただ、これらのやり方にも限界はあります。「行政指導で自主的に従え」というだけでは、その考え方に従わない企業に対しては打つ手がありません。そのような場合には、古典的な規制の枠組みも必要となる……というように、行政にしかできないこともあるわけです。この場合でいう「規制内容」や手続も、既に紹介したような情報的規律に着目したやり方も考えられるところです。前述の報告書についても、報告書作成それ自体は義務化するとか、そういう落としどころも考えられます。 グローバル企業が日本の皆さんの生活の隅々にまでサービスを提供している現状を考えれば、規制の枠組みを使うことそのものを躊躇してはいけません。必要な事柄についてはきちんと法律や条例を制定して、行政に規制権限を行使させ、安全を守るという態度決定も重要です。日本で「きちんと」規制がされていることは、海外からみても、日本の法制度はしっかり市民を守ろうとしているのだ、という信頼にもつながります。国内外のデータ流通が当たり前となっている今、このような信頼を得るということも、中長期的に重要な意味を持ってきます。 このようにさまざまな手法を組み合わせて適正な規律を考えていくというやり方は、環境政策等で一般的に用いられるポリシーミックスの考え方です。 要は、安全確保のための個別法と民事ルールによって確保された、多層的な制度設計が理想だということです。安全性・透明性を確保するためには、規制一辺倒ではなく、また、まったく規制のしくみに頼らないで自主規制に委ねればよい、というのでもなく、さまざまな取り組みをミックスして、官民が試行錯誤しながらベストプラクティスを見つけていくべきであると思います。