和製LLM（大規模言語モデル）が話題に

自民党のデジタル社会推進本部がAI関連の政策提言をまとめているという。特に注目は記事タイトルにある和製LLM（大規模言語モデル）の必要性である。

---

日本のAI政策、「和製ChatGPT」の開発にこだわるべきか否か--自民党が提言へ - CNET Japan

---

LLM（大規模言語モデル）は情報収集や文書・画像の生成に関わる様々な幅広い仕事・業務に影響する破壊的イノベーションである。今後の重要な社会インフラになることは間違いない。LLMの普及がGDPの増大や雇用確保による社会の安定といった伝統的な意味での経済成長につながるかどうかは正直わからないが、現代社会の重要な基盤である民主政における国民国家の枠組みと上手に付き合っていく必要がある。

また、今日の戦争が智能化戦争・制脳権と呼ばれる情報戦争の側面が強化されていく中で、人工知能のあり方はもはや経済安全保障の枠を超えて、国家安全保障に直接関わる話題だ。その点では与党・政府の政策としてLLMの必要性について検討することは適切であり評価できる。

難しい政府とIT開発の関わり

しかし、だからといって政府がLLMを適切に開発・管理できる能力があるかと言われたら、残念ながら厳しい。というのがこれまでの経験である。かつてWeb検索がインフラになる過程でも、いくつかの政府主導の国家プロジェクトが実施され、比較的大きな補助金がついた事がある。しかしそれらプロジェクトが結果として業界的にプラスな影響をもたらしたかというと不透明だ。イノベーションの拡大局面では、有力な事業者は高い事務コストと政治的意向を忖度せざるを得ない補助金を受領するよりも、市場の激変への対応を優先したほうが市場から資金を直接得られるので合理的なのだろう。

また昔と異なり、社会インフラレベルの情報サービスであったとしても、十分に民間投資でまかなえる時代である。むしろ事業者としては資金よりも人材と戦略が課題だ。今日の先端AIを扱えるような人材は限られており、またその人材に活躍してもらうための業務環境やツール整備、モチベーションなどの戦略的ロジスティクスが重要である。そのための肝となるのは透明性や合理性であり、自分の力量が業務や成果に十分に反映されるというやりがいである。政治と先端的ITの相性はあまり良くないのが実情である。この点は可能であれば稿を改めたい。

政府の関与すべき点

LLMという破壊的イノベーションに対して政府が関与すべき側面としては、主に学習データの整備と、国家安全保障上の適切な管理の2点に集約されるだろう。

LLMの構築には膨大なテキストデータが必要だ。その整備を取り巻く情報の共有・著作権のあり方については適切な政策的整備が欠かせない。幸いにして我が国の著作権法は何人かの情報学者の尽力でAIの構築に比較的有利な法体系となっているが、それにとどまらず、様々な行政内部の文書の公開やオープンデータ化を促進していくことがLLM社会の進展にとって重要である。政府・行政分野のAI化は今後のLLM社会における大きな課題だが、政府が自前で整備するということは避けたほうが良いのは前述のとおりである。しかし、その情報の適切な公開は政府にしかできない。そのための環境整備は大きな課題である。今日のLLMを構成する技術は実のところすでに公開されている技術で対応可能というのが一般的な評価で、むしろ学習データの整備のコストと人員の確保がクリティカルであるという点から考えても、学習データ整備を取り巻く戦略のあり方には一考の余地があろう。

国家安全保障におけるLLM

一方で、国家安全保障としてLLMモデルの適切な内容と利用を促していくことも日本の地政学上極めて重要な課題だ。

昨日、べリングキャットの代表として知られるエリオット・ヒギンズ氏が画像生成AIのアカウント停止を喰らったというニュースが流れた。ヒギンズ氏は前アメリカ大統領で刑事告発中のトランプ氏が逮捕されたという架空の写真を最新の画像生成AIで生成しTwitterに流したことを問題視されたという。べリングキャットはOSINT（オープンソースによるインテリジェンス活動）の草分けとされる団体であり、少し悪乗りしたのかも知れない。生成された画像はリンク先を見る限りどれもまるで本物のように見える。このような生成系AIの悪用はかねてから懸念されていたことだが、このようなフェイクニュースの原因となる言説や動画が今後無限に生産されるようになるだろう。すでにフェイクニュース対策は喫緊の課題になってきているが、LLMの高すぎる性能によりそれが悪化、つまり世論が容易に誘導されてしまうリスクも高い。民主政国家としては検閲にならない適切な管理が政策的に求められる。

検閲をめぐるニュースといえば、くまのプーさんをモチーフとしたホラー映画が香港とマカオで上映されないことになったという。真偽は不明だが仮に中国政府の検閲によるものだとするとかなり過敏な対応にも思われるが、このような政治的な現象をLLM（GPTモデル）がどのように取り扱うか？ということは人々の社会的世論・認知に与える影響も大きいだろう。なお私が使っているGPT-4では比較的マイルドな言い方で中国におけるプーさん問題を回答してきたので、まだ信頼できると言えるが、LLMのような知識ベースに政治がどう関わっていくか？あるいは関わらないか？ということは民主政国家にとって大きな論点になりうる。