中国、メタ「ラマ」で軍用AI開発…拡大するAI悪用の脅威
中国が米ビッグテック「メタ」のオープンソース人工知能(AI)モデルを活用して軍事用AIモデルを開発した。不特定多数に提供されるオープンソースモデルが軍事的目的など統制不可能な方向に流れるという懸念が強まっている。 ロイターは中国人民解放軍(PLA)核心研究機関の軍事科学院(AMS)の研究員らがメタのオープンソースAIモデル「ラマ(Llama)」を活用して軍事用AIモデル「ChatBIT」を開発したと1日(現地時間)、明らかにした。研究員ららは6月に発表した論文で「ラマの初期バージョン『2-13B』(媒介変数130億個)を活用して軍事分野の対話および質疑応答に最適化されたモデルを開発した」と明らかにした。ジェームスタウン財団のサニー・チョン副研究委員は「中国の軍専門家らがオープンソース大規模言語モデル(LLM)を軍事的目的で研究・活用しようとしてきた実質的な証拠が出てきたのは今回が初めて」と述べた。 ロイターによると、論文の著者は10万件の軍事対話記録を学習データとして活用した。今後モデルのアップグレードを通じて情報分析だけでなく戦略的計画樹立および意思決定などにも使用できるようにする計画だ。ただ、メタのジョエル・ピノーAI研究副社長はロイターに「数兆個のトークンで訓練された多くのモデルと比較すると途方もなく不足しているようだ」とし「実際に機能するのか疑問を感じる」と話した。 ソフトウェアの原本であるソースコードを自由に使用・複製・配布・修正・活用できるよう開放するのがオープンソースの精神だったが、最近ではこの「開放性」という特性のために技術の誤用・乱用に対する懸念が強まる状況だ。反倫理的な犯罪行為をする組織やディープフェイク、ハッキングなどの犯罪にオープンソースAIが使用されている状況が表れているからだ。OpenAIやグーグルなどはソースコードを外部に公開せずモデルを使用できるAPI(アプリケーションインターフェース)に限り有料で提供している。 特に米国は自国のビッグテックが開発したAIモデルが中国の「AI崛起」に使用されるのを憂慮している。IT専門メディアのジ・インフォーメーションは1日、「ワシントンで米国の技術が中国の軍事力を高めるのに役立つという懸念が出ている」と報じた。 メタはPLAが軍事的目的でのラマ使用がライセンス条件に背くという立場だ。メタは軍事と戦争、核産業または応用分野、スパイ活動などにはモデルの使用を禁止するという原則を明らかにしている。メタのモンゴメリー公共政策責任者はロイターに「中国軍のモデル使用は許可を受けておらず使用政策に背く」とし、誤用を防止するための措置を取ったと明らかにした。ただ、いかなる措置を取ったかは明らかにしなかった。