目指すは「LLM導入のコスト引き下げ」。AIインフラ「Infinigence AI」に投資家も期待、110億円調達
AI技術の開発や活用を支える「AIインフラ」が注目を集めている。AIインフラを手がけるスタートアップ「無問芯穹(Infinigence AI)」は9月にシリーズAで資金調達を実施し、1回の調達額としては同分野で最高額の5億元(約110億円)近くを調達した。 出資を主導したのは社保基金中関村自主創新特別基金、啓明創投(Qiming Venture Partners)および洪泰基金(Hongtai Aplus)。ほかに聯想創投(Lenovo Capital)や小米集団(シャオミ)が戦略出資し、国開科研や上海人工知能産業投資基金などの国営ファンドに加え、順為資本(Shunwei Capital)や達晨財智(Fortune Capital)などのベンチャーキャピタルも参加した。 無問芯穹の共同創業者・夏立雪CEOは、調達した資金で技術系人材の獲得や技術開発を強化し、プロダクトの商用化をいっそう進めていく考えを示した。 同社は設立からわずか16カ月の間に、累計で10億元(約210億円)近くを調達しており、過去の出資者には紅杉中国(Hongshan)や百度(バイドゥ)、智譜AI(Zhipu AI)などが含まれる。
種類の異なるチップや計算リソースを統合し、LLMの導入コストを削減
大規模言語モデル(LLM)のトレーニングに必要な計算能力を確保するため、チップ業界は異なる種類のチップを組み合わせる「ヘテロジニアス・インテグレーション」を打ち出した。しかし、構成の異なるチップごとにソフトやツールチェーンを適合させる必要があるため、互換性の低さが長らく課題となっていた。特に中国では、クラスタシステムに使用される国産チップが増加するに従ってこの問題が深刻化しており、中国のLLM産業の成長を阻むボトルネックとなっている。 無問芯穹はこの問題を解決すべく、ソフトウエアとハードウエアを統合し最適化することで、LLMのタスクにおけるチップの使用率を高めることに力を注いだ。さらにヘテロジニアス・コンピューティング適合技術を通じ、クラスタシステムのリソース使用率を高め、業界全体の計算リソースを拡大してきた。 ソフトウエア・ハードウエアの統合最適化については、推論高速化技術(FlashDecoding++)を独自開発し、主流のハードウエアの推論効率を2~4倍に高めることに成功。しかも、米半導体大手のNVIDIAやAMDのほか、ファーウェイの「Ascend」など10種類以上のAIチップセット上で、主要なオープンソースLLMがトレーニング・推論処理を実行できるよう適合させてある。この技術力が認められ、無問芯穹はAMDと商用AIアプリケーションの性能向上に向けた戦略提携に至った。 ヘテロジニアス・コンピューティング適合技術については、今年7月にヘテロ構成に対応したハイブリッド分散学習システム「HETHUB」をリリースしている。業界で初めて、ファーウェイ、天数智芯(Iluvatar)、沐曦(MetaX)、Moore 摩爾線程(Threads)とNVIDIA、AMDという4種類×2種類のチップの組み合わせに対応し、ヘテロジニアス・コンピューティングによる大規模な演算性能を実現した。クラスタシステムのリソース使用率は、標準方式を30%ほど上回る最高97.6%に達する。つまり、この技術を採用すれば、同じ条件下でLLMのトレーニングに要する時間を30%短縮できるということだ。 同社の目標はAIインフラの構築で、LLMの導入コストを大幅に圧縮して、人々の手が届く「光熱費」レベルにすることだという。 無問芯穹はプロダクトの商用化も急ピッチで進めている。少し前には知譜AIと共同で、1万個規模のチップを搭載したトレーニングクラスタを構築する計画を発表した。また求人情報プラットフォームの猟聘(Liepin.com)が提供するAI面接サービス「多面」にも、同社のヘテロジニアス・クラウドプラットフォーム「Infini-AI」が活用されている。 Infini-AIプラットフォームは、ヘテロジニアス・インテグレーションを基盤として構築された下位互換性を持つ計算プラットフォームで、中国の15都市で利用できる。利用可能な計算能力は、スタートアップが手がけるAIインフラで最大規模だと夏CEOは説明する。 Infini-AIプラットフォームには、ワンストップ型AIプラットフォーム「AI Studio」やLLMサービスプラットフォーム「Gen Studio」なども含まれている。AI Studioは機械学習の開発者向けで、コストパフォーマンスに優れたデバッグや分散学習、高性能の推論ツールを提供する。Gen StudioはLLMアプリケーションの開発者が開発コストやハードルを下げられるよう、高性能で使いやすいAIサービスを提供する。 夏CEOによると、これまでに対話型AI「Kimi」の開発元・月之暗面(Moonshot AI)のほか、LiblibAI、猟聘、生数科技、知譜AIなど数多くのAI分野のトップ企業がInfini-AIプラットフォームの顧客になっており、安定したヘテロジニアス・コンピューティングや開発ツールチェーンを利用しているという。 *1元=約21円で計算しています。