NVIDIAのMac mini激似AIスーパーコンピュータ「Project DIGITS」が欲しいです、革ジャン先生(CloseBox)
また欲しいものが出てしまいました。Mac miniっぽいスーパーコンピュータ。 昨年末に購入したM4 Max搭載MacBook Pro(128GB Unified Memory)はすこぶる快調で、複数のローカルAIタスクを走らせていても落ちることなく、通常業務もこなせて超便利。 【この記事の他の写真を見る】 2024年のベストバイに選んだことに悔いはありません。 ■RTX 5090は欲しいけれども しかし、2025年早々にベストバイ候補が登場。NVIDIA GeForce RTX 5090の40万円は、AIで何かやろうという人であれば必須の投資と言えましょう。 残念なのはVRAM容量。4090比で最大2倍の性能とはいえ、最近のヘビーな処理では24GBでも足りないくらいなのにちょっと上乗せしただけの32GB。 せめて40GB超えしてほしいところではありますが、それだと上位GPGPUとカニバルのでやらないのだろうなあという予想から外れることはありませんでした。 自宅の4090マシンでよく使っているFLUX.1 [dev] の生成速度が2倍になるというのは魅力ですけど。 だいたい、ゲームはやらないしビデオ編集用途で使うこともないので5090のCG関連スペックは不要というか過剰。CUDAだけくれ。その分値段を下げて、と言いたいところですが、日本では1ドル200円というレートなのでさらにコスパの悪さを実感することになります。性能には代えられませんが。 その間隙をぬってAI関係者に浸透しつつあるのがM4 Max搭載MacBook Pro(128GBメモリ)や、Thunderbolt 5でクラスター化したM4 Pro Mac miniです。 AI時代にはApple Silicon MacのUMA(Unified Memory Architecture)で潤沢にVRAMに割り当てられることのメリットは大きく、LM Studioで新しいオープンソースLLM(大規模言語モデル)を使いたいときにも選択肢が広がります。 筆者のマシンでも72BのQwen-2.5が動いています。 高性能で大評判だけど大きすぎてとてもじゃないけどメモリに載らないDeepSeek-V3も、モデルの軽量化でなんとか動くのではと夢を見ることもできます。 ただ、Apple Siliconは学習・推論マシンとしては性能が弱いため、そこが弱点・トレードオフとなります。 NVIDIAとしては、RTX最上位でも足りない方向けに「上位モデルへどうぞ。桁が1つ上がりますけどね」プランを用意しているわけですが、そこをApple Silicon Macにじわじわ削られているわけです。 ■革ジャンCEOのOne More Thingは手のひらに乗るAIスーパーコンピュータ 革ジャンことジェンスン・フアンCEOがプレゼン最後に「One More Thing」的に披露したのが「Project DIGITS」。Mac mini激似の「NVIDIAの最新のスーパーコンピュータ」です。 横に置いたAIスーパーコンピュータDGX-1がシュリンクして、超小型になるアニメーション付き。 (▲革ジャンことジェンスン・フアンCEO) ArmベースのGrace CPUと、RTX 5000世代のBlackwell GPUを組み合わせ、Unified Memory Architectureを採用(メモリはLPDDR5X)し、128GBを搭載。つまり、NVIDIA最新GPUを積んだMacと言ってもいい作りです。 Grace + BlackwellのSoC「GB10」を作っているのはQualcomm、Appleと並ぶArm SoCの重鎮MediaTekが協力しています。 OSはUbuntuベースのLinux「NVIDIA DGX OS」で、H100/H200で使われているものと同じようです。それが3000ドルで買えるというのなら、コスパは非常に高いです。筆者のM4 Max MacBook Proは81万円しました。ストレージは4TBとなっていますが、エントリー構成での容量は不明。 さらに、2台をNVIDIA ConnectXで接続することで405BまでのLLMを動かせるとしています。まずは1台買っておいて、あとで追加ということも可能。 (▲GP10チップの構造) 気になる処理性能ですが、FP4で1P(ペタ)FLOPSという微妙な表現。つまり、FP16だと4分の1、250TFLOPSとなります。それでもM4 Max MacBook Proの7倍以上の性能が期待でき、しかもCUDAがそのまま動くのでAI処理ではメリットが大きいです。 ただいまのところ、筆者の物欲はこのProject DIGITSに真っ直ぐ向かっております。出荷は5月頃だそうですが、日本ではどうなるか(価格も含め)。 ■Ryzen AI MAXは96GBのVRAMが使える これがなかったらもっと注目して良かったような製品も出てきました。 AMDのRyzen AI MAX。最大で96GBのメモリを内蔵GPUに割り当て可能というのが、Apple Silicon Macを意識したところでしょうか。 AMDではAI性能の例として70BのLLMを4090より2倍以上高速で動かせるとしていますが、4090の24GB VRAMではそもそも70Bをロードできず、オフロード機能を使わざるをえないことからリアルでの性能はどの程度かな、といったところ。 こちらも価格や登場時期はパートナー企業から出てくる製品に依存するので、現時点では不明。Project DIGITSが登場する3月時点で評価すればいいかな、と考えています。 いずれにしても、これらが出揃うまでは、M4 Max MacBook Proが「今そこにある最高のAIマシン」として活躍してくれそうです。
TechnoEdge 松尾公也