NVIDIAに対抗するAIスタートアップGroqとは？

NVIDIAに対抗するAIスタートアップGroqとは？

NVIDIAが驚異的な決算を記録する中、シリコンバレーで密かに注目を集めているスタートアップがある。大規模言語モデル（LLM）の推論に特化したAIチップ「言語処理ユニット（LPU）」を開発するGroqだ。 VentureBeat（2024年2月23日）の報道によると、Groqは「年末までに、（同社のAIチップが）LLMスタートアップの主要インフラとして広く使用されることになるだろう」と予測されており、NVIDIAが圧倒的なシェアを占める市場で一石を投じる構えを見せている。 Groqの創業者でCEOを務めるジョナサン・ロス氏は、CNNのインタビューで同社のオーディオチャットインターフェースを披露し、「スピード記録を打ち破る」と自信を見せた。実際、Groqのチャットアプリのデモ版では、ユーザーが選択した「Llama」や「Mistral」モデルの出力を、ほぼ瞬時に生成できることが示された。ロス氏は、推論にかかる莫大なコストを考えれば、Groqの超高速かつ低コストのソリューションは、LLM分野において特に魅力的な要素になると指摘する。 Groqは、グーグルのテンソル処理ユニット（TPU）の開発に携わったロス氏が2016年に創業したスタートアップ。フォーブス（2021年4月14日）が伝えたところでは、同氏はグーグルを退社後、次世代の半導体スタートアップとしてGroqを立ち上げ、Tiger Global Management、D1 Capitalなどから3億ドルの資金調達を実施。この時点での評価額は10億ドル以上とされた。 同社は、5年間かけて第1世代のAIチップを開発。このチップは主にデータセンターと自動運転車両向けに提供された。GroqのAIチップは、次世代のインファレンス（推論）タスクに特化しており、ディープラーニングの知識を利用して新しいデータの予測を行うという。2021年時点で、同社は、独自開発の「テンソルストリーミングプロセッサ」が競合他社の10倍の速度を実現したと主張していた。 ロス氏はGroqのチップ設計について、「チップを設計する前の6カ月間、コンパイラの開発に専念した」と説明する。こうした独自のアプローチにより、GPUでは解決できない問題に対処できるアーキテクチャが生まれたという。