Groq、DellとともにNVIDIA Groq 3 LPXとVera Rubin NVL72を導入へ
GroqはDellとの導入パートナーシップを通じ、NVIDIA Groq 3 LPXとVera Rubin NVL72のキャパシティをGroqCloudに追加する計画だ。
一、Groq、NVIDIAの新しい推論プラットフォームの導入を表明
Groqは、NVIDIA Groq 3 LPXをNVIDIA Vera Rubin NVL72とともにGroqCloudへ導入する計画だ。これにより、この独立系推論プロバイダーは、既存のクラウドプラットフォームを通じてNVIDIAの最新低レイテンシアーキテクチャを提供する道筋を得る。Dell Technologiesは導入インフラを供給し、システムの大規模展開を支援する。
発表は、NVIDIAがGroq 3 LPXの量産開始を表明した2026年8月24日に行われた。Groqは自社を「“among the first adopters”」と表現しており、最初の導入企業とはしていない。NVIDIAは、同プラットフォームを最初に本番導入する予定のAIクラウドとしてNebiusを挙げ、Groqはそれに続く早期プロバイダーの一社とした。
この違いは重要である。両社とも、GroqのLPXキャパシティがすでに顧客に利用可能であるとは述べていない。Groqは、有効化日、導入地域、ラック数、対応モデルの一覧、API構成、予約プロセス、トークン価格を開示していない。同社の発表では、顧客アクセスは一貫して将来形で記述されている。
キャパシティが稼働すれば、Groqは本番推論ですでに使われているインフラを通じてこれを提供する意向だ。同社によれば、GroqCloudは600万人超の開発者と数千社のAIネイティブ企業にサービスを提供し、毎週数兆トークンを処理している。また、北米、欧州、中東、アジア太平洋地域でデータセンターを運営している。これらの運用指標は、独立監査済みの測定値ではなく、同社による開示である。
Dellが表明した役割は、コンピュート、ネットワーキング、統合、サプライチェーンの能力を用いて、NVIDIAのラックアーキテクチャを導入可能なインフラへと転換することだ。各社は、関与するDellの具体的なシステムや取り決めの商業条件を明らかにしていない。
二、Groq 3 LPXがVera Rubinにもたらすもの
NVIDIA Groq 3 LPXは、256基のGroq 3 LPUチップを中心に構成されたラックスケール推論アクセラレータである。Vera Rubin NVL72を単体で置き換えるものではなく、GPUラックの横で動作し、レイテンシに敏感なトークン生成に特化するよう設計されている。
完全なLPXラックは、液冷式の1Uコンピュートトレイ32台で構成され、各トレイには8基のLPUが搭載される。NVIDIAは、ラック当たり315 FP8ペタフロップスの推論演算性能、合計128 GBのオンチップSRAM、毎秒40ペタバイトのSRAM帯域幅、毎秒640テラバイトのスケールアップ帯域幅を公表している。各LPUは500 MBのSRAM、毎秒150 TBのSRAM帯域幅、毎秒2.5 TBのスケールアップ帯域幅を提供する。
SRAMの利用はこの設計の中核である。SRAMの容量は、最新データセンターGPUに搭載されるHBMよりはるかに小さい一方、極めて高い帯域幅と予測可能なアクセス時間を提供する。Groqのコンパイラによってスケジューリングされるアーキテクチャは、計算、メモリ移動、チップ間通信も事前に計画し、対話的な生成時に顕在化するレイテンシの変動を抑えることを目指す。
Vera Rubin NVL72は、システムにおける、より汎用的でメモリ集約的な側面を担う。NVIDIAは、ラックが推論処理を分担する3つの方法を説明している。
従来型のプリフィル・デコード分割では、Vera Rubinがプロンプトを処理してキー・バリューキャッシュを作成し、そのキャッシュをLPXへ転送してトークン生成を行う。アテンション・フィードフォワード分割では、Rubin GPUがキャッシュを保持してアテンションを実行し、LPXがフィードフォワード層またはMixture-of-Experts層を実行する。LPXは、投機的デコーディング用の小型ドラフトモデルを実行し、Vera Rubin上の大型モデルが提案されたトークンを検証することもできる。
これらの構成は、大規模コンテキスト処理や柔軟で高スループットなワークロードをGPUに割り当てる一方、予測可能でレイテンシに敏感な生成をLPUに振り向けることを意図している。この分担は、コーディングエージェントや、コンテキストを繰り返し確認し、応答を生成し、ツールを呼び出し、その結果を観測して、次の推論ターンを開始するその他のシステムにとり、特に重要である。
三、公表された性能の根拠
最も具体的な性能結果は、NVIDIAが運用するGroq 3 LPXシステム上でArtificial Analysisが実施したテストである。入力トークン100,000個を用いて310億パラメータのGemma 4モデルを実行したところ、システムは出力トークン毎秒3,431個の中央値を記録した。
NVIDIAは発表でこの結果を毎秒3,400トークンに丸め、比較対象で最速の公開エンドポイントが記録した毎秒870トークンの約4倍と説明した。より短い10,000トークンのコンテキストでは、LPXシステムは出力トークン毎秒3,382個の中央値を記録し、そのグラフに含まれる最速の公開エンドポイントは1,402だった。
Artificial AnalysisとNVIDIAは、テストされた出力について、ベンチマーク構成下でモデルの精度や品質が失われなかったことも報告している。ただし、LPXの測定は、一般提供されているGroqCloudエンドポイントではなく、NVIDIA自身のデータセンターで稼働するシステムから得られたものだ。したがって、これはハードウェア構成の潜在的な速度を示すものであり、Groqから顧客に提供される価格、キャパシティ、混雑時の挙動、エンドツーエンドのレイテンシを示すものではない。
NVIDIAは同じモデルで、オープンソースのSPEED-Benchコーディングワークロードも別途実行した。出力トークン毎秒4,767個の中央値と、毎秒5,520トークンのP80結果を報告している。このコーディング結果はArtificial Analysisの測定とは異なりベンダー自身が実行したものであり、それに応じて扱うべきである。
出力トークン速度は、システムがトークンの返却を開始した後の生成フェーズのみを測定する。アプリケーションの総応答時間には、依然としてプロンプト処理、キューイング、ネットワーク遅延、ツール実行、モデルの推論、RubinラックとLPXラック間の転送が含まれる。生成がボトルネックである場合、より高速なデコードはエージェントループを大幅に短縮できるが、エージェント型タスクのすべてのステップを比例して高速化するわけではない。
四、この導入がGroqCloudを変える理由
今回予定される展開は、GroqとNVIDIAが2025年12月に締結した非独占的な推論技術ライセンス契約から始まった関係を深めるものだ。この契約の下、Groq創業者のJonathan Ross、当時社長だったSunny Madra、その他のチームメンバーが、ライセンス技術を発展させるためNVIDIAに加わった。Groqは独立企業として存続し、GroqCloudも運営を継続した。
NVIDIAはその後、この技術をNVIDIAブランドのGroq 3 LPUおよびLPXプラットフォームに組み込んだ。Groqは2026年8月12日にNVIDIA Cloud Partnerプログラムへ参加し、NVIDIAのリファレンスアーキテクチャと運用標準に従ってNVIDIAアクセラレーテッドコンピューティングインフラを設計・運用する認定を受けた。
今回の発表により、この関係は技術ライセンスと認定から、特定された本番導入へと移行する。独自のLPUインフラを中心にクラウドとしてのアイデンティティを築いてきたGroqは、ライセンスされたGroq技術のNVIDIAによる商用実装を、Vera Rubin GPUとともに運用する計画だ。
開発者にとって実務上の変化は、完全なラックスケールシステムを購入・運用するのではなく、Groqの既存クラウド経由でこの異種ハードウェアにアクセスできる見込みがあることだ。Groqは以前、顧客がアプリケーションコードを変更せずに将来のNVIDIAキャパシティを利用できると述べたが、LPXが既存のモデル識別子とAPIエンドポイントを使用するのか、それとも別個のサービスティアを必要とするのかは、まだ文書化していない。
この判断は、GroqCloudを単一のハードウェア系統を超えて拡張するものでもある。Groqは、LPU推論の運用経験を、NVIDIAのGPU、ネットワーキング、オーケストレーション、ラックスケールエコシステムと組み合わせることができ、Dellは物理的な導入経路の一部を担う。
未確認の点は商業的に重要である。Groqは、開発者がいつLPXへ本番リクエストを送信できるか、どのモデルが対応するか、アクセスが一般提供か予約制か、既存のGroqCloud提供内容と比較して価格やサービスレベル保証がどうなるかを発表していない。NVIDIAがLPXは量産中だと表明したことは、プラットフォームが製造規模に達したことを意味するが、Groqのサービスがすでに稼働していることを意味するものではない。
よくある質問
GroqはNVIDIA Groq 3 LPXを導入する最初のクラウドプロバイダーですか？
いいえ。NVIDIAは、このプラットフォームを最初に本番導入するAIクラウドとしてNebiusを挙げた。Groqは最も早期に導入する企業の一社になるとしている。
Groq 3 LPXはいつGroqCloudで利用可能になりますか？
Groqは提供開始日を発表していない。初期地域、キャパシティ、対応モデル、アクセス要件も開示していない。
Dell Technologiesは何を提供しますか？
Dellは、統合コンピュート、ネットワーキング、サプライチェーン支援を含め、GroqによるLPXおよびVera Rubin NVL72インフラの大規模導入を支援している。正確なシステム構成は公表されていない。
Groq 3 LPXはVera Rubin NVL72の代替ですか？
いいえ。LPXはVera Rubin NVL72と並行して動作するよう設計されており、Rubin GPUが補完的な推論処理を担う一方で、レイテンシに敏感なトークン生成を高速化する。
毎秒3,431トークンのベンチマークはGroqCloudの性能を示していますか？
いいえ。Artificial Analysisが測定したのは、NVIDIAが運用するLPXシステムである。Groqは、予定している導入について本番エンドポイントの性能や価格を公表していない。
参考ソース
Share