障がい者転職を検討中の方必読！
絶対に読むべき必読記事
NVIDIAが発表した新しいAI推論アクセラレータのニュースが話題になっており、どのような製品なのか気になっている方も多いのではないでしょうか。
この記事では、NVIDIA Groq 3 LPXの概要や特徴の発表の背景について詳しく解説します。
NVIDIA Groq 3 LPXとはどのような製品か
カリフォルニア州パロアルトにて、2026年8月24日,NVIDIAはインタラクティブAI推論アクセラレーターであるNVIDIA Groq 3 LPXの量産を開始したことを発表しました。NVIDIA Vera Rubinプラットフォームの拡張であるGroq 3 LPXは,応答性の高いエージェント型システム向けに超高速なトークン生成を実現することで、AI推論性能を大幅に向上させます。
NVIDIA Groq 3 LPUは,Groqの革新的な言語処理ユニットの次世代プロセッサーです。各LPXラックには256基のLPUアクセラレーターが相互接続されており,NVIDIA Vera Rubinプラットフォームと連携して推論を強化します。各LPUアクセラレーターは、500メガバイトのSRAM,150テラバイト毎秒のSRAM帯域幅,2.5テラバイト毎秒のスケールアップ帯域幅を実現します。
なぜトークン生成速度が重視されるのか
エージェント型システムは、数百から数千もの推論ステップにわたって膨大な量のトークンを生成するため、エージェントがリアルタイムで推論を行い、行動し,複雑なタスクを完了するためにはトークンの生成を高速化することが極めて重要です。
これまでのAI推論アーキテクチャでは、スループットを犠牲にしてインタラクティブ性とインテリジェンスを実現するか、インタラクティブ性を犠牲にしてスループットとインテリジェンスを実現するかのどちらかしかできませんでした。エージェント型システムはこの3つすべてを同時に満たすことを求めています。
ベンチマークでの性能
Groq 3 LPXは、すでにAI推論の可能性を新たな領域へと押し広げています。オープンソースのエージェント型モデルであるGemma 4 31Bを実行したArtificial Analysisベンチマークにおいて、エージェント型システムにとって極めて重要な10万トークンのコンテキスト条件下で、1秒あたり3,400トークンという記録を達成しました。これは同モデルにおいてこれまでに記録された中で最速のパフォーマンスです。
導入予定のパートナー
AIクラウドプロバイダーのNebiusが同社のNebius Token Factoryプラットフォームを通じてGroq 3 LPXを最初に導入する予定です。AI推論クラウド企業のGroqは,Nebiusに続いて同プラットフォームを採用する計画を持っています。
NebiusのCTOであるDanila Shtan氏は、推論における生成フェーズはAIシステムの実際の応答性を左右する重要な段階であり、NVIDIA Groq 3 LPXはまさにその部分を加速するために構築されたと述べています。
NVIDIAのビジョン
NVIDIAの創業者兼CEOであるジェンスン・フアン氏は推論はAIの成長を牽引する原動力であるとした上で、NVIDIA Grace BlackwellとNVL72がパフォーマンスと効率性の前例のない飛躍によって大規模言語モデルの推論に革命をもたらしたと述べています。Vera Rubinは、エージェント型AIの時代に向けて設計されたワークロードに最適化されたAIファクトリー構成によってそのビジョンをさらに拡大し、超高速トークン生成を実現するLPXによってパフォーマンスの限界を押し広げていると説明しています。
まとめ
NVIDIA Groq 3 LPXは,Groqの技術をベースにNVIDIAのVera Rubinプラットフォーム向けに開発された推論アクセラレータで、エージェント型AIシステムに求められる高速なトークン生成を実現する製品です。
Nebiusをはじめとするクラウドプロバイダーが早期導入を予定しており、今後のAI推論インフラの効率化に向けた動きとして注目されています。
