当前位置: 首页 » 资讯 » 新科技 » 正文

英伟达:推理加速器Groq 3 LPX机架已进入全面量产阶段

IP属地 中国·北京 财闻 时间:2026-08-25 14:34:58

当地时间8月24日,英伟达宣布,推理加速器Groq 3 LPX机架已进入全面量产阶段。英伟达高级总监Dion Harris表示,Groq机架将与Vera中央处理器和Rubin图形处理器一同部署在新型云服务商Nebius的数据中心,并将于今年晚些时候上线。

Groq 3 LPX机架是英伟达专为Vera Rubin平台设计的推理加速扩展组件,需与 Vera Rubin NVL72 GPU主机架搭配部署——NVL72负责更广泛的训练、推理以及上下文处理,LPX专门加速输出AI生成结果(Token),主打超低延迟Token生成,两者异构协同,可大幅提升万亿参数、超长上下文智能体推理的每瓦吞吐与交互响应速度。

英伟达公布Vera Rubin NVL72在真实智能体工作负载下的新测试结果:基于SemiAnalysis的AgentX工作负载、采用DeepSeek V4 Pro模型,Vera Rubin每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。对于运营商而言,这意味着在固定的电力和基础设施预算下,可以支持更高的交互式代理容量,或者以更低的运营成本提供相同的容量。


免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新