Gate News 消息,3 月 17 日,英偉達推出 Groq 3 LPU(語言處理單元)晶片,這是英偉達去年 12 月以約 200 億美元收購 AI 推理晶片初創公司 Groq 後推出的第一款晶片,預計今年第三季度開始出貨。Groq 3 LPX 機架可容納 256 顆 LPU,配備 128GB 片上 SRAM 和每秒 640TB 的擴展互連帶寬。官方稱 LPX 與 Vera Rubin NVL72 搭配部署時,每兆瓦推理吞吐量最高可提升 35 倍,同時解鎖萬億參數、百萬令牌上下文推理場景的營收潛力。黃仁勳將兩款處理器描述為「極端差異卻相互統一:一個追求高吞吐,一個追求低延遲」,LPX 的片上記憶體則大幅擴展模型可用的總記憶容量。LPX 機架計畫今年下半年隨 Vera Rubin 平台一同上市。此外,黃仁勳還展示了代號 Kyber 的下一代機架架構原型。Kyber 將 144 顆 GPU 的計算托盤改為垂直排列,以提升物理密度、降低延遲,將搭載於 Vera Rubin 的繼任平台 Vera Rubin Ultra,預計 2027 年推出。