Nvidia apresenta primeiro chip Groq LPX: Combinado com Vera Rubin, eficiência de inferência atinge aumento de até 35 vezes por megawatt, e mostra protótipo de próxima geração Kyber

Gate News notícias, 17 de março, a Nvidia lançou o chip Groq 3 LPU (Unidade de Processamento de Linguagem), o primeiro chip lançado após a Nvidia adquirir a startup de chips de inferência de IA Groq por cerca de 20 mil milhões de dólares em dezembro do ano passado. Espera-se que comece a ser comercializado no terceiro trimestre deste ano. O chassi Groq 3 LPX pode acomodar 256 LPUs, equipado com 128GB de SRAM on-chip e uma largura de banda de interconexão expandida de 640TB por segundo. Segundo a empresa, quando implantado com o Vera Rubin NVL72, o LPX pode aumentar até 35 vezes o throughput de inferência por megawatt, desbloqueando potencial de receita em cenários de inferência com trilhões de parâmetros e milhões de tokens de contexto. Jensen Huang descreveu os dois processadores como “extremamente diferentes, mas unificados: um busca alta taxa de transferência, o outro baixa latência”, com a memória on-chip do LPX ampliando significativamente a capacidade total de memória utilizável do modelo. O chassi LPX está planejado para ser lançado na segunda metade deste ano juntamente com a plataforma Vera Rubin. Além disso, Huang também apresentou um protótipo da arquitetura de próxima geração, de código Kyber. O Kyber altera a disposição dos 144 GPUs em um formato vertical para aumentar a densidade física e reduzir a latência, e será equipado na plataforma sucessora Vera Rubin Ultra, prevista para 2027.