A Nvidia informou nesta segunda-feira, 24, que seu rack de inteligência artificial (IA) Groq 3 LPX entrou em produção plena e deverá estar online ainda este ano, na nuvem Nebius. O equipamento é resultado da aquisição de ativos da startup de chips Groq pela Nvidia por US$ 20 bilhões, anunciada em dezembro e considerada a maior compra da história da fabricante de semicondutores. As informações foram divulgadas pela CNBC, em reportagem de Kif Leswing.
Empresa aposta em chips para reduzir atraso da IA
O sistema Groq 3 LPX será instalado junto aos processadores centrais Vera e às unidades gráficas Rubin da Nvidia no neocloud Nebius. Segundo Dion Harris, diretor sênior da Nvidia, a previsão é que os racks estejam em operação ainda em 2026. A movimentação ocorre em meio à crescente demanda por sistemas capazes de processar respostas de IA com baixa latência, especialmente em aplicações como programação, nas quais atrasos podem afetar a experiência do usuário.
Nossos vídeos em destaque
A tecnologia da Groq é voltada principalmente para a etapa de “decodificação” dos modelos de IA, responsável pela geração dos tokens que formam as respostas. A arquitetura utiliza 500 megabytes de memória SRAM de alta velocidade integrada ao próprio chip, uma configuração desenvolvida para reduzir gargalos de acesso à memória. Segundo a Nvidia, cada rack LPX reúne 256 chips Groq 3 e pode alcançar 3,4 mil tokens por segundo, de acordo com um benchmark da Artificial Analysis.
)
Para Harris, a tecnologia pode abrir espaço para serviços de IA com diferentes níveis de preço e desempenho. “Para quem fornece tokens, isso desbloqueia a capacidade de oferecer níveis de serviço premium para os usuários e clientes que realmente exigem os contratos de serviço mais sensíveis à latência”, disse o executivo, segundo a CNBC. Os chips Groq são fabricados pela Samsung, enquanto as GPUs da Nvidia são produzidas pela Taiwan Semiconductor Manufacturing Co. (TSMC).
A estratégia também coloca a Nvidia em um mercado mais disputado. A AMD anunciou neste ano que pretende integrar seus sistemas de escala de rack a chips da Cerebras, empresa que abriu capital recentemente e também concentra sua tecnologia em inferência de baixa latência. A OpenAI, por sua vez, anunciou o modo Ultrafast, que chega a 750 tokens por segundo e é “impulsionado pelo Cerebras”, conforme relatado pela CNBC.
Os chips da Groq, porém, não foram apresentados pela Nvidia como substitutos das GPUs. As unidades gráficas continuam sendo o principal componente dos sistemas de IA por conseguirem executar tanto treinamento quanto inferência e por serem mais flexíveis diante de novos modelos e tecnologias. “Não se trata de substituir GPUs”, afirmou Harris. “Trata-se de usar o processador certo, com o preço certo, para a parte certa da carga de trabalho”. A Nvidia também vem ampliando os envios dos sistemas Vera Rubin, cuja produção começou no início de 2026.
)
)
)
)
)
)
)