Novo modelo de IA do Google atinge 1.000 tokens por segundo em GPUs Nvidia

Novo modelo de IA do Google atinge 1.000 tokens por segundo em GPUs Nvidia

Google DeepMind lançou o DiffusionGemma em 10 de junho de 2026, um novo modelo de geração de texto que produz texto em blocos paralelos em vez de sequencialmente.

A empresa afirma que ele atinge até 1.000 tokens por segundo em hardware de GPU Nvidia.

De acordo com um relatório, os benchmarks do DeepMind mostram que o DiffusionGemma roda 4x mais rápido que os modelos Gemma autorregressivos anteriores no mesmo nível de computação. Um relatório de benchmark separado confirmou uma vazão de tokens 10x maior em testes de inferência de longo contexto realizados em hardware Nvidia.

Como o DiffusionGemma funciona

Modelos de linguagem grandes padrão geram um token por vez. O DiffusionGemma gera blocos inteiros de texto simultaneamente usando uma arquitetura baseada em difusão. A abordagem reduz drasticamente a latência para saídas longas. O DeepMind afirma que o modelo se autocorrige em markdown complexo e formatos estruturados durante a geração.

Essa capacidade é voltada para desenvolvedores que constroem assistentes de código, ferramentas de documentação e pipelines de dados estruturados. O modelo é otimizado para implantação local em GPUs Nvidia RTX para consumidores e sistemas corporativos DGX.

Also Read: SpaceX’s $75B IPO May Be In Trouble As Warren Pushes SEC Delay

Contexto

O Google DeepMind lançou várias variantes do Gemma no último ano, cada uma expandindo a família de modelos de pesos abertos para diferentes casos de uso. O DiffusionGemma marca a primeira vez que o DeepMind aplica uma arquitetura de difusão à geração de texto dentro da linha Gemma.

Modelos de texto baseados em difusão anteriores, de outros laboratórios, mostraram vantagens de velocidade em contextos de pesquisa, mas implantação limitada no mundo real. O lançamento do DeepMind leva essa abordagem a uma família de modelos amplamente usada, com ferramentas de desenvolvimento já existentes.

O momento segue o lançamento, pela Anthropic, do Claude Fable 5 no início desta semana, que estabeleceu novos benchmarks em tarefas de raciocínio e programação. O foco do DeepMind na velocidade bruta de inferência em nível de hardware mira um eixo competitivo diferente, priorizando a vazão para implantação em alto volume em vez de pontuações de benchmark.

A Nvidia se beneficia diretamente. A otimização para DGX e RTX consolida o hardware Nvidia como a plataforma padrão para inferência de modelos de fronteira em nível local.

O que observar é a velocidade de adoção pelos desenvolvedores e se os números de vazão do DiffusionGemma se mantêm em configurações de hardware que não sejam Nvidia.

Read Next: SpaceX's $250B IPO Is Draining Crypto Liquidity, Traders Fear

Disclaimer e aviso de risco: As informações fornecidas neste artigo são apenas para fins educacionais e informativos e baseiam-se na opinião do autor. Não constituem aconselhamento financeiro, de investimento, legal ou fiscal. Os ativos de criptomoeda são altamente voláteis e sujeitos a alto risco, incluindo o risco de perder todo ou uma quantia substancial do seu investimento. Negociar ou deter ativos cripto pode não ser adequado para todos os investidores. As opiniões expressas neste artigo são exclusivamente do(s) autor(es) e não representam a política oficial ou posição da Yellow, seus fundadores ou executivos. Sempre conduza a sua própria pesquisa minuciosa (D.Y.O.R.) e consulte um profissional financeiro licenciado antes de tomar qualquer decisão de investimento.
Novo modelo de IA do Google atinge 1.000 tokens por segundo em GPUs Nvidia | Yellow.com