Agentes ficaram baratos; a infraestrutura para rodá-los, não
Enquanto o preço do token despenca — graças a modelos abertos, arquiteturas MoE e otimização de software —, o custo fixo de manter uma operação de agentes de IA em produção dispara. O token individual ficou quase uma commodity, mas o sistema que o produz continua caríssimo. E é exatamente essa a inversão que o AI Infra Summit da NVIDIA escancarou na semana passada: a corrida não é mais por ter o modelo mais inteligente, é por ter a fábrica mais eficiente.
O gargalo deixou de ser o modelo e virou a conta de luz
Ian Buck, vice-presidente de hyperscale e high-performance computing da NVIDIA, falou diante de 8.000 participantes — mais que o dobro do ano passado, quando eram 3.500. O crescimento não é coincidência: infraestrutura virou o novo campo de batalha. O motivo é simples. Para quem usa IA para vender, criar e automatizar, o custo marginal de gerar um token despencou. Mas para quem opera a infraestrutura que serve esses tokens em escala, o custo fixo — energia, rede, GPUs — só sobe.
Para o time de marketing que roda um agente de atendimento ou uma automação de vendas, a conta do API é barata. O problema é que, quando a operação escala para dezenas de milhares de sessões simultâneas — cada uma acumulando centenas de milhares de tokens de contexto enquanto raciocina, chama ferramentas e abre sub-agentes —, o gargalo muda de figura. A unidade relevante deixa de ser “custo por token” e passa a ser “tokens por megawatt”.
O dado que resume isso? A NVIDIA anunciou que o AgentX da SemiAnalysis mostra o Vera Rubin NVL72 entregando até 30x mais throughput por megawatt que o GB300 NVL72 em workloads agênticos reais — e até 45x menor custo por milhão de tokens. Não é um benchmark sintético: são sessões reais de codificação gravadas, com crescimento de contexto real, chamadas de ferramentas e sub-agentes. O que isso significa em termos práticos? A mesma conta de energia que antes sustentava uma operação agora sustenta 30 operações do mesmo tamanho. Ou, dito de forma mais dura: quem não está olhando para eficiência energética está literalmente queimando margem.
A nova régua da produtividade: tokens por watt
O benchmark que importava para o negócio mudou. Antes era “quantos tokens por segundo essa GPU aguenta”. Agora é “quantos tokens úteis essa fábrica produz por megawatt”. A NVIDIA já declarou que o indicador de sucesso de infraestrutura está migrando de performance de pico para tokens agênticos validados por megawatt.
Os números da Lambda, anunciados no evento, traduzem isso: a empresa de cloud AI rodou 19 nós dentro do mesmo orçamento de energia que normalmente comportaria 16, aumentando o throughput da frota em 24% — de 4 milhões para 5 milhões de tokens por segundo — e melhorando a performance por watt em 23%, usando o DSX MaxLPS da NVIDIA.
A matemática é a seguinte: se a conta de luz de uma operação com 16 nós era o teto do orçamento, a Lambda descobriu como colocar 19 nós no mesmo envelope. Ou seja, para quem compra capacidade de processamento por hora — e repassa para o cliente final —, isso é ganho direto de margem sem adicionar um centavo de custo fixo. É como descobrir que o mesmo galão de gasolina que você pagava semana passada agora anda 25% mais longe.
A promessa para a próxima geração é ainda mais agressiva: até 40% mais GPUs dentro do mesmo orçamento de megawatts e até 35% mais throughput de tokens sem precisar de novas linhas de energia. Isso não é “otimização de desempenho”. É literalmente a diferença entre expandir a operação ou ficar parado esperando a concessionária de energia.
Agentes mudaram a forma do workload — e isso pesa no bolso
Aqui está o ponto que a maioria dos artigos sobre agentes ignora: workload agêntico não se comporta como chat. Uma única sessão de agente pode acumular centenas de milhares de tokens de entrada enquanto raciocina, chama ferramentas e faz checkpoint — algo em torno de 15x o volume de uma simples conversa. A latência compõe a cada passo de raciocínio, e o contexto cresce em camadas.
Para a sua operação de marketing, isso significa que o modelo que performa maravilhosamente em benchmark de chat pode desmoronar quando usado dentro de um agente que precisa resolver uma jornada de compra inteira. A Groq 3 LPX, apresentada como complemento do Vera Rubin, aborda exatamente isso: inferência determinística de latência ultrabaixa. Em um workload de Qwen 3.8 de 27B parâmetros com contexto de 100K tokens, a plataforma atingiu 2.529 tokens de saída por segundo por usuário. Esse headroom permite que agentes executem mais passos de raciocínio e mais chamadas de ferramentas dentro do mesmo orçamento de resposta — sem que o usuário final sinta que está esperando.
O número mais brutal do evento, no entanto, veio da Amazon. A Annapurna Labs está trabalhando com a NVIDIA em memória customizada de alta largura de banda, e a d-Matrix está integrando o NVLink Fusion para combinar CPUs Vera com seus XPUs Raptor em inferência de baixíssima latência. Quando a Amazon, a NVIDIA e startups de inferência estão todas remando na mesma direção, há um consenso econômico se formando: a eficiência energética é o novo diferenciador competitivo.
A conta que a maioria das empresas esquece de fazer
Se você está construindo automações com agentes, o custo do token vai continuar caindo — isso é inevitável. Modelos abertos, Mixture of Experts e otimização contínua de software (a própria NVIDIA reportou ganhos de até 1.6x só com otimização de software entre versões do MLPerf) vão continuar pressionando o preço para baixo. Mas o custo da infraestrutura que sustenta esses tokens em produção não obedece à mesma curva. Energia, resfriamento, rede e GPUs são custos fixos que não caem com a mesma velocidade.
A evidência está no próprio evento: a Emerald AI demonstrou, com a Silicon Valley Power, um programa de carga flexível onde fábricas de IA reduzem automaticamente o consumo quando a rede pede socorro — e voltam ao normal depois, protegendo os workloads prioritários. Isso é gestão de energia como vantagem competitiva, não como item de compliance.
Para o profissional de marketing que usa agentes para transformar o negócio, a consequência prática é clara: a escolha de infraestrutura — e, mais especificamente, de eficiência energética — vai determinar seu custo de operação muito mais do que qualquer atualização de modelo. Se você está servindo automações para dezenas de clientes, cada melhoria de tokens por megawatt na camada de infraestrutura vira diretamente margem no seu preço final. O custo por token que aparece nas plataformas de API já embute essa corrida de eficiência — e quem não está atento a ela está pagando caro por um serviço que os concorrentes mais eficientes estão conseguindo oferecer com margens maiores.
A direção é inequívoca: a competição migrou de “quem tem o melhor modelo” para “quem consegue servir o maior volume de trabalho útil pelo menor gasto energético”. O Vera Rubin NVL72, com seu 3.7x de throughput sobre o GB300 NVL72 e os 99% de eficiência de escala em configurações de 288 GPUs, não representa apenas um salto tecnológico — representa a redefinição de quem pode (e quem não pode) sobreviver na economia dos agentes.
