O Jalapeño, chip de inferência da OpenAI, acaba de entrar na disputa por uma fatia estratégica do mercado de aceleradores de inteligência artificial. Desenvolvido em parceria com a Broadcom, o novo hardware foi projetado especificamente para executar modelos de IA e teve seus primeiros resultados de desempenho divulgados pela OpenAI.
Nos testes apresentados pela empresa, o acelerador conseguiu entregar entre 1,5x e 1,9x mais trabalho por watt do que sistemas baseados em aceleradores da NVIDIA, além de apresentar reduções expressivas na latência em diferentes cargas de trabalho. Os testes utilizaram modelos como GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T.
A novidade é importante porque a OpenAI está atacando um dos maiores custos da atual infraestrutura de IA: a inferência. Em vez de tentar substituir imediatamente as GPUs usadas para treinamento, a companhia criou um ASIC especializado para executar modelos já treinados com maior eficiência. A estratégia pode reduzir custos operacionais e, ao mesmo tempo, diminuir a dependência de fornecedores tradicionais de aceleradores.
O que é o Jalapeño, chip de inferência da OpenAI?
O Jalapeño é um acelerador de inteligência artificial desenvolvido pela OpenAI em colaboração com a Broadcom. Diferentemente de uma GPU projetada para atender a uma ampla variedade de aplicações, o hardware foi concebido especificamente para as características dos grandes modelos de linguagem, com atenção especial às necessidades de inferência.
Essa diferença é fundamental.
Uma GPU convencional precisa oferecer flexibilidade suficiente para executar diferentes tipos de algoritmos e cargas de trabalho. Um ASIC de inferência, por outro lado, pode sacrificar parte dessa flexibilidade para otimizar operações que aparecem repetidamente na execução de modelos de IA.
A OpenAI afirma que utilizou inteligência artificial durante o próprio processo de desenvolvimento do hardware, ajudando a acelerar etapas do projeto e da otimização. O objetivo é construir uma plataforma capaz de evoluir juntamente com os modelos utilizados pelos seus serviços.
O projeto também está inserido em uma estratégia mais ampla de expansão da infraestrutura da empresa, com futuras gerações de silício personalizado planejadas para acompanhar o crescimento da demanda por capacidade computacional.
Por que o Jalapeño foi projetado para inferência?
A escolha da inferência, em vez do treinamento, revela muito sobre o problema que a OpenAI pretende resolver.
O treinamento de um modelo envolve enormes quantidades de operações matemáticas realizadas durante períodos prolongados. Já a inferência acontece continuamente quando usuários enviam perguntas, empresas utilizam APIs ou agentes executam tarefas.
Em outras palavras, cada resposta gerada por uma IA consome recursos de inferência.
Durante o processamento de uma solicitação, existem etapas diferentes. O prefill processa o contexto inicial enviado ao modelo, enquanto o decode gera os tokens da resposta, normalmente um após o outro.
O decode é particularmente sensível à movimentação de dados, memória e latência. Por isso, um acelerador construído especificamente para esse tipo de carga pode explorar otimizações que seriam mais difíceis de implementar em um processador de propósito mais geral.
O resultado esperado é simples: entregar mais tokens e respostas com o mesmo orçamento energético.
Para um data center com milhares de aceleradores funcionando continuamente, essa diferença pode representar uma economia significativa.
GPT-OSS, DeepSeek R1 e Kimi K2.5 entram nos testes
Outro aspecto relevante dos primeiros benchmarks é a variedade de modelos utilizados.
A OpenAI testou o Jalapeño com o GPT-OSS 120B, mas também utilizou modelos desenvolvidos por outras organizações, incluindo o DeepSeek R1 670B e o Kimi K2.5 1T.
A utilização do DeepSeek R1 é especialmente interessante porque demonstra a intenção de avaliar o hardware com modelos externos e arquiteturas que não pertencem ao ecossistema da OpenAI.
Isso é importante para evitar que a eficiência observada seja interpretada simplesmente como uma otimização exclusiva para um modelo específico.
Quanto mais modelos diferentes apresentarem resultados positivos, maior será a evidência de que o novo hardware de inferência da OpenAI possui vantagens arquiteturais que podem ser aplicadas a uma variedade maior de workloads.
Benchmarks do Jalapeño mostram ganhos sobre sistemas NVIDIA
Os resultados divulgados no InferenceX são o principal argumento da OpenAI para justificar o desenvolvimento do acelerador.
Nos testes com o GPT-OSS 120B, o Jalapeño apresentou aproximadamente 1,9x mais trabalho por watt e uma redução de aproximadamente 1,7x na latência de ponta a ponta em relação ao sistema NVIDIA utilizado como referência.
Com o DeepSeek R1 670B, a vantagem ficou em aproximadamente 1,7x em trabalho por watt, enquanto a latência chegou a ser aproximadamente 3,6x menor.
Já utilizando o Kimi K2.5 1T, o acelerador alcançou aproximadamente 1,5x mais trabalho por watt, acompanhado por uma redução de cerca de 3,4x na latência.
| Modelo testado | Trabalho por watt | Redução de latência |
|---|---|---|
| GPT-OSS 120B | até 1,9x | até 1,7x |
| DeepSeek R1 670B | até 1,7x | até 3,6x |
| Kimi K2.5 1T | até 1,5x | até 3,4x |
A OpenAI também destaca o consumo energético do acelerador. O Jalapeño possui classificação de 700 W, enquanto o consumo sustentado observado nos workloads avaliados ficou em até aproximadamente 550 W.
Esses números ajudam a explicar por que a empresa está priorizando eficiência em vez de simplesmente buscar o maior desempenho absoluto.
Trabalho por watt pode ser mais importante que desempenho bruto
Em um computador pessoal, uma diferença de consumo de energia pode parecer secundária. Em um data center de inteligência artificial, a situação é completamente diferente.
Um grande cluster precisa fornecer energia para os aceleradores, retirar o calor produzido por eles, manter sistemas de rede e armazenamento funcionando e garantir que toda essa infraestrutura opere continuamente.
Por isso, o indicador trabalho por watt ganhou importância.
Um acelerador que entregue mais inferências usando a mesma quantidade de energia pode permitir que uma empresa execute mais solicitações sem aumentar proporcionalmente a capacidade elétrica do data center.
Isso também afeta os custos de refrigeração e infraestrutura.
É justamente nesse ponto que o Jalapeño da OpenAI pode se tornar estratégico. Mesmo que o acelerador não substitua as GPUs da NVIDIA em todos os cenários, ele pode ser utilizado nas cargas em que sua arquitetura especializada apresenta maior vantagem.
O impacto do Jalapeño nos data centers de IA
A chegada do Jalapeño representa algo maior do que o lançamento de um novo processador.
Durante anos, a expansão da inteligência artificial esteve fortemente associada às GPUs da NVIDIA, principalmente devido à combinação entre desempenho, memória, interconexão e um amplo ecossistema de software.
Agora, grandes empresas de tecnologia estão desenvolvendo seus próprios aceleradores para reduzir custos e controlar melhor a infraestrutura.
A OpenAI segue exatamente esse caminho.
Ao desenvolver simultaneamente modelos, software e hardware, a companhia pode otimizar toda a cadeia de execução. Um modelo pode ser ajustado para determinadas características do chip, enquanto o chip pode ser projetado considerando os padrões reais dos modelos.
Essa integração cria uma vantagem potencial que uma empresa que compra hardware genérico de terceiros pode ter mais dificuldade para alcançar.
Também existe uma consequência econômica.
Se a OpenAI conseguir executar mais inferências utilizando menos energia, poderá reduzir o custo operacional de serviços que dependem de geração de tokens. Em escala gigantesca, mesmo pequenas melhorias por requisição podem representar milhões de dólares em economia.
O Jalapeño pode reduzir a dependência da NVIDIA?
É cedo para afirmar que o Jalapeño substituirá as GPUs da NVIDIA.
Os benchmarks divulgados representam determinados modelos, configurações e cargas de trabalho. Além disso, o acelerador foi criado especificamente para inferência, enquanto as plataformas NVIDIA oferecem uma infraestrutura muito mais abrangente.
A comparação também precisa considerar software, disponibilidade, escalabilidade, ferramentas de desenvolvimento, suporte e capacidade de executar diferentes tipos de modelos.
Mesmo assim, os resultados são relevantes.
Uma vantagem de até 1,9x em trabalho por watt e reduções de até 3,6x na latência, dependendo do workload, mostram por que empresas de IA estão interessadas em desenvolver ASICs especializados.
O movimento pode aumentar a pressão competitiva sobre NVIDIA, AMD e outros fabricantes para que seus próximos aceleradores entreguem não apenas mais desempenho, mas também mais eficiência energética e menor latência para inferência.
Conclusão: a OpenAI aposta no hardware especializado
Os primeiros benchmarks do Jalapeño, chip de inferência da OpenAI, mostram que a empresa está tentando resolver um problema bastante específico: executar inteligência artificial em escala com o menor custo possível.
A estratégia de concentrar o projeto em inferência, especialmente nas etapas relacionadas ao processamento e geração de tokens, permite explorar otimizações que seriam mais difíceis em aceleradores de propósito geral.
Os testes com GPT-OSS, DeepSeek R1 e Kimi K2.5 tornam os resultados ainda mais interessantes, pois indicam que o hardware foi avaliado em diferentes cargas de trabalho.
Mais importante do que os números individuais é a direção escolhida pela OpenAI. A empresa está tentando controlar uma parcela maior da infraestrutura necessária para executar seus modelos, reduzindo a dependência de hardware comprado de terceiros e criando uma plataforma que poderá evoluir de acordo com suas próprias necessidades.
Se essa estratégia funcionar em escala, o impacto poderá ser significativo para todo o mercado de IA. A próxima grande disputa entre fabricantes de chips talvez não seja apenas sobre quem possui o acelerador mais rápido, mas sobre quem consegue entregar mais inteligência por watt e por dólar.
O Jalapeño pode ser apenas o começo dessa mudança.
