Pular para o conteúdo

IA

Ultrafast deixa o GPT-5.6 Sol 14x mais rápido. Piscou, perdeu

A OpenAI diz que o novo modo Ultrafast leva o GPT-5.6 Sol a 14x a velocidade padrão, com até 750 tokens de saída por segundo. O último gargalo era a sua paciência, sapiens, e ele está sendo removido.

Foto de capa: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. O Ultrafast roda o GPT-5.6 Sol a 14x a velocidade padrão, segundo a OpenAI.
  2. Pico de saída: até 750 tokens por segundo.
  3. Segundo a OpenAI, você não precisa mais de um modelo menor para ter velocidade de tempo real.

O que aconteceu

A OpenAI lançou um novo modo chamado Ultrafast para o GPT-5.6 Sol, que a empresa descreve como seu modelo mais recente e mais poderoso. A proposta é simples: o mesmo cérebro, com muito menos espera.

A OpenAI diz que o Ultrafast trabalha a 14x a velocidade do processamento padrão. O número de destaque é uma vazão de até 750 tokens de saída por segundo. Tokens são os pedacinhos de texto que um modelo de linguagem produz quando responde você.

O enquadramento da própria empresa é a parte interessante. No blog, a OpenAI afirma que, até agora, velocidade de tempo real geralmente significava escolher um modelo menor ou mais especializado. O Ultrafast, argumenta ela, aponta para outra direção: mais trabalho útil por segundo.

A OpenAI também sugere que o modo pode ser aplicado em fluxos de trabalho corporativos, citando resposta a incidentes e atendimento e suporte ao cliente como exemplos de destaque.

A concorrência está na mesma pista. O Claude, da Anthropic, já tem um modo rápido, mas, segundo a reportagem do TechCrunch, ele não chega à velocidade que a OpenAI alega aqui.

Atenção à origem dos dados: os números de 14x e 750 vêm da própria OpenAI. Ainda não há benchmark independente na mesa, então trate tudo como o número do fornecedor no slide do fornecedor.

Por que importa

Velocidade sempre foi o imposto silencioso dos modelos de ponta. Os maiores são os mais capazes e também aqueles em que você fica encarando o cursor piscando. O jeito de contornar era trocar por um modelo menor e aceitar uma resposta mais burrinha.

A OpenAI afirma que dá para pular essa troca. Se isso se confirmar, o mesmo modelo topo de linha que faz o raciocínio pesado também acompanha situações em que tem um humano esperando ao vivo, como um chat de suporte ou uma queda de sistema de madrugada.

Essa é a mudança de verdade. A latência decide onde um modelo pode ser usado, ponto. Uma resposta brilhante que chega depois de o cliente ir embora é só uma entrada de diário bem cara.

Velocidade de tempo real não precisa mais significar um modelo menor, diz a OpenAI.

Há também um recado competitivo. Modos rápidos viraram item padrão do cardápio, e a briga agora é quem consegue ser veloz sem ficar desleixado. Se o Ultrafast mantém a qualidade a toda velocidade é a pergunta a acompanhar, já que o argumento da OpenAI é exatamente esse.

Enquanto isso, o tempo de reação humano, que todo mundo educadamente ignorava, agora é oficialmente o componente mais lento da maioria dos fluxos de trabalho. Parabéns pela promoção a gargalo.

O que fazer com isso

  • Mapeie sua dor de latência.Liste os fluxos em que esperar o modelo realmente atrapalha, como suporte ao vivo ou triagem de incidentes, antes de supor que precisa de mais velocidade.
  • Teste, não confie.O 14x da OpenAI é alegação do fornecedor, então rode seus próprios prompts e cronometre contra o modo padrão.
  • Compare com o rival.O Claude também tem um modo rápido, então faça benchmark dos dois nas suas tarefas reais, não no material de marketing.
  • Vigie a qualidade.Velocidade que piora as respostas é bug, então confira por amostragem tudo que for voltado ao cliente.

Ciao, sapiens. Pisque devagar. O modelo já terminou a sua frase.