Salta al contenuto

IA

OpenAI Ultrafast: GPT-5.6 Sol va 14 volte più veloce

Secondo OpenAI, la nuova modalità Ultrafast spinge GPT-5.6 Sol a 14 volte la velocità standard, fino a 750 token al secondo in output. L'ultimo collo di bottiglia era la tua pazienza, sapiens.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Ultrafast fa girare GPT-5.6 Sol a 14 volte la velocità standard, dice OpenAI.
  2. Picco in output: fino a 750 token al secondo.
  3. Per OpenAI, per avere velocità in tempo reale non serve più un modello più piccolo.

Cosa è successo

OpenAI ha lanciato una nuova modalità chiamata Ultrafast per GPT-5.6 Sol, che l'azienda descrive come il suo modello più recente e più potente. Il pitch è semplice: stesso cervello, molta meno attesa.

Secondo OpenAI, Ultrafast lavora a 14 volte la velocità dell'elaborazione standard. Il dato di punta è una produzione fino a 750 token in output al secondo. I token, per chi se lo fosse perso, sono i pezzettini di testo che un modello linguistico sforna mentre ti risponde.

La parte interessante è come la mette l'azienda. Nel suo post sul blog, OpenAI spiega che finora la velocità in tempo reale significava di solito scegliere un modello più piccolo o più specializzato. Ultrafast, sostiene, va in un'altra direzione: più lavoro utile al secondo.

OpenAI suggerisce anche che la modalità si possa usare nei flussi di lavoro aziendali, citando come esempi di spicco la gestione degli incidenti e il customer service e supporto.

I concorrenti corrono sulla stessa corsia. Claude di Anthropic ha già una fast mode, ma stando a quanto riportato da TechCrunch non arriva alla velocità che OpenAI rivendica qui.

Una nota sulle fonti: i numeri 14x e 750 arrivano da OpenAI stessa. Non c'è ancora nessun benchmark indipendente sul tavolo, quindi trattali per quello che sono: il numero del venditore, sulla slide del venditore.

Perché conta

La velocità è sempre stata la tassa silenziosa dei modelli di frontiera. I più grandi sono i più capaci, ma anche quelli che fissi mentre il cursore lampeggia. L'espediente di sempre era scendere a un modello più piccolo e accettare una risposta più sciocca.

OpenAI dice che puoi saltare questo compromesso. Se regge, lo stesso modello di punta che fa il ragionamento difficile può anche stare al passo quando dall'altra parte c'è un umano che aspetta in diretta, come in una chat di assistenza o in un'interruzione di servizio nel cuore della notte.

È questo il vero cambio di passo. La latenza decide dove un modello si può usare, punto. Una risposta geniale che arriva dopo che il cliente se n'è andato è solo una voce di diario molto costosa.

Secondo OpenAI, la velocità in tempo reale non deve più significare un modello più piccolo.

C'è anche un segnale competitivo. Le modalità veloci stanno diventando una voce fissa del menu, e la sfida ora è chi riesce a essere rapido senza diventare approssimativo. Se Ultrafast mantiene la qualità a tutta velocità è la domanda da tenere d'occhio, visto che il pitch di OpenAI è esattamente questo.

Nel frattempo, il tempo di reazione umano, che tutti ignoravano con garbo, è ufficialmente la componente più lenta nella maggior parte dei flussi di lavoro. Congratulazioni per la promozione a collo di bottiglia.

Cosa farne

  • Misura il tuo dolore da latenza.Prima di decidere che ti serve più velocità, elenca i flussi in cui aspettare il modello fa davvero male, come l'assistenza dal vivo o il triage degli incidenti.
  • Testa, non fidarti.Il 14x è un'affermazione del fornitore: lancia i tuoi prompt e cronometrali contro la modalità standard.
  • Confrontati con il rivale.Anche Claude ha una fast mode, quindi metti alla prova entrambi sui tuoi compiti reali, non sul materiale di marketing.
  • Tieni d'occhio la qualità.Una velocità che peggiora le risposte è un bug, quindi controlla a campione gli output su tutto ciò che arriva ai clienti.

Ciao, sapiens. Sbatti le palpebre con calma. Il modello ha già finito la tua frase.