Pular para o conteúdo

IA

Este modelo de US$ 40 mi se recusa a conversar. Joga Doom

O Jev, da TypeSafe AI, dispensa papo furado e devolve decisões tipadas e estruturadas que o software usa direto. O chatbot teve seu momento, sapiens, mas agora as máquinas querem conversar entre si.

TL;DR

  1. A TypeSafe AI lançou o Jev, um modelo que devolve decisões probabilísticas tipadas em vez de prosa.
  2. A startup tem US$ 40 milhões em financiamento e dois anos de stealth nas costas.
  3. Segundo a empresa, o Jev é duas ordens de magnitude mais rápido que LLMs nas tarefas-alvo.

O que aconteceu

O Jev devolve decisões probabilísticas tipadas. Em vez de gerar linguagem natural que outro software precisa interpretar e validar, ele entrega valores estruturados que o código consome diretamente.

É a ideia de type safety da programação aplicada a um modelo. Se o programa espera um inteiro, ele recebe um inteiro, não um parágrafo tagarela que por acaso contém um número.

A TypeSafe AI chama o Jev de System One Model, que descreve como uma nova classe de modelos de fronteira feita para decisões rápidas e estruturadas.

A empresa diz ter construído uma stack nova para isso: uma nova arquitetura de modelo, um amostrador paralelo e um método de treinamento batizado de Reinforcement Learning for Calibrated Decisions (RLCD).

A demo que virou manchete: o Jev joga Doom quando recebe dados estruturados sobre o estado do jogo. Claro que joga. O emprego mais provável, como observa o The Register, é triar problemas de atendimento ao cliente e outros fluxos de trabalho corporativos.

Essa é a alegação da empresa, acompanhada da afirmação de que o Jev iguala os LLMs existentes em inteligência nessas tarefas. Trate como alegação até que desenvolvedores ponham a mão na massa.

Por que importa

O fundador Diogo Almeida trabalhou antes na OpenAI, onde diz ter ajudado a construir os métodos que fizeram modelos de linguagem seguirem instruções, pesquisa que alimentou o ChatGPT. O argumento dele agora: os chatbots conversam melhor que a gente há anos, então por que tão pouca coisa é de fato automatizada?

A resposta dele é que o chat é a interface errada para software. Interpretar texto livre, validar e tratar os casos esquisitos é encanamento que ninguém curte fazer. Um modelo que devolve respostas restritas e tipadas pula essa etapa.

Também combina com tarefas em que a resposta precisa sair de um conjunto limitado de opções. Roteamento de tickets, triagem, classificação. Trabalho chato, que é exatamente onde o dinheiro costuma estar.

O porém: é uma ferramenta estreita. O Jev está em acesso antecipado e ainda não há evidência de adoção ampla. O primeiro modelo de uma startup com uma ideia esperta não é o mesmo que uma virada de mercado.

O que fazer com isso

  • Audite seu código de parsing.Se você domestica texto de LLM em JSON e regex, anote onde saídas tipadas eliminariam esse trabalho.
  • Ache suas decisões restritas.Roteamento, triagem e rotulagem com um conjunto fixo de respostas são o encaixe natural.
  • Leia o post de lançamento.O blog da TypeSafe AI explica o RLCD e o conceito de System One nas palavras do próprio fundador.
  • Teste a alegação de velocidade você mesmo.Duas ordens de magnitude é número do fornecedor, então rode um benchmark na sua carga de trabalho antes de reconstruir qualquer coisa.

Ciao, sapiens. As máquinas agora escrevem umas para as outras em tipos, e ainda ganham de você no Doom.