Pular para o conteúdo

IA

Inkling, de Mira Murati: 975B de parâmetros, 41B trabalhando

A Thinking Machines Lab lança o Inkling, seu primeiro modelo, e libera os pesos. De 975 bilhões de parâmetros, a maioria tira uma soneca enquanto uns 41 bilhões dão conta de cada tarefa.

TL;DR

  1. O Inkling é open-weight: 975 bilhões de parâmetros no total, cerca de 41 bilhões ativos por tarefa.
  2. Treinado com 45 trilhões de tokens de texto, imagem, áudio e vídeo; por enquanto, só responde em texto.
  3. A Thinking Machines Lab, fundada por Mira Murati, ex-CTO da OpenAI, diz que o modelo raciocina nas quatro modalidades.

O que aconteceu

A Thinking Machines Lab, startup fundada por Mira Murati, ex-CTO da OpenAI, lançou seu primeiro modelo próprio. O nome é Inkling, e ele chegou numa quarta-feira de manhã.

O número que chama atenção é o tamanho. Por dentro, o Inkling usa uma arquitetura de mixture-of-experts com 975 bilhões de parâmetros no total. Para cada tarefa, ele acorda só uns 41 bilhões. É um truque de design comum para manter modelos gigantes mais rápidos e mais baratos de rodar.

A empresa diz que o Inkling raciocina nativamente com texto, imagem, áudio e vídeo. Já a saída é mais modesta por enquanto: só texto, incluindo código, artefatos estilizados e dados estruturados. Ou seja, ele encara o buffet sensorial inteiro, mas responde digitando. Geração de imagem e som ainda não está no cardápio.

O modelo também chega depois de um longo período de trabalho discreto de infraestrutura. Em maio, uma prévia de pesquisa mostrou os "interaction models", IAs feitas para ouvir e falar, até interromper, em vez de ficar esperando parada como um chatbot comum. O Inkling é a primeira prova pública desse esforço.

Por que importa

Os modelos principais de OpenAI, Anthropic e Google são fechados. O Inkling é open-weight, então desenvolvedores e empresas de fora podem baixar e modificar direto. É um acordo bem diferente de alugar uma API e torcer para os termos continuarem simpáticos.

Uma startup bem financiada, com uma fundadora famosa, apostando em pesos abertos dá aos desenvolvedores mais uma opção séria no topo da tabela de tamanho. Mais escolha significa mais pressão sobre quem cobra por token.

Ressalvas, porque temos padrões. O tamanho, os dados de treino e o raciocínio multimodal vêm do material de lançamento da própria empresa. Não temos benchmarks independentes aqui, então trate "quão bom ele é" como pergunta em aberto até a galera começar a cutucar.

Pesos abertos significam que você pode inspecionar e modificar a coisa, em vez de só alugá-la.

O mixture-of-experts também pesa na prática. Um modelo que usa só cerca de 41 bilhões de parâmetros por tarefa é bem diferente de servir, na produção, do que um que usa os 975 bilhões toda vez.

O que fazer com isso

  • Confira os pesos.Se você roda modelos por conta própria, ache o lançamento oficial e veja que hardware os 975 bilhões de parâmetros exigem antes de se empolgar.
  • Teste no seu trabalho.Rode o Inkling com seus prompts, seu código e seus documentos reais, porque promessa de fornecedor não é a sua carga de trabalho.
  • Fique de olho nos limites de saída.Ele raciocina sobre imagem, áudio e vídeo, mas só responde em texto, então planeje seus pipelines com isso em mente.
  • Acompanhe os interaction models.A prévia de maio, de uma IA que sabe interromper, indica para onde a Thinking Machines está indo.

Keep up, sapiens. Os robôs open-weight acabaram de ganhar um colega de apartamento bem grandinho.