Pular para o conteúdo

IA

Modelo aberto de 816B da Meta roda em 2 Mac Studios. Sua vez, Pequim

A Meta liberou os pesos do Muse Spark Open e diz que é o melhor modelo aberto que os EUA têm. O alvo são os laboratórios chineses, que dominam essa prateleira faz tempo.

Foto de capa: IHazACatNamedMax / CC BY-SA 4.0

TL;DR

  1. Muse Spark Open: 816B de parâmetros, 42B ativos, contexto de 1M de tokens e pesos liberados para download.
  2. A Meta diz que é o modelo de pesos abertos mais capaz dos EUA, feito para programação e agentes.
  3. Segundo a Meta, dois Mac Studios com Apple M5 Ultra rodam o modelo em casa.

O que aconteceu

A Meta publicou os pesos do Muse Spark Open. O modelo é nativamente multimodal, tem 816 bilhões de parâmetros no total, 42 bilhões deles ativos por vez, e uma janela de contexto de um milhão de tokens.

O discurso da Meta é que este é o modelo de pesos abertos mais capaz que os EUA já produziram. Quem disse isso no X foi o chefe de IA da empresa, Alexandr Wang. O modelo foi ajustado para programação e trabalho agêntico: tarefas longas, engenharia de software de verdade, raciocínio em várias etapas.

O detalhe que rouba a manchete é o hardware. A Meta diz que o modelo roda em cima de uma mesa, com dois Mac Studios Apple M5 Ultra e o framework MLX. A empresa também afirma que é o primeiro modelo da sua classe a fazer isso.

O acesso é amplo. Entre os provedores de API estão Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter e Together AI.

Os pesos podem ser baixados pelo Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden e Microsoft Foundry Models. A Meta lista suporte a engines como vLLM, SGLang, llama.cpp e Unsloth.

Por que importa

Nos últimos dois anos, os desenvolvedores chineses foram a força dominante em modelos de pesos abertos. Qwen, da Alibaba, Kimi K3, da Moonshot AI, e a família GLM, da Z.ai, eram tratados como os líderes globais.

Agora a Meta diz que o modelo dela briga nesse nível e, em alguns casos, vence. É afirmação do fabricante, então espere benchmarks independentes antes de mandar gravar qualquer placa comemorativa.

O ponto central é o peso aberto. Diferente de modelos fechados como Claude ou ChatGPT, dá para baixar os pesos e mexer neles. Ou seja: fine-tuning, hospedagem própria e nenhum medidor de tokens rodando no fundo.

"Roda em casa" ainda pede nota de rodapé. Dois Mac Studios no topo da linha de chips da Apple é setup de escrivaninha, não de notebook. Mais barato que um data center, claro, mas ninguém chamaria isso de orçamento de hobby.

A parceria com a Apple também é estranha. A Meta diz que o modelo é otimizado para chips M5 Ultra, uma dupla curiosa entre duas empresas que nunca foram famosas por dividir a caixa de ferramentas.

O que fazer com isso

  • Confira os benchmarks.Espere avaliações independentes comparando com Qwen, Kimi K3 e GLM antes de acreditar na frase "rivaliza".
  • Teste primeiro por API.OpenRouter, Together AI ou Groq deixam você rodar suas próprias tarefas de código sem comprar hardware.
  • Faça a conta do setup caseiro.Se você quer inferência local, compare o custo de dois Mac Studios M5 Ultra com o que gasta em API antes de se empolgar.
  • Leia a licença.Pesos abertos ainda podem vir com termos, então confira antes de colocar qualquer coisa comercial no ar.

Ciao, sapiens. O modelo de fronteira agora cabe na sua mesa. Já a sua mesa, infelizmente, não cabe no seu orçamento.