Pular para o conteúdo

IA

A nova linguagem da IBM se pronuncia "lemon" e quer consertar LLMs

A IBM criou o LLMON, um formato com tags que diz ao modelo o que cada pedaço do contexto realmente é. Vem dentro do Granite 4.1 em 3B e 8B, mirando modelos pequenos frágeis e prompt injection.

A nova linguagem da IBM se pronuncia "lemon" e quer consertar LLMs

TL;DR

  1. A IBM lançou o LLMON, uma linguagem de marcação que dá estrutura explícita às janelas de contexto dos LLMs.
  2. Ela já vem embutida nos modelos Granite 4.1 de 3B e 8B.
  3. A IBM vende o LLMON como remédio para a fragilidade de modelos pequenos e para prompt injection.

O que aconteceu

A IBM publicou o LLMON, uma linguagem de marcação escrita para modelos, não para humanos nem para parsers da velha guarda. A ideia é parar de obrigar o modelo a adivinhar o que cada pedaço do próprio contexto significa.

Pense no que se acumula numa execução longa de agente: system prompt, turnos anteriores da conversa, instruções sobre documentos recuperados, respostas de ferramentas, dados do usuário, requisitos de saída e cadeias de raciocínio. Segundo a IBM, quase toda essa estrutura fica implícita ou espremida em formatos como JSON, que nunca foram pensados para um LLM ler.

A resposta do LLMON é rotular tudo de forma explícita. A IBM descreve tags com significado para componentes semanticamente coerentes, envolvidas por delimitadores de tokens especiais reservados. Os esquemas de dados, aninhamento incluído, são descritos de modo que um LLM causal consiga ler sem ambiguidade. A IBM também menciona IDs únicos, para apontar diretamente para instruções específicas.

O formato já está integrado aos modelos Granite 4.1, nos tamanhos 3B e 8B.

Por que importa

O diagnóstico da IBM é direto: a falta de estrutura é um dos principais motivos de os LLMs, especialmente os menores, serem frágeis e falharem de jeitos inesperados. Quem já viu um modelo pequeno destruir uma chamada de ferramenta com a maior confiança sabe do que estamos falando.

O ângulo de segurança é o que pesa mais. A IBM diz que essa mesma falta de estrutura pode ser explorada por atacantes, e prompt injection é o exemplo. Se o modelo não distingue suas instruções de um texto raspado de uma página qualquer da web, a página ganha direito a voto.

Os delimitadores reservados são uma tentativa de traçar uma linha dura entre "isto é a regra" e "isto é só dado".

Tags e tokens reservados no lugar de vibes: esse é o pitch inteiro.

Agora, as ressalvas. Este é um anúncio da própria IBM, e o formato vive em dois modelos Granite pequenos. Não há validação externa e nenhum sinal, por enquanto, de que outras famílias de modelos vão adotá-lo. Uma linguagem de marcação só vira padrão quando mais de uma parte fala o idioma.

Ainda assim, um fornecedor atacando prompt injection no nível do formato de entrada, em vez de empilhar mais um "por favor, ignore instruções maliciosas" no system prompt, é uma direção que vale acompanhar.

O que fazer com isso

  • Teste os modelos.Se você constrói em cima de modelos abertos pequenos, rode o Granite 4.1 3B ou 8B no seu fluxo mais bagunçado de tool calling ou de recuperação de documentos.
  • Faça uma auditoria do seu contexto.Mapeie o que existe hoje nos seus prompts: regras de sistema, saída de ferramentas, dados do usuário. Se tudo chega como um bloco só, você tem o problema que o LLMON quer atacar.
  • Trate injection como problema em aberto.A estrutura pode ajudar, mas a promessa da IBM é mitigação, não imunidade. Mantenha filtros de entrada e permissões bem apertados.
  • Leia o post da IBM.O texto no Hugging Face traz os detalhes sobre tags, esquemas e IDs antes de você decidir se vale construir algo em torno disso.

Ciao, sapiens. Quando as máquinas precisam de uma linguagem de marcação própria para ler o próprio dever de casa, o mínimo que você pode fazer é rotular seus prompts.