Saltar al contenido

IA

IBM inventa LLMON, un lenguaje de marcado que se lee "lemon"

IBM creó LLMON, un formato con etiquetas que le dice al modelo qué es cada trozo de su contexto. Viene dentro de Granite 4.1 en 3B y 8B y apunta a la fragilidad de los modelos pequeños y al prompt injection.

IBM inventa LLMON, un lenguaje de marcado que se lee "lemon"

TL;DR

  1. IBM lanzó LLMON, un lenguaje de marcado que da una estructura explícita a la ventana de contexto de los LLM.
  2. Está integrado en los modelos Granite 4.1 de 3B y 8B.
  3. IBM lo presenta como remedio a la fragilidad de los modelos pequeños y al prompt injection.

Qué pasó

IBM publicó LLMON, un lenguaje de marcado escrito para los modelos, no para humanos ni para parsers de la vieja escuela. La idea: dejar de obligar al modelo a adivinar qué es cada pieza de su propio contexto.

Piensa en todo lo que se acumula en una ejecución larga de un agente: un system prompt, turnos anteriores de la conversación, instrucciones sobre documentos recuperados, respuestas de herramientas, datos del usuario, requisitos de salida y cadenas de razonamiento. Según IBM, casi toda esa estructura es implícita o está embutida en formatos como JSON, que nunca se diseñaron para que los lea un LLM.

La respuesta de LLMON es el etiquetado explícito. IBM habla de etiquetas con significado para componentes semánticamente coherentes, envueltas en delimitadores de tokens especiales reservados. Los esquemas de datos, anidación incluida, se describen con todas las letras para que un LLM causal los lea sin ambigüedad. IBM menciona además IDs únicos, de modo que se pueda apuntar directamente a instrucciones concretas.

El formato ya está integrado en los modelos Granite 4.1, en tamaños de 3B y 8B.

Por qué importa

El diagnóstico de IBM es directo: la falta de estructura es una de las razones principales por las que los LLM, sobre todo los pequeños, son frágiles y fallan de formas inesperadas. Quien haya visto a un modelo pequeño destrozar una llamada a una herramienta con total seguridad en sí mismo sabe de qué hablamos.

El ángulo de seguridad es el más gordo. IBM dice que esa misma falta de estructura la pueden explotar los atacantes, con el prompt injection como ejemplo. Si el modelo no distingue tus instrucciones de un texto rascado de una web cualquiera, esa web tiene voto.

Los delimitadores reservados intentan trazar una línea dura entre "esto es la regla" y "esto es solo un dato".

Etiquetas y tokens reservados en lugar de buenas vibras: ese es todo el pitch.

Ahora, las pegas. Es un anuncio de la propia IBM y el formato vive en dos modelos Granite pequeños. No hay validación externa ni señales todavía de que otras familias de modelos lo vayan a adoptar. Un lenguaje de marcado solo se vuelve estándar cuando lo habla más de una parte.

Aun así, que un proveedor ataque el prompt injection desde el formato de entrada, y no con otra pila de "por favor ignora las instrucciones maliciosas" en el system prompt, es una dirección que vale la pena vigilar.

Qué hacer con esto

  • Prueba los modelos.Si construyes sobre modelos abiertos pequeños, prueba Granite 4.1 3B o 8B en tu flujo más caótico de tool calling o recuperación.
  • Audita tu contexto.Haz un mapa de lo que hay hoy en tus prompts: reglas del sistema, salida de herramientas, datos del usuario. Si todo llega en una sola masa, tienes el problema que ataca LLMON.
  • Trata el injection como un problema sin resolver.La estructura puede ayudar, pero lo que IBM afirma es mitigación, no inmunidad. Mantén firmes tu filtrado de entradas y tus permisos.
  • Lee el post de IBM.El artículo en Hugging Face detalla etiquetas, esquemas e IDs antes de que decidas si construir algo alrededor.

Ciao, sapiens. Cuando las máquinas necesitan su propio lenguaje de marcado para leer sus propios deberes, lo mínimo que puedes hacer tú es etiquetar tus prompts.