Zum Inhalt springen

KI

IBMs neue Auszeichnungssprache heißt „Lemon“ und soll LLMs retten

IBM hat LLMON gebaut, ein Tag-Format, das Modellen sagt, was jeder Brocken Kontext eigentlich ist. Es steckt in Granite 4.1 mit 3B und 8B und zielt auf wacklige Kleinmodelle und Prompt Injection.

IBMs neue Auszeichnungssprache heißt „Lemon“ und soll LLMs retten

TL;DR

  1. IBM hat LLMON veröffentlicht, eine Auszeichnungssprache, die dem Kontextfenster von LLMs eine explizite Struktur gibt.
  2. Sie steckt direkt in den Granite 4.1 Modellen mit 3B und 8B.
  3. IBM verkauft sie als Gegenmittel gegen die Wackligkeit kleiner Modelle und gegen Prompt Injection.

Was passiert ist

IBM hat LLMON veröffentlicht, eine Auszeichnungssprache, die nicht für Menschen oder altmodische Parser geschrieben ist, sondern für Modelle. Die Idee: Das Modell soll nicht länger raten müssen, was jedes Stück seines Kontexts eigentlich ist.

Denk an das, was sich in einem langen Agent-Lauf so ansammelt: ein System-Prompt, frühere Gesprächsrunden, Anweisungen zu abgerufenen Dokumenten, Tool-Antworten, Nutzerdaten, Ausgabevorgaben und Reasoning-Ketten. Laut IBM ist der Großteil dieser Struktur entweder implizit oder in Formate wie JSON gequetscht, die nie dafür gedacht waren, von einem LLM gelesen zu werden.

LLMONs Antwort ist explizites Labeling. IBM beschreibt aussagekräftige Tags für semantisch zusammenhängende Bausteine, eingefasst in reservierte Special-Token-Trennzeichen. Datenschemata samt Verschachtelung werden ausbuchstabiert, damit ein kausales LLM sie ohne Mehrdeutigkeit lesen kann. IBM erwähnt außerdem eindeutige IDs, sodass sich bestimmte Anweisungen direkt ansprechen lassen.

Das Format ist jetzt in die Granite 4.1 Modelle integriert, und zwar in den Größen 3B und 8B.

Warum es zählt

IBMs Diagnose ist unverblümt: Fehlende Struktur ist einer der Hauptgründe, warum LLMs, besonders kleinere, wacklig sind und auf unerwartete Weise scheitern. Wer schon mal zugesehen hat, wie ein kleines Modell mit stolzgeschwellter Brust einen Tool-Call zerlegt, kennt das Gefühl.

Der Sicherheitsaspekt ist der größere Hebel. Laut IBM können Angreifer genau diese fehlende Struktur ausnutzen, Prompt Injection ist das Beispiel. Wenn das Modell deine Anweisungen nicht von Text unterscheiden kann, der von irgendeiner zufälligen Webseite gekratzt wurde, hat die Webseite eben ein Stimmrecht.

Reservierte Trennzeichen sind der Versuch, dem Modell eine harte Linie zu ziehen zwischen „das ist die Regel" und „das sind nur Daten".

Tags und reservierte Tokens statt Bauchgefühl: Das ist der ganze Pitch.

Jetzt die Einschränkungen. Das ist IBMs eigene Ankündigung, und das Format lebt in zwei kleinen Granite-Modellen. Es gibt keine externe Validierung und bisher kein Zeichen, dass andere Modellfamilien es übernehmen. Eine Auszeichnungssprache wird erst dann zum Standard, wenn mehr als eine Partei sie spricht.

Trotzdem: Ein Anbieter, der Prompt Injection auf Ebene des Eingabeformats angeht, statt mit einem weiteren Haufen „bitte ignoriere bösartige Anweisungen" im System-Prompt, schlägt eine Richtung ein, die man im Auge behalten sollte.

Was du damit machst

  • Probier die Modelle aus.Wenn du auf kleinen offenen Modellen baust, teste Granite 4.1 3B oder 8B an deinem chaotischsten Tool-Calling- oder Retrieval-Flow.
  • Prüf deinen Kontext.Kartiere, was heute in deinen Prompts steckt: Systemregeln, Tool-Output, Nutzerdaten. Wenn alles als ein einziger Klumpen ankommt, hast du genau das Problem, auf das LLMON zielt.
  • Behandle Injection als ungelöst.Struktur kann helfen, aber IBMs Anspruch ist Abschwächung, nicht Immunität. Halte also Input-Filter und Berechtigungen straff.
  • Lies den IBM-Beitrag.Der Write-up auf Hugging Face liefert die Details zu Tags, Schemata und IDs, bevor du entscheidest, ob du darum herum bauen willst.

Ciao, sapiens. Wenn die Maschinen eine eigene Auszeichnungssprache brauchen, um ihre eigenen Hausaufgaben zu lesen, kannst du wenigstens deine Prompts beschriften.