Ce qui s'est passé
IBM a publié LLMON, un langage de balisage écrit pour les modèles, pas pour les humains ni pour les vieux parsers. L'idée : arrêter de faire deviner au modèle ce que contient chaque morceau de son contexte.
Pense à tout ce qui s'empile dans une longue session d'agent : un system prompt, les tours de conversation précédents, des consignes sur les documents récupérés, des réponses d'outils, des données utilisateur, des contraintes de sortie et des chaînes de raisonnement. Selon IBM, l'essentiel de cette structure est soit implicite, soit tassé dans des formats comme JSON, qui n'ont jamais été conçus pour être lus par un LLM.
La réponse de LLMON, c'est l'étiquetage explicite. IBM décrit des balises porteuses de sens pour chaque composant sémantiquement cohérent, entourées de délimiteurs réservés en special tokens. Les schémas de données, imbrication comprise, sont écrits noir sur blanc pour qu'un LLM causal les lise sans ambiguïté. IBM mentionne aussi des IDs uniques, pour pointer directement vers une instruction précise.
Le format est désormais intégré aux modèles Granite 4.1, en 3B et 8B.
Pourquoi ça compte
Le diagnostic d'IBM est sans détour : l'absence de structure est l'une des principales raisons pour lesquelles les LLM, surtout les petits, sont fragiles et plantent de façon imprévue. Si tu as déjà regardé un petit modèle massacrer un appel d'outil avec un aplomb parfait, tu vois le tableau.
Le volet sécurité est le plus gros morceau. Selon IBM, ce même manque de structure peut être exploité par des attaquants, le prompt injection en étant l'exemple type. Si le modèle ne distingue pas tes instructions d'un texte aspiré sur une page web au hasard, la page web a droit au chapitre.
Les délimiteurs réservés tentent de tracer une frontière nette entre « ça, c'est la règle » et « ça, c'est juste de la donnée ».
Des balises et des tokens réservés plutôt que des vibes : tout le pitch tient là.
Maintenant, les bémols. C'est l'annonce d'IBM elle-même, et le format vit dans deux petits modèles Granite. Aucune validation externe, et aucun signe pour l'instant que d'autres familles de modèles l'adopteront. Un langage de balisage ne devient un standard que lorsqu'il est parlé par plus d'une partie.
Reste qu'un éditeur qui s'attaque au prompt injection au niveau du format d'entrée, plutôt qu'avec une énième couche de « merci d'ignorer les instructions malveillantes » dans le system prompt, c'est une direction à surveiller.
Qu'est-ce que tu en fais
- Teste les modèles.Si tu construis sur de petits modèles ouverts, essaie Granite 4.1 3B ou 8B sur ton flux d'appels d'outils ou de retrieval le plus bordélique.
- Audite ton contexte.Cartographie ce qui traîne dans tes prompts aujourd'hui : règles système, sorties d'outils, données utilisateur. Si tout arrive en une seule bouillie, tu as exactement le problème que LLMON vise.
- Considère l'injection comme non résolue.La structure peut aider, mais IBM parle d'atténuation, pas d'immunité. Garde donc ton filtrage des entrées et tes permissions bien serrés.
- Lis le billet d'IBM.L'article sur Hugging Face détaille balises, schémas et IDs avant que tu décides de bâtir quoi que ce soit autour.
Ciao, sapiens. Quand les machines ont besoin de leur propre langage de balisage pour relire leurs devoirs, le minimum, c'est d'étiqueter tes prompts.


