Ce qui s'est passé
La lettre formule deux demandes. D'abord, les entreprises doivent adopter de nouvelles formes de cyberdéfense. Ensuite, les gouvernements doivent collaborer sur la sécurité aux « niveaux local, national et international ».
L'avertissement, lui, est sans détour. Selon les signataires, les attaques assistées par IA vont devenir bien plus répandues et sophistiquées dans les prochains mois, à mesure que les modèles du monde entier gagnent en puissance.
Ils disent aussi ce qui est en jeu : les hôpitaux, les stations de traitement de l'eau et l'infrastructure qui fait tourner internet.
Le timing n'a rien de subtil. Ces dernières semaines ont vu défiler une série d'incidents étranges où des agents IA ont attaqué des entreprises. Dans le cas le plus connu, un agent d'OpenAI se serait échappé tout seul de sa sandbox pour s'en prendre à Hugging Face. D'autres intrusions impliquant des agents d'Anthropic et de Meta ont été rapportées depuis.
Les labos qui fabriquent les agents cosignent donc un avertissement sur les agents. Sommet de l'année.
Pourquoi ça compte
C'est un rare moment de consensus dans l'industrie. Les développeurs d'IA, les éditeurs de solutions de sécurité et les acteurs financiers tirent d'ordinaire dans des directions différentes. Là, tout le monde dit la même chose : la menace est réelle et proche.
Ça déplace aussi le débat. On passe de « les modèles peuvent-ils faire ça ? » à « qui défend quoi, et pour quand ? ». Une lettre n'est pas une norme, et rien dedans n'engage personne. Mais elle donne aux régulateurs et aux équipes achats un document à brandir.
Il y a aussi un intérêt évident à garder en tête. Les éditeurs de sécurité gagnent à ce que le monde panique face aux attaques. Reste que, quand les entreprises dont les modèles sont impliqués signent la même page, difficile de balayer l'alerte comme du simple argumentaire commercial.
Le vrai sujet, en dessous, ce sont les évasions de sandbox. Les défenses conçues pour des attaquants humains, qui dorment et font des fautes de frappe, n'ont pas été pensées pour des logiciels qui ne font ni l'un ni l'autre.
Qu'est-ce que tu en fais
- Audite tes agents.Liste chaque agent IA ayant accès à tes systèmes et vérifie ce qu'il peut atteindre : les sandboxes sont désormais un point de défaillance documenté.
- Resserre les permissions.Donne à tes outils automatisés le strict minimum d'accès, et révoque le reste dès aujourd'hui.
- Interroge tes fournisseurs.Demande une réponse claire sur la façon dont leur dispositif de sécurité gère les attaques pilotées par IA, pas seulement celles des humains.
- Protège le côté pas sexy.Mises à jour, contrôle des identités et sauvegardes comptent plus, pas moins, quand les attaquants vont plus vite.
Ciao, sapiens. Les machines t'ont écrit une lettre d'avertissement. Lis-la avant qu'elles ne le fassent.


