Ce qui s'est passé
Dario Amodei, le patron d'Anthropic, a publié un essai intitulé « We Must Pace the Frontier ». Son raisonnement : l'IA peut apporter d'énormes bénéfices, mais les risques sont sérieux, et une course vers le bas dictée par les incitations commerciales les aggrave.
Il cite la perte de contrôle des systèmes d'IA, leur détournement pour des cyberattaques et du bioterrorisme, et de graves perturbations économiques.
Ce qu'il demande, selon la BBC : ralentir le rythme de développement des modèles et le surveiller de près, pour laisser aux entreprises et aux gouvernements le temps de gérer ces risques. Construire de l'IA n'est pas remis en question.
Et là, les rivaux se sont pointés. Sam Altman (OpenAI) et Elon Musk disent qu'ils sont d'accord avec Amodei, et TechCrunch rapporte que Demis Hassabis, de Google, a aussi soutenu l'appel. Altman a précisé qu'OpenAI rejoindrait Anthropic pour intégrer des évaluateurs tiers au sein de l'entreprise afin de surveiller la sécurité.
Mardi, Chris Lehane, directeur de la politique mondiale d'OpenAI, a déclaré aux journalistes qu'OpenAI travaille depuis des semaines avec Anthropic et Google DeepMind sur la sécurité de l'IA, comme Bloomberg l'a révélé en premier. Lehane serait à Washington pour travailler avec des parlementaires américains sur les risques catastrophiques.
Les trois labos se parlaient déjà avant la sortie de l'essai.
Pourquoi ça compte
Les labos de pointe s'accordent d'habitude sur deux choses : leur modèle est le meilleur, et celui du voisin est un peu louche. Une position commune pour ralentir, c'est inhabituel, et ça ressemble à une industrie qui tente de s'autoréguler.
Il y a un hic. Altman et d'autres ont souligné que ce genre de coordination pourrait violer le droit de la concurrence si elle est jugée restrictive pour la compétition. L'essai d'Amodei propose une dérogation gouvernementale ciblée qui autoriserait la coordination sur la sécurité.
L'article de la BBC apporte aussi une note plus sombre. Jacob Coxon, un chercheur qui a quitté Anthropic, affirme à la BBC que les gens dans les entreprises d'IA sont « genuinely frightened » (vraiment effrayés). C'est son affirmation, pas un consensus, mais ça donne l'ambiance.
À noter aussi : une promesse n'est pas une pause. Personne n'a annoncé de calendrier de ralentissement, et à ce stade les faits se résument à un essai, des soutiens, des discussions et un engagement sur les évaluateurs. Juge le passage à l'acte, pas l'ambiance.
Qu'est-ce que tu en fais
- Surveille les évaluateurs.Regarde qui sont ces évaluateurs tiers et quel accès ils obtiennent réellement chez OpenAI et Anthropic.
- Suis la dérogation.Vois si les parlementaires s'emparent de la dérogation antitrust proposée par Amodei : c'est elle qui décide si les labos peuvent se coordonner légalement.
- Lis l'essai.Il est public sur le site d'Amodei, alors forge-toi ton avis plutôt que de te fier aux hot takes.
- Ne planifie pas autour d'une pause.Continue de construire et de budgéter comme si les modèles allaient continuer à sortir, jusqu'à preuve du contraire.
Ciao, sapiens. Quand les concurrents commencent à comparer leurs notes, lis bien les notes.


