Qué pasó
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado "We Must Pace the Frontier". Su tesis: la IA puede traer enormes beneficios, pero los riesgos son serios, y una carrera hacia el abismo impulsada por incentivos comerciales los empeora.
Enumera la pérdida de control sobre los sistemas de IA, su uso para ciberataques y bioterrorismo, y una disrupción económica grave.
La petición, según la BBC: reducir el ritmo de desarrollo de los modelos y vigilarlo de cerca, para que empresas y gobiernos tengan tiempo de lidiar con los riesgos. Construir IA, en sí, no se cuestiona.
Entonces aparecieron los rivales. Sam Altman, de OpenAI, y Elon Musk dijeron estar de acuerdo con Amodei, y TechCrunch cuenta que Demis Hassabis, de Google, también respaldó el llamado. Altman afirmó que OpenAI se sumaría a Anthropic en la incorporación de evaluadores externos dentro de la empresa para vigilar la seguridad.
El martes, Chris Lehane, responsable global de política de OpenAI, dijo a los periodistas que OpenAI lleva semanas trabajando con Anthropic y Google DeepMind en seguridad de la IA, como adelantó Bloomberg. Según se informa, Lehane está en Washington trabajando con legisladores estadounidenses sobre riesgos catastróficos.
Los tres laboratorios ya hablaban entre ellos antes de que saliera el ensayo.
Por qué importa
Los laboratorios de frontera suelen coincidir en dos cosas: su modelo es el mejor y el del otro laboratorio huele un poco raro. Una postura común sobre frenar es inusual, y apunta a una industria que intenta autorregularse.
Hay trampa. Altman y otros han señalado que este tipo de coordinación podría violar la ley antimonopolio si se considera que frena la competencia. El ensayo de Amodei propone una exención gubernamental acotada que permita coordinarse en seguridad.
La pieza de la BBC trae también una nota más oscura. Jacob Coxon, un investigador que dejó Anthropic, dijo a la BBC que la gente en las empresas de IA está "genuinamente asustada". Es su afirmación, no un consenso, pero marca el ambiente.
Y ojo: una promesa no es una pausa. Nadie ha anunciado un calendario de desaceleración, y los hechos hasta ahora son un ensayo, apoyos, conversaciones y el compromiso de contratar evaluadores. Juzga lo que hagan, no el postureo.
Qué hacer con esto
- Vigila a los evaluadores.Fíjate en quiénes son los evaluadores externos y a qué tienen acceso de verdad en OpenAI y Anthropic.
- Sigue la exención.Mira si los legisladores recogen la exención antimonopolio que propuso Amodei, porque de ella depende que los laboratorios puedan coordinarse legalmente.
- Lee el ensayo.Es público en la web de Amodei: fórmate tu propia opinión en vez de fiarte de los hot takes.
- No planifiques en torno a una pausa.Sigue construyendo y presupuestando como si los modelos fueran a seguir saliendo hasta que alguien diga lo contrario.
Ciao, sapiens. Cuando los competidores empiezan a pasarse apuntes, presta atención a los apuntes.


