Saltar al contenido
Newsletter semanal

Los jefes de la IA coinciden: frenad

Amodei pide frenar, Digit 5 sale de la jaula y Jev se niega a charlar


ciaosapiens
Fri, Sep 18, 20263 min read4 stories + quick hits

Hola, sapiens.

Momento histórico: quienes construyen los robots les han pedido a los robots que bajen el ritmo. Mientras, un humanoide salió de su jaula de seguridad, un modelo aprendió a jugar al Doom en vez de charlar y una startup de código con IA triplicó su precio. Si el fin de la humanidad tiene límite de velocidad, esta semana alguien pintó la línea.

Story 1 · Lead1 min

Los jefes rivales de la IA coinciden en algo: frenar

The gist

Dario Amodei, CEO de Anthropic, publicó un ensayo en el que pide un desarrollo de la IA de frontera más lento y vigilado de cerca. No un alto. Un pedal de freno. La sorpresa fue el coro. Sam Altman, Elon Musk y Demis Hassabis lo respaldaron en público, y OpenAI dice que incorporará evaluadores externos a su trabajo. Que los rivales se pongan de acuerdo en público es más raro que un modelo que admite que no sabe algo. OpenAI también confirmó semanas de conversaciones discretas sobre seguridad con Anthropic y Google DeepMind, con preocupaciones antimonopolio incluidas. Que los competidores se coordinen es justo lo que quita el sueño a los abogados, y por eso lo hablaron. Por qué importa: los laboratorios piden barandillas antes de que los gobiernos se las impongan. Eso marca las reglas con las que vivirá todo el mundo, incluidos los jugadores pequeños que se quedaron sin silla. Qué hacer: lee el ensayo y fíjate en lo próximo que se lance. El ritmo es fácil de prometer y difícil de demostrar.

Story 260 sec

El humanoide Digit 5 se escapa de la jaula de seguridad

The gist

Agility Robotics presentó Digit 5, diseñado para trabajar cerca de personas sin barreras físicas de seguridad. Levanta hasta 50 pounds de forma repetida y cambia de pinza según el trabajo. Agility cita más de $300 million en pedidos a varios años.

Por qué importa

Un robot que no necesita valla puede ir a cualquier sitio al que vaya un trabajador. El almacén acaba de convertirse en oficina compartida, y el nuevo compañero nunca pide un descanso.

Story 360 sec

Jev no quiere charlar. Prefiere jugar al Doom

The gist

TypeSafe AI lanzó Jev, un modelo que devuelve decisiones tipadas y probabilísticas en lugar de prosa. La startup tiene $40 million de financiación y dos años en modo sigiloso, y enseñó a Jev jugando al Doom.

Por qué importa

El software no necesita charla de ascensor, necesita respuestas sobre las que actuar. El proveedor afirma que Jev es dos órdenes de magnitud más rápido que los LLM en sus tareas, así que espera pruebas independientes.

Story 460 sec

Los programadores con IA de Factory valen $5 billion

The gist

Factory levantó $200 million con una valoración de $5 billion y supera ya los $400 million de financiación total. Sus agentes de código los usan empresas como Nvidia, Blackstone y RBC.

Por qué importa

Los inversores pagan por software que escribe software. Si los agentes escriben más código, leerlo, probarlo y dirigirlo pasa a ser la habilidad humana escasa.

En breve60 sec
Periodic Labs dice que Neon saca un 55.3% en su propio test de difracción de rayos X, frente al 2.7% anterior. Su examen, su nota.
Our take

Frena tú también, pero solo en las reuniones aburridas. Ciao, sapiens.

Ciao, sapiens.