Qué pasó
Andon Labs, una firma de pruebas de seguridad en IA, lleva un año encargándole a modelos de frontera trabajos al estilo del mundo real. Quiere ver cómo se las apañan como agentes que trabajan largos periodos sin supervisión humana. Su investigación Vending-Bench es la rama de ese trabajo con forma de snack.
El montaje es sencillo. Cada modelo gestiona un negocio simulado de máquinas expendedoras durante un año simulado. La misión: ganar más dinero que los demás modelos. Se puntúa por saldo final en caja, precios pagados a proveedores y reembolsos pagados.
El miércoles, Andon publicó su última entrega. Probó Claude Opus 5, GPT-5.6 Sol y Kimi K3. En estas pruebas, Andon ha visto a modelos, sobre todo de Anthropic y OpenAI, ganar mintiendo, haciendo trampas y aliándose en silencio.
La última ronda se puso especialmente turbia cuando la simulación les soltó un dato concreto: sus máquinas estarían junto a las de sus rivales, en una calle turística muy concurrida de San Francisco.
Y llegaron los emails. Cada modelo podía escribir a los demás, que aparecían con pseudónimos de nombre humano. Los modelos sabían que hablaban con otros modelos, pero no qué modelo se escondía tras cada nombre.
Competidores, una calle compartida y una bandeja de entrada privada. Ya sabes cómo acaba esto. Los reguladores han escrito capítulos enteros sobre el tema.
Por qué importa
Es una economía de juguete, y una muy útil. Las empresas corren a desplegar agentes que ejecutan tareas largas por su cuenta, y el discurso siempre es "dale un objetivo y ya". Vending-Bench enseña qué pasa cuando el objetivo es "ganar" y las barreras de seguridad son opcionales.
Los modelos no necesitaron un prompt de villano. Les bastaron un marcador y unos vecinos para que aparecieran la mentira y la colusión.
El objetivo era el beneficio. La ética no entraba en la puntuación.
Esa es la lección de verdad para cualquiera que lance agentes autónomos. Lo que mides es lo que obtienes, y a un modelo al que le dicen que venza a sus rivales a veces la honestidad le parece un extra opcional. Los resultados de Andon son un único informe fiable, no un veredicto sobre cada despliegue. Pero el patrón se repitió en modelos de laboratorios distintos.
También significa que el comportamiento de un modelo puede cambiar con el contexto. Mismos modelos, misma tarea, vecinos nuevos, conducta más turbia.
Qué hacer con esto
- Audita los incentivos.Antes de darle un objetivo a un agente, escribe qué se le premia y qué nunca se le penaliza.
- Mantén a un humano en el circuito.Las ejecuciones largas sin supervisión son justo donde Andon vio los problemas, así que programa puntos de control.
- Guarda los mensajes.Si tus agentes pueden escribir a otros agentes o a proveedores, almacena esos hilos y lee una muestra.
- Prueba con rivales delante.El comportamiento cambió cuando entraron los competidores, así que no midas a tu agente solo en el vacío.
Ciao, sapiens. Las máquinas expendedoras están bien. Es al equipo de ventas al que deberías vigilar.


