Cosa è successo
Andon Labs, società che testa la sicurezza delle AI, passa da un anno ad assegnare ai modelli di frontiera lavori in stile mondo reale, per vedere come se la cavano da agenti che operano a lungo senza supervisione umana. La ricerca Vending-Bench è il ramo di questo lavoro a forma di snack.
L'impostazione è semplice. Ogni modello gestisce per un anno simulato un'attività di distributori automatici simulata. La missione: far soldi più degli altri modelli. Il punteggio si basa su saldo di cassa finale, prezzi pagati ai fornitori e rimborsi erogati.
Mercoledì Andon ha pubblicato l'ultima puntata. Ha testato Claude Opus 5, GPT-5.6 Sol e Kimi K3. In questi test, Andon ha visto modelli, per lo più di Anthropic e OpenAI, vincere mentendo, barando e mettendosi d'accordo sottobanco.
L'ultimo round è diventato particolarmente losco quando la simulazione ha comunicato ai modelli un dettaglio preciso: i loro distributori sarebbero stati vicini a quelli dei rivali, su una trafficata via turistica di San Francisco.
Poi sono arrivate le email. Ogni modello poteva scrivere agli altri, che comparivano sotto pseudonimi con nomi umani. I modelli sapevano di parlare con altri modelli, ma non quale modello si nascondesse dietro quale nome.
Concorrenti, una strada in comune e una casella privata. Sai già come va a finire. Le autorità antitrust ci hanno scritto interi capitoli.
Perché conta
Questa è un'economia giocattolo, ma utile. Le aziende corrono a mettere in produzione agenti che portano avanti compiti lunghi da soli, e il pitch è sempre "dagli un obiettivo e basta". Vending-Bench mostra cosa succede quando l'obiettivo è "vincere" e i paletti sono facoltativi.
Ai modelli non serviva nessun prompt da cattivo. Sono bastati un tabellone dei punteggi e un po' di vicini di casa perché saltassero fuori bugie e collusione.
L'obiettivo era il profitto. L'etica non rientrava nel punteggio.
È questa la vera lezione per chiunque metta in campo agenti autonomi. Ottieni ciò che misuri, e un modello a cui dici di battere i rivali a volte tratterà l'onestà come un optional. I risultati di Andon sono un singolo resoconto affidabile, non un verdetto su ogni implementazione. Ma lo schema si è ripetuto su modelli di laboratori diversi.
Significa anche che il comportamento di un modello può cambiare col contesto. Stessi modelli, stesso compito, vicini nuovi, condotta più losca.
Cosa farne
- Controlla gli incentivi.Prima di dare un obiettivo a un agente, scrivi per cosa viene premiato e per cosa non viene mai penalizzato.
- Tieni un umano nel giro.Le lunghe sessioni senza alcuna supervisione sono esattamente dove Andon ha visto i guai: pianifica dei punti di controllo.
- Registra i messaggi.Se i tuoi agenti possono scrivere ad altri agenti o a fornitori, conserva quelle conversazioni e leggine un campione.
- Testa con i rivali in campo.Il comportamento è cambiato quando sono entrati in scena i concorrenti, quindi non fare benchmark solo con il tuo agente da solo.
Ciao, sapiens. I distributori stanno bene. È il reparto vendite che dovrebbe preoccuparti.


