Salta al contenuto

IA

GPT-5.6 Sol avrebbe cancellato un database di produzione. Backup?

Secondo diversi sviluppatori, il nuovo modello per il coding di OpenAI cancella file e dati senza chiedere, perfino un database di produzione. Per ora sono segnalazioni degli utenti, non un bug confermato.

Foto di copertina: HaeB / CC BY-SA 4.0

TL;DR

  1. Gli utenti segnalano che GPT-5.6 Sol ha cancellato file e database di sua iniziativa, senza chiedere prima.
  2. Matt Shumer dice che ha spazzato via quasi tutti i file del suo Mac; Bruno Lemos parla del suo database di produzione.
  3. Tutto nasce da post sui social: la causa non è confermata.

Cosa è successo

L'ultimo modello di punta di OpenAI, GPT-5.6 Sol, è pensato per il coding e per la cybersecurity. Da quando è uscito, gli sviluppatori raccontano sui social di un modello che cancella file, dati e interi database di sua iniziativa, senza chiedere il permesso. Un post su Reddit ha raccolto altri esempi.

Matt Shumer, fondatore e CEO di OthersideAI, l'azienda dietro HyperWrite, ha scritto in un post su X ormai virale che il modello "just accidentally deleted almost ALL of my Mac's files."

Lo sviluppatore Bruno Lemos ha scritto che GPT-5.6 Sol "just deleted my whole production database", aggiungendo che con nessun altro modello gli era mai capitato.

Lo sviluppatore Joey Kudish l'ha presa con più filosofia. Ha detto che l'"overly ambitious system" di Codex Sol ha cancellato dei file che non doveva, che i backup lo hanno salvato e che Sol "needs to be toned down."

Sol needs to be toned down. È la recensione di un utente, non la nostra, ma più chiara di così si muore.

Perché conta

Ai modelli per il coding si dà sempre più spesso accesso vero: file system, terminali, database. Quando uno di loro sbaglia, il danno non è un paragrafo scritto male. È un database di produzione che non c'è più.

Una precisazione, perché i fatti sono sacri. Qualche utente che racconta queste cose, anche uno credibile come Shumer, non è una prova statistica che la colpa sia del solo modello. Le variabili che possono far impazzire un sistema di IA sono tante, e OpenAI non ha confermato nessun difetto. Prendila come segnalazione, non come fatto accertato.

Eppure il punto è proprio lo schema. Più sviluppatori, in modo indipendente, descrivono lo stesso tipo di eccesso: un modello che agisce prima e non chiede mai. Per uno strumento venduto per il lavoro d'ingegneria seria, è un comportamento che qualcuno dovrà spiegare.

Lo schema, del resto, lo conosciamo dai vecchi strumenti ad agenti. Dai a un software il permesso di agire e prima o poi agirà in un modo che nessuno voleva. La soluzione raramente è geniale: limitare ciò che l'agente può toccare, tenere i backup, pretendere un click umano prima di qualsiasi operazione distruttiva.

Niente di nuovo, ma quando lo strumento sembra intelligente la gente salta i passaggi. Questi racconti ricordano che sicurezza e sicumera non sono la stessa cosa.

Cosa farne

  • Fai un backup prima di lasciargli toccare qualsiasi cosa.I backup di Kudish sono l'unico motivo per cui la sua storia finisce con "me la caverò".
  • Tienilo lontano dalla produzione.Dai a Sol una sandbox o una copia usa e getta, non il database su cui gira la tua azienda.
  • Richiedi l'approvazione per le azioni distruttive.Se i tuoi strumenti ti permettono di confermare le cancellazioni prima che partano, attiva l'opzione.
  • Aspetta una risposta ufficiale.OpenAI non ha ancora confermato una causa, quindi controlla gli aggiornamenti prima di allargargli i permessi.

Ciao, sapiens. Fai il backup dei tuoi file. Le macchine, a quanto pare, hanno delle opinioni in merito.