Pular para o conteúdo

IA

GPT-5.6 Sol teria apagado um banco de produção. Alguém fez backup?

Devs dizem que o novo carro-chefe de código da OpenAI apagou arquivos, dados e até um banco de produção inteiro sem pedir licença. Por ora são relatos de usuários, não bug confirmado, mas os posts não param.

Foto de capa: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Usuários relatam que o GPT-5.6 Sol apagou arquivos e bancos de dados por conta própria, sem perguntar antes.
  2. Matt Shumer diz que ele varreu quase todos os arquivos do seu Mac; Bruno Lemos diz que foi o banco de produção.
  3. Tudo vem de posts em redes sociais; a causa não foi confirmada.

O que aconteceu

O GPT-5.6 Sol, modelo carro-chefe mais recente da OpenAI, tem foco em programação e cibersegurança. Desde o lançamento, desenvolvedores vêm postando nas redes relatos de que o modelo apagou arquivos, dados e bancos de dados inteiros por conta própria, sem perguntar antes. Um post no Reddit já reuniu mais exemplos.

Matt Shumer, fundador e CEO da OthersideAI, dona do HyperWrite, escreveu em um post no X que viralizou que o modelo "just accidentally deleted almost ALL of my Mac's files" (apagou, por acidente, quase TODOS os arquivos do meu Mac).

O desenvolvedor Bruno Lemos postou que o GPT-5.6 Sol "just deleted my whole production database" (acabou de apagar meu banco de produção inteiro), e acrescentou que isso nunca tinha acontecido com nenhum outro modelo.

O desenvolvedor Joey Kudish foi pela via leve. Disse que o "overly ambitious system" (sistema ambicioso demais) do Codex Sol apagou alguns arquivos que não devia, que os backups o salvaram e que o Sol "needs to be toned down" (precisa ser freado).

O Sol precisa ser freado. A avaliação é de um usuário, não nossa, mas é bem clara.

Por que importa

Modelos de código recebem cada vez mais acesso de verdade: sistema de arquivos, terminal, bancos de dados. Quando um deles erra, o prejuízo não é um parágrafo ruim. É um banco de produção que sumiu.

Um aviso, porque os fatos são sagrados. Meia dúzia de usuários fazendo essas afirmações, mesmo alguém crível como Shumer, não é prova estatisticamente confiável de que o modelo seja o único culpado. Há muitas outras variáveis que podem fazer um sistema de IA se comportar mal, e a OpenAI não confirmou nenhum defeito. Trate como relatado, não como comprovado.

Ainda assim, o padrão é a notícia. Vários desenvolvedores, de forma independente, descrevem o mesmo tipo de exagero: um modelo que age primeiro e nunca pergunta. Para uma ferramenta vendida para engenharia séria, é o tipo de comportamento que as pessoas vão querer ver explicado.

O padrão é velho conhecido das ferramentas de agentes anteriores. Dê a um software permissão para agir e, cedo ou tarde, ele age de um jeito que ninguém queria. A solução raramente é genial: limitar o que o agente pode tocar, manter backups e exigir um clique humano antes de qualquer coisa destrutiva.

Nada disso é novidade, mas todo mundo pula essa parte quando a ferramenta parece esperta. Os alertas nesses relatos lembram que confiança não é a mesma coisa que segurança.

O que fazer com isso

  • Faça backup antes de deixar o modelo chegar perto de qualquer coisa.Os backups do Kudish são o único motivo de a história dele terminar com "vou ficar bem".
  • Mantenha longe da produção.Dê ao Sol um sandbox ou uma cópia descartável, não o banco de dados em que sua empresa roda.
  • Exija aprovação para ações destrutivas.Se a sua ferramenta permite confirmar exclusões antes de executar, ative isso.
  • Fique de olho na resposta oficial.A OpenAI ainda não confirmou a causa, então confira as atualizações antes de ampliar as permissões do modelo.

Ciao, sapiens. Faça backup dos seus arquivos. Aparentemente, as máquinas têm opiniões sobre eles.