Salta al contenuto

IA

OpenAI firma di nascosto i testi di ChatGPT, UE per prima

OpenAI lancia textGrain, una filigrana invisibile per i testi di ChatGPT e Codex nell'UE. Nasce per l'AI Act, e la stessa OpenAI ammette che il rilevamento non è garantito.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. OpenAI aggiunge una filigrana invisibile, textGrain, a testo e codice di ChatGPT e Codex nell'UE.
  2. Serve a rispettare le regole di trasparenza dell'AI Act; Anthropic si era mossa in modo simile prima.
  3. Sui testi brevi il rilevamento si ferma intorno all'80 percento, e modificare il testo peggiora le cose.

Cosa è successo

OpenAI annuncia che testo e codice prodotti dai suoi strumenti dentro l'Unione Europea porteranno presto una filigrana che nessuno può vedere. Il sistema si chiama textGrain.

Funziona ritoccando il pattern statistico delle scelte di parole del modello: un rilevatore può leggere quel pattern in un secondo momento e segnalare il testo come generato da una macchina.

Nelle prossime settimane arriverà sugli account ChatGPT e Codex idonei nell'UE, gratuiti e a pagamento.

OpenAI dice che al lancio la filigrana non diventa un'impostazione globale di default. Non sarà attiva di default nemmeno altrove, se non per i testi idonei di ChatGPT e Codex nella regione.

Il motivo è la conformità. OpenAI sta rispettando una parte delle regole di trasparenza dell'AI Act europeo, dopo una mossa simile di Anthropic all'inizio del 2026.

Secondo OpenAI, textGrain ha eguagliato o superato altri approcci, incluso SynthID di Google DeepMind per il testo. L'azienda ha anche pubblicato punteggi di benchmark che mostrano prestazioni simili tra output con filigrana e senza.

Poi arriva il linguaggio in piccolo, e qui sono di manica larga. OpenAI avverte che ottimi risultati in condizioni ideali non garantiscono un rilevamento affidabile nell'uso di tutti i giorni.

I testi brevi sono più difficili da individuare, con un tasso di successo intorno all'80 percento. Anche i contenuti di tipo matematico sono più ostici, e modificare il testo abbassa ulteriormente le probabilità. OpenAI aggiunge che una filigrana non verifica l'accuratezza, non stabilisce la proprietà, non misura il contributo umano e non prova che l'autore sia umano.

OpenAI prevede inoltre di rilasciare la tecnologia in open source, così che altri possano modificarla.

Perché conta

È la prima occasione per vedere da vicino come un laboratorio di frontiera trasforma il linguaggio dell'AI Act in una funzione di prodotto vera e propria. Quando a muoversi è un fornitore di primo piano, il resto del settore si ritrova con un modello da copiare.

È anche un bagno di realtà. Una filigrana che sbiadisce appena qualcuno riscrive un paragrafo è un dissuasore di velocità, non una macchina della verità. Chi spera di smascherare i testi AI con questo sistema farebbe bene a leggere prima le avvertenze della stessa OpenAI.

E l'accoglienza non è stata calorosa per tutti. Quando Anthropic ha annunciato la sua filigrana, non tutti hanno applaudito.

Cosa cambia in Europa

L'Europa è il posto dove questa roba atterra per primo, ed è proprio questo il punto. L'AI Act ora cambia il design dei prodotti, non solo i memo degli uffici legali, e gli utenti UE ricevono la funzione prima di chiunque altro.

Per aziende e sviluppatori nell'UE significa che testo e codice di ChatGPT e Codex potrebbero portare un segnale nascosto che gli strumenti di rilevamento sono in grado di trovare. I team che pubblicano contenuti assistiti dall'AI farebbero bene a saperlo prima che arrivi una domanda di compliance.

Al lancio OpenAI limita tutto all'UE, quindi per ora il resto del mondo riceve testo senza marchio. Bruxelles scrive le regole, i modelli cambiano calligrafia.

Cosa farne

  • Controlla il tuo piano.Se usi ChatGPT o Codex nell'UE, tieni d'occhio il rollout delle prossime settimane e verifica se il tuo output è idoneo.
  • Non trattarla come una prova.Il rilevamento è imperfetto: non usare mai la presenza o l'assenza della filigrana come unica prova di chi ha scritto qualcosa.
  • Scrivi la tua policy di disclosure.Se il tuo team pubblica testo o codice assistito dall'AI, decidi adesso come etichettarlo, prima che lo faccia un rilevatore al posto tuo.
  • Segui il rilascio open source.OpenAI prevede di pubblicare la tecnologia, quindi gli sviluppatori potranno seguirla e capire come funziona.

Ciao, sapiens. Le macchine ora firmano i compiti. Tu cerca di non falsificare la firma.