Salta al contenuto

IA

Anthropic: 200 milioni di scambi con Claude, copiati dalla Cina

Secondo Anthropic, Alibaba, Moonshot AI e DeepSeek hanno guidato campagne coordinate per risucchiare le skill di Claude: quasi 200 milioni di scambi in cinque campagne. Compiti copiati, ma su scala industriale.

Foto di copertina: Michael Gaylard from Horsham, UK / CC BY 4.0

TL;DR

  1. Anthropic collega quasi 200 milioni di scambi ad attacchi di distillazione, in cinque campagne distinte.
  2. Nel report compaiono Alibaba, Moonshot AI e DeepSeek, tutte a caccia delle skill migliori di Claude.
  3. Per Anthropic le campagne sono più grandi e più aggressive di quelle segnalate a febbraio.

Cosa è successo

La distillazione, in parole povere, consiste nel far mostrare a un modello più forte il proprio ragionamento su larga scala, per poi usare quelle risposte per addestrare un modello più piccolo. Secondo Anthropic, nel mirino c'erano le capacità agentiche di Claude e l'uso di strumenti, più coding, analisi dei dati e ragionamento logico. Insomma, la roba per cui i clienti pagano.

Anthropic descrive gli autori come laboratori non autorizzati che, nell'arco di diversi mesi, hanno messo a punto modi sempre più furbi per aggirare le sue difese. L'obiettivo dichiarato: raccogliere le capacità dei modelli di frontiera statunitensi.

Non è la prima volta che Anthropic dà l'allarme. Aveva parlato già a febbraio, facendo anche nomi di laboratori specifici. Il nuovo report, sempre secondo Anthropic, descrive campagne più grandi e più aggressive di quelle precedenti.

Anche OpenAI ha segnalato attività simili, che ha attribuito specificamente a DeepSeek.

Perché conta

La ricetta è semplice. Anthropic dice che di norma tiene nascosta la catena di ragionamento interna di Claude e mostra agli utenti solo un riassunto del pensiero. Gli attacchi di distillazione vanno comunque a caccia di quel ragionamento, perché è il materiale di addestramento più prezioso che un modello più piccolo possa desiderare.

Se la ricostruzione di Anthropic regge, i rivali possono saltare anni di costosa ricerca di frontiera con tante chiamate API e un po' di pazienza. Così l'accesso ai modelli diventa un problema di sicurezza, non solo di fatturazione.

Inoltre si inasprisce la rivalità USA-Cina sull'IA. Anthropic la presenta come un'estrazione di capacità di frontiera americane e mette i nomi in chiaro. Aspettati che il mondo della politica se ne accorga.

Le accuse arrivano dal report di Anthropic. La versione dei laboratori accusati non fa parte di ciò che abbiamo, quindi trattala come una denuncia dettagliata di una sola parte, non come una sentenza.

Cosa farne

  • Fai un audit della tua esposizione API.Se rivendi o impacchetti un modello di frontiera, controlla chi martella i tuoi endpoint e come.
  • Leggi i termini d'uso.Usare gli output di un fornitore per addestrare un modello rivale è esattamente il cuore di questa battaglia: prima di fare fine-tuning, leggi le regole del tuo provider.
  • Chiedi ai fornitori delle difese.Chi compra per l'azienda dovrebbe chiedere come il provider rileva le estrazioni di massa e cosa succede quando le trova.
  • Tieni d'occhio i laboratori citati.Se usi modelli di Alibaba, Moonshot AI o DeepSeek, segui come rispondono al report.

Keep up, sapiens. Ormai i modelli si copiano i compiti a vicenda, e tu non sei ancora invitato al gruppo di studio.