Pular para o conteúdo

IA

Anthropic: labs chineses fizeram 200 milhões de trocas com o Claude

A Anthropic diz que Alibaba, Moonshot AI e DeepSeek rodaram campanhas coordenadas para sugar as habilidades do Claude. Placar: quase 200 milhões de trocas em cinco campanhas. Cola de lição de casa, em escala industrial.

TL;DR

  1. A Anthropic liga quase 200 milhões de trocas a ataques de destilação, espalhados por cinco campanhas distintas.
  2. O relatório cita Alibaba, Moonshot AI e DeepSeek, todas atrás das melhores habilidades do Claude.
  3. Segundo a Anthropic, as campanhas são maiores e mais agressivas do que as que ela apontou em fevereiro.

O que aconteceu

Destilação, em português claro: pegar um modelo mais forte, fazer ele mostrar o raciocínio em grande escala e usar essas respostas para treinar um modelo menor. A Anthropic diz que os alvos aqui foram as capacidades agênticas e o uso de ferramentas do Claude, além de programação, análise de dados e raciocínio lógico. Ou seja, justamente o que os clientes pagam para usar.

A Anthropic descreve os responsáveis como laboratórios não autorizados que, ao longo de vários meses, foram criando jeitos cada vez mais engenhosos de contornar suas defesas. O objetivo declarado deles: colher as capacidades dos modelos de fronteira dos EUA.

Não é a primeira vez que a Anthropic toca o alarme. Ela já tinha se manifestado em fevereiro e até citado laboratórios específicos na época. O novo relatório, segundo a empresa, descreve campanhas maiores e mais agressivas do que aquelas.

A OpenAI também já relatou atividade parecida, que atribuiu especificamente à DeepSeek.

Por que importa

A receita é simples. A Anthropic diz que normalmente mantém escondida a cadeia de raciocínio interna do Claude e mostra aos usuários só um resumo do pensamento. Os ataques de destilação vão atrás desse raciocínio mesmo assim, porque é o melhor material de treino que um modelo menor poderia pedir.

Se o relato da Anthropic se sustentar, rivais conseguem pular anos de pesquisa de fronteira caríssima com um monte de chamadas de API e alguma paciência. Isso transforma o acesso ao modelo num problema de segurança, e não só de cobrança.

Também esquenta a rivalidade entre EUA e China em IA. A Anthropic enquadra o caso como extração de capacidades de fronteira americanas, e está publicando nomes. Espere o pessoal da política pública prestar atenção.

As acusações vêm do relatório da própria Anthropic. O lado dos laboratórios acusados não faz parte do que temos, então trate isto como uma alegação detalhada de uma das partes, não como veredito.

O que fazer com isso

  • Audite a exposição da sua API.Se você revende ou embrulha um modelo de fronteira, confira quem está martelando seus endpoints e como.
  • Fique de olho nos termos.Usar as saídas de um fornecedor para treinar um modelo rival é exatamente o centro dessa briga, então leia as regras do seu provedor antes de fazer fine-tuning.
  • Pergunte aos fornecedores sobre defesas.Compradores corporativos devem perguntar como o provedor detecta extração em massa e o que acontece quando detecta.
  • Acompanhe os laboratórios citados.Se você usa modelos da Alibaba, Moonshot AI ou DeepSeek, veja como eles respondem ao relatório.

Keep up, sapiens. Os modelos agora copiam a lição de casa uns dos outros, e você continua sem convite para o grupo de estudos.