Pular para o conteúdo

IA

SynthID Detector abre ao público: 180 bilhões de arquivos marcados

Agora qualquer pessoa pode perguntar ao Google se uma foto, vídeo ou música tem marca d'água invisível de IA. Só que ele só enxerga marcas que conhece: é detector de fumaça, não exorcista.

Foto de capa: Maurizio Pesce from Milan, Italia / CC BY 2.0

TL;DR

  1. O Google abriu o SynthID Detector para todo mundo: suba uma imagem, vídeo ou áudio e receba o veredito.
  2. Segundo o Google, mais de 180 bilhões de arquivos levam a marca, de Google, OpenAI, Nvidia e Kakao; a Apple deve entrar em breve.
  3. A pegadinha: ele só reconhece marcas SynthID, e você tem cerca de 10 verificações por dia.

O que aconteceu

O Google abriu o SynthID Detector para o público. É um site onde qualquer pessoa pode checar se uma imagem, um vídeo ou um áudio foi feito com IA. Ele lê marcas d'água invisíveis dentro de arquivos JPG, PNG, MP4 e MP3.

As marcas vêm de modelos como Gemini, Veo e Lyria. E também de parceiros: OpenAI, Nvidia e Kakao usam o SynthID em mídia, e o Google diz que a Apple deve se juntar em breve. O Google afirma que mais de 180 bilhões de imagens e vídeos já carregam a marca.

A mesma detecção já está embutida no Google Search, no app Gemini e no Chrome. Segundo o Google, tudo isso soma um milhão de pedidos de verificação por dia.

Tem muro de login. Contas do Google, da OpenAI e da Apple funcionam. Cada usuário recebe uma cota diária de cerca de 10 verificações de imagem, vídeo e áudio.

Engenheiros do Google disseram à Ars Technica que o limite existe para impedir que as pessoas fiquem cutucando o verificador para construir ferramentas de remoção de marca d'água. O "cerca de" meio vago provavelmente existe porque envios quase idênticos podem causar bloqueio mais cedo.

Por que importa

Eis a pegadinha, e ela é grande: o SynthID não é um detector universal de IA. Ele só sinaliza conteúdo que carrega uma marca SynthID. Resultado limpo quer dizer "nenhum SynthID encontrado", não "um humano fez isso".

Outros sistemas de detecção têm o mesmo limite e normalmente só verificam as marcas do próprio fornecedor. Muito conteúdo de IA sai de ferramentas que usam outra marca d'água, ou nenhuma. A OpenAI criou um sistema próprio, separado, para texto.

Mesmo assim, um lugar público para checar os grandes nomes é um passo real. Antes, a checagem de origem andava espalhada entre fornecedores. Agora a tia desconfiada com uma foto suspeita tem um destino só.

Resultado limpo significa que nenhum SynthID foi encontrado, não que um humano fez a coisa.

O que isso muda na Europa

A Europa é o público provável desse tipo de ferramenta. As regras de transparência e de procedência de conteúdo na UE se apoiam exatamente nessa ideia: marcas legíveis por máquina que dizem de onde a mídia veio. Um detector público de um grande provedor mostra como isso fica em escala.

Também mostra os limites com que os reguladores vão ter de lidar. A checagem de marca d'água cobre só os provedores participantes, e o limite diário faz dela uma ferramenta de checagem pontual, não um pipeline de nível redação. Espere ver isso nos debates da UE sobre o que significa rotulagem "boa o bastante".

O que fazer com isso

  • Cheque as coisas estranhas.Passe a imagem ou o vídeo viral suspeito pelo detector antes de compartilhar.
  • Leia os negativos com cuidado."Nenhuma marca encontrada" só quer dizer nenhum SynthID, então mantenha seu ceticismo de sempre ligado.
  • Administre sua cota.São cerca de 10 verificações por dia e é preciso fazer login, então guarde-as para os arquivos que importam.
  • Procure a versão embutida.Search, app Gemini e Chrome já trazem a detecção, então talvez você nem precise do site.

Ciao, sapiens. Confie, mas verifique, e depois verifique o verificador.