Aller au contenu

IA

SynthID Detector ouvre à tous : 180 milliards de fichiers marqués

Tout le monde peut maintenant demander à Google si une image, une vidéo ou un son porte un filigrane IA invisible. Mais il ne reconnaît que les filigranes qu'il connaît : détecteur de fumée, pas exorciste.

Photo de couverture : Gregory Varnum / CC BY-SA 4.0

TL;DR

  1. Google ouvre son SynthID Detector à tous : tu envoies une image, une vidéo ou un son, tu reçois un verdict.
  2. Google revendique plus de 180 milliards de fichiers filigranés (Google, OpenAI, Nvidia, Kakao) ; Apple devrait suivre bientôt.
  3. Le hic : il ne repère que les marques SynthID, et tu as environ 10 vérifications par jour.

Ce qui s'est passé

Google a ouvert son SynthID Detector au grand public. C'est un site où n'importe qui peut vérifier si une image, une vidéo ou un fichier audio a été fabriqué avec de l'IA. Il lit les filigranes invisibles cachés dans les fichiers JPG, PNG, MP4 et MP3.

Ces filigranes viennent de modèles comme Gemini, Veo et Lyria. Ils viennent aussi des partenaires : OpenAI, Nvidia et Kakao utilisent SynthID pour leurs médias, et Google affirme qu'Apple devrait les rejoindre bientôt. Toujours selon Google, plus de 180 milliards d'images et de vidéos portent désormais la marque.

La même détection est déjà intégrée à Google Search, à l'app Gemini et à Chrome. Google dit que le tout représente un million de demandes de vérification par jour.

Il y a un mur de connexion. Les comptes Google, OpenAI et Apple fonctionnent tous. Chaque utilisateur a un quota quotidien d'environ 10 vérifications d'images, de vidéos et de sons.

Des ingénieurs de Google ont expliqué à Ars Technica que ce plafond sert à empêcher les gens de sonder le détecteur pour fabriquer des outils de suppression de filigrane. Le « environ » un peu flou vient probablement du fait que des envois quasi identiques peuvent déclencher le blocage plus vite.

Pourquoi ça compte

Voici le hic, et il est de taille : SynthID n'est pas un détecteur d'IA universel. Il ne signale que les contenus qui portent un filigrane SynthID. Un résultat vierge veut dire « aucun SynthID trouvé », pas « un humain a fait ça ».

Les autres systèmes de détection ont la même limite : ils ne vérifient généralement que les marques de leur propre fournisseur. Beaucoup de contenus IA sortent d'outils qui utilisent un autre filigrane, ou aucun. OpenAI a d'ailleurs construit son propre système, séparé, pour le texte.

Reste qu'un point d'entrée public pour vérifier les gros noms, c'est un vrai pas en avant. Avant, la vérification de provenance était éparpillée chez chaque éditeur. Maintenant, la tante sceptique avec sa photo louche a une seule adresse où aller.

Un résultat vierge veut dire qu'aucun SynthID n'a été trouvé, pas qu'un humain a fabriqué le truc.

Ce que ça change en Europe

L'Europe est le public tout désigné pour ce genre d'outil. Les règles de transparence et de provenance des contenus dans l'UE reposent précisément sur cette idée : des marques lisibles par les machines qui disent d'où vient un média. Un détecteur public d'un grand fournisseur montre ce que ça donne à grande échelle.

Il montre aussi les limites sur lesquelles les régulateurs vont se casser les dents. Une vérification de filigrane ne couvre que les fournisseurs participants, et le plafond quotidien en fait un outil de contrôle ponctuel, pas une chaîne de production de niveau rédaction. Attends-toi à le voir cité dans les débats européens sur ce que veut dire un étiquetage « suffisamment bon ».

Qu'est-ce que tu en fais

  • Vérifie les trucs bizarres.Passe l'image ou le clip viral suspect dans le détecteur avant de le partager.
  • Lis les résultats négatifs avec méfiance.Aucun filigrane trouvé veut seulement dire aucun SynthID : garde ton scepticisme habituel allumé.
  • Gère ton quota.Il faut un compte et on a environ 10 vérifications par jour, alors garde-les pour les fichiers qui comptent.
  • Cherche la version intégrée.Search, l'app Gemini et Chrome embarquent déjà la détection, donc tu n'auras peut-être même pas besoin du site.

Ciao, sapiens. Fais confiance, mais vérifie, puis vérifie le vérificateur.