Ce qui s'est passé
Google avait ajouté à Google Earth un outil qui permettait d'utiliser Nano Banana 2, son générateur d'images, pour fabriquer des images inventées directement dans l'appli satellite. L'argument de Google : être créatif, jouer avec la géographie.
L'outil fonctionnait par prompt, et les critiques ont relevé que pratiquement n'importe quelle image pouvait être posée par-dessus de vraies cartes. Sympa comme tour de magie en soirée, jusqu'à ce que quelqu'un poste le résultat comme s'il s'agissait d'une preuve.
Jeudi, un journaliste de la BBC a répondu avec un sarcasme appuyé. Son post rappelait que Google Earth est l'une des sources visuelles les plus fiables pour les reporters et les chercheurs, et se demandait ironiquement qui pourrait bien détourner un générateur d'images à cet endroit.
Google a vite reculé. Dans un communiqué, l'entreprise explique que des professionnels de la géospatiale utilisaient la fonction à diverses fins utiles. Elle ajoute que des gens partageaient des captures d'images générées qui semblent enfreindre ses règles.
Résultat : Google retire la fonction de Google Earth le temps de renforcer les garde-fous.
Pourquoi ça compte
Google Earth n'est pas un générateur de mèmes. Les reporters et les chercheurs s'en servent comme preuve visuelle de l'apparence d'un lieu. C'est précisément pour ça qu'une fausse image à l'intérieur pose plus de problèmes qu'une fausse image n'importe où ailleurs.
Ce rétropédalage montre à quelle vitesse tourne désormais la boucle du backlash. Lancement, capture d'écran, indignation, retrait. Tout le cycle a tenu dans un seul cycle d'actualité.
C'est aussi un petit exemple très net d'une tension plus large. La génération d'images par IA est vissée sur des produits en lesquels on a confiance pour les faits, et la confiance est la seule chose qu'on ne corrige pas avec une mise à jour mineure.
Justice rendue : Google a retiré la fonction vite, sans la défendre bec et ongles. Reste une question : pourquoi le risque n'était-il pas évident avant le lancement, alors qu'il a suffi d'un post sarcastique de journaliste pour l'énoncer ?
Qu'est-ce que tu en fais
- Vérifie les images de cartes.Si une capture satellite est ta preuve, recoupe-la avec une deuxième source indépendante avant de publier ou de partager.
- Contrôle la source, pas les pixels.Une capture d'écran d'une appli de confiance ne prouve rien sur ce qu'il y avait dedans : demande d'où vient vraiment l'image.
- Prépare un plan de retrait.Tu déploies des fonctions IA dans un produit de confiance ? Décide à l'avance comment tu en retirerais une en quelques heures, pas en quelques semaines.
- Surveille le retour.Google promet des garde-fous renforcés : juge le relancement sur les contrôles réellement livrés.
Ciao, sapiens. Fais confiance à la carte, doute de la capture d'écran, et garde ton propre sens de la géographie. Les machines en ont déjà un très créatif.


