Filigrane de contenu généré

Nature, 23 octobre 2024 : Google DeepMind publie SynthID-Text, un filigrane qui biaise le tirage des mots, et en ouvre le code. Le procédé a été éprouvé en production sur près de 20 millions de réponses de Gemini, sans écart de qualité perçu par les utilisateurs. Deux familles de techniques répondent à la même question sans se confondre. Le filigrane insère dans le contenu lui-même un signal statistique invisible, qu'un détecteur retrouve. La provenance attache au fichier des métadonnées signées cryptographiquement, qui décrivent sa fabrication et ses modifications successives. Sur le papier, la seconde approche est plus solide, puisqu'elle repose sur une signature. En pratique, elle est fragile : une capture d'écran ou une recompression détruit les métadonnées. Le filigrane survit à ces manipulations, mais cède devant une attaque délibérée. Aucune ne règle donc le problème seule, et leur combinaison est la seule voie sérieuse. Le règlement européen impose aux fournisseurs de systèmes qui génèrent des contenus de synthèse un marquage lisible par machine, et aux déployeurs une obligation d'information pour les trucages profonds. La limite tient à la nature même de ces outils : ils prouvent qu'un contenu a été généré, jamais qu'un contenu non marqué est authentique.