LinkedIn·Friday, 21 August 2026·5d ago

Filigranes dans l’IA : transparence ou assurance-vie des modèles ? La présentation du 14 août 26 des filigranes intégrés aux textes générés…

Jean-Marc Andre

Training | Tailor made AI | Open Source AI

Filigranes dans l’IA : transparence ou assurance-vie des modèles ? La présentation du 14 août 26 des filigranes intégrés aux textes générés par Claude a fait beaucoup de bruit. Alors qu'ils se basent sur le mécanisme SynthID en place chez Gemini depuis 2024 ! Pourtant, le problème est plus ancien : depuis plusieurs années, chercheurs et régulateurs cherchent à rendre les contenus synthétiques identifiables. La première raison est juridique. L’article 50 de l’AI Act demande aux fournisseurs de rendre les textes, images, sons et vidéos générés par IA identifiables dans un format lisible par machine. Mais l’enjeu dépasse la réglementation, il pourrait aussi contribuer à préserver la qualité du Web et à protéger les futurs modèles contre une alimentation incontrôlée en données synthétiques. Le Web est à la fois la bibliothèque dans laquelle les IA apprennent et l’espace où elles publient leurs productions. Si de futurs modèles sont entraînés sans discernement sur des contenus synthétiques, ils risquent d’amplifier leurs propres erreurs et de perdre progressivement la diversité des données humaines. C’est le phénomène d’« effondrement des modèles » ou model collapse. Les filigranes pourraient donc aider les moteurs de recherche, les plateformes et les concepteurs de jeux de données à signaler, filtrer ou pondérer différemment les contenus générés par IA. Hélas ils ne constituent pas une preuve absolue. Une paraphrase peut altérer le filigrane d’un texte, tandis que des métadonnées peuvent disparaître lors d’un partage ou d’une conversion. La réponse n’est donc pas binaire : Faut-il alors les considérer comme une simple indication de provenance, ou comme un futur critère de classement et d’entraînement ? Article complet en commentaires. #IntelligenceArtificielle #AIAct #Watermarking