Mise en œuvre dans le cadre des règles européennes

OpenAI a annoncé le 5 octobre qu'elle introduira des filigranes textuels invisibles dans les sorties de ChatGPT et Codex dans l'Union européenne au cours des prochaines semaines. Cette décision répond à l'article 50 du règlement européen sur l'intelligence artificielle, entré en vigueur le 2 août, qui impose aux fournisseurs d'intelligence artificielle générative de marquer les contenus synthétiques dans un format lisible par machine. Les clients utilisant l'interface de programmation d'OpenAI peuvent activer le filigrane immédiatement pour certains modèles. Alors que son concurrent Anthropic a introduit un marquage textuel à l'échelle mondiale en août sur ses modèles Claude, OpenAI limite son déploiement automatisé aux utilisateurs de l'Union européenne le temps d'évaluer les performances avant de décider d'une généralisation.

La technologie, baptisée textGrain, intervient pendant la génération des tokens plutôt que d'ajouter des balises visibles, des caractères unicode cachés ou des espaces supplémentaires. Les grands modèles de langage calculent des distributions de probabilité pour les tokens suivants (mots, sous-mots ou signes de ponctuation). TextGrain ajuste subtilement ces probabilités statistiques selon un schéma mathématique secret afin de favoriser certains choix de tokens. OpenAI a expliqué l'objectif de ce système de traçage dans un communiqué officiel.

La provenance des contenus aide les gens à comprendre d'où ils viennent, comment ils ont été créés ou modifiés, et s'ils contiennent des signaux associés à nos modèles.

Mécanismes de détection et contraintes techniques

Un détecteur spécialisé analyse des passages de texte pour repérer les régularités statistiques créées par le modèle. Changer la police, copier des passages ou coller du texte brut ne supprime pas le filigrane, car le schéma réside dans la séquence spécifique des mots. OpenAI affirme que textGrain égale ou dépasse les méthodes alternatives, notamment Google SynthID-Text. En outre, les tests internes de l'entreprise indiquent que la génération filigranée ne réduit pas la qualité des réponses, répondant aux inquiétudes exprimées par les utilisateurs lors de l'introduction des filigranes d'Anthropic sur Claude.

Les outils de détection se heurtent à des limites techniques. Les textes courts contiennent moins de tokens, ce qui rend l'identification statistique difficile. Les altérations telles que la reformulation, la modification manuelle de phrases et la traduction d'une langue à l'autre dégradent ou détruisent le schéma intégré. Le détecteur peut produire des faux positifs en identifiant à tort une écriture humaine comme synthétique, ainsi que des faux négatifs en manquant des passages générés par IA. OpenAI a restreint l'accès au détecteur aux chercheurs et organisations expertes agréés pendant la phase de test. Le filigrane n'identifie pas l'utilisateur spécifique, n'enregistre pas le degré d'édition humaine et ne certifie ni l'exactitude factuelle ni la propriété du contenu.

Échéances réglementaires et concurrence sectorielle

Le règlement européen sur l'intelligence artificielle a établi des normes de transparence pour l'IA générative le 2 août, avec une échéance de conformité transitoire au 2 décembre 2026 pour les modèles mis sur le marché avant cette date. L'expert technologique Bert Hubert note que la concurrence commerciale accélère l'adoption dans l'ensemble du secteur.

Sinon, en tant qu'entreprise, vous devez presque expliquer pourquoi vous ne disposez pas de cette fonctionnalité, ce qui peut nuire à votre processus de vente.

Bert Hubert explique que les marqueurs lisibles par machine pourraient aider les systèmes de sécurité à intercepter des documents trompeurs, comme des courriels de facturation frauduleux provenant de fournisseurs d'énergie usurpés. Anthropic a précédemment appliqué les normes ouvertes C2PA en plus de signatures statistiques, tandis que Google a publié des recherches sur son cadre SynthID-Text dans Nature en 2024.