Après les images et l’audio*, OpenAI commence à tatouer le texte que génèrent ses LLM.

Le déploiement initial est en opt-in sur l’API. « Dans les prochaines semaines », il s’étendra à ChatGPT et à Codex… dans l’Union européenne.

En toile de fond, l’AI Act. Le règlement impose aux systèmes d’IA mis sur le marché avant le 2 août 2026 de marquer les contenus qu’ils génèrent. Les fournisseurs concernés ont jusqu’au 2 décembre 2026 pour se mettre en conformité.

L’UE considère qu’aucune technique ne satisfait pour l’instant aux 4 critères qu’énonce l’AI Act (efficacité, interopérabilité, robustesse, fiabilité). Elle suggère donc d’en combiner, en priorisant métadonnées signées et filigrane invisible.

Le texte libre ne pouvant transporter de métadonnées, une couche unique est considérée comme suffisante. Certains éléments sont hors champ :

Courtes séquences de nombres, symboles ou lettres

Code source

Sorties traitées uniquement en M2M, sans exposition à des humains

Sorties utilisées en boucle fermée dans un contexte industriel ou de développement produit (exemple : production d’un film)

Pour compenser la fiabilité potentiellement moindre du tatouage de texte libre, les fournisseurs concernés peuvent restreindre à des utilisateurs experts l’accès à la solution de détection correspondante. Celle-ci peut être mise à disposition sous forme de spécification, de logiciel (exécutable ou bibliothèque) ou de service par API.

Un problème de transport optimal et du traitement par blocs

OpenAI a donc choisi la dernière option. Il promet toutefois, sans donner d’échéance, une publication en source ouverte. Sa technologie, dite textGrain, biaise légèrement le choix des tokens en utilisant une clé secrète qu’elle combine au texte précédent.

Pour trouver le juste milieu entre insertion de ce signal traçable et préservation de la diversité des réponses générées, le problème est modélisé sous forme de couplage statistique via le transport optimal. Pour ne pas avoir à résoudre ce problème sur l’intégralité du vocabulaire du LLM à chaque mot, textGrain découpe ce vocabulaire en blocs de tokens. Puis applique le transport optimal pour choisir le bloc en fonction de la clé.

OpenAI affirme que cette technologie atteint voire dépasse la performance des autres approches qu’il a testées. Dont SynthID. Il en reconnaît toutefois les limites. Par exemple, sur des passages de 400 tokens, remplacer 10 % des mots par des synonymes fait baisser le taux de détection de 92 % à 66 %. En remplacer le quart réduit ce taux à 17 %.

La détection est moins efficace sur des passages courts (80 % sur 200 tokens à un taux cible de faux positifs de 1 %). Elle l’est aussi sur les domaines où les modèles ont moins de liberté pour altérer leurs outputs, comme les maths.

* Pour l’image et l’audio, OpenAI a déjà un outil web et l’API Content Provenance, accessibles au public.

Illustration générée par IA

The post OpenAI bute sur le tatouage des sorties texte appeared first on Silicon.fr.