OpenAI dispose depuis environ un an d’un système de filigranage du texte créé par ChatGPT et d’un outil permettant de détecter le filigrane, rapports Le journal de Wall Street. Mais l’entreprise est divisée en interne sur la question de savoir si elle doit publier cette information. D’un côté, cela semble être la chose responsable à faire ; de l’autre, cela pourrait nuire à ses résultats financiers.
Le filigranage d’OpenAI est décrit comme un ajustement de la façon dont le modèle prédit les mots et les phrases les plus probables qui suivront les précédents, créant ainsi un modèle détectable. (C’est une simplification, mais vous pouvez consulter l’explication plus approfondie de Google sur le filigranage de texte de Gemini pour en savoir plus).
Offrir un moyen de détecter le contenu écrit par l’IA est une aubaine potentielle pour les enseignants qui tentent de dissuader les étudiants de confier leurs devoirs d’écriture à l’IA. Journal Selon un rapport de l’entreprise, le filigrane n’a pas affecté la qualité de la sortie de texte de son chatbot. Dans une enquête commandée par l’entreprise, « les gens du monde entier ont soutenu l’idée d’un outil de détection d’IA dans une proportion de quatre contre un », Journal écrit.
Après le Journal a publié son article, OpenAI a confirmé qu’il travaillait sur le filigranage de texte dans un mise à jour du blog aujourd’hui c’était repéré par TechCrunch. Dans ce document, l’entreprise affirme que sa méthode est très précise (« efficace à 99,9 % », selon les documents de l’entreprise). Journal saw) et résistant à la « falsification, telle que la paraphrase ». Mais elle affirme que des techniques telles que la reformulation avec un autre modèle rendent « trivial le contournement par des acteurs malveillants ». L’entreprise se dit également préoccupée par la stigmatisation de l’utilité des outils d’IA pour les locuteurs non natifs.
Mais il semble qu’OpenAI soit également inquiet du fait que l’utilisation du filigrane puisse rebuter les utilisateurs de ChatGPT interrogés, près de 30 % d’entre eux ayant manifestement déclaré à l’entreprise qu’ils utiliseraient moins le logiciel si le filigrane était mis en œuvre.
Malgré cela, certains employés estiment encore que le tatouage numérique est efficace. Cependant, à la lumière des sentiments persistants des utilisateurs, Journal Selon certains, il faudrait essayer des méthodes « potentiellement moins controversées parmi les utilisateurs, mais non éprouvées ». Dans la mise à jour de son billet de blog publié aujourd’hui, la société a déclaré qu’elle en était aux « premiers stades » de l’exploration de l’intégration des métadonnées. Elle a ajouté qu’il était encore « trop tôt » pour savoir dans quelle mesure cela fonctionnerait, mais que comme il s’agissait d’une signature cryptographique, il n’y aurait pas de faux positifs.