Suite à un rapport de Le journal de Wall Street qui affirme qu’OpenAI a développé un outil capable de repérer les essais rédigés par ChatGPT avec un degré élevé de précision, la société a partagé quelques informations sur ses recherches sur le filigrane de texte – et pourquoi elle n’a pas publié sa méthode de détection. Le journal de Wall StreetSelon le rapport de , le débat sur la question de savoir si l’outil devrait être publié l’a empêché de voir le jour, bien qu’il soit « prêt ». Dans une mise à jour publiée dimanche sur un article de blog de mai, repérée par TechCrunchOpenAI a déclaré : « Nos équipes ont développé une méthode de filigrane de texte que nous continuons à prendre en compte dans nos recherches d’alternatives. »
L’entreprise a déclaré que le tatouage numérique est l’une des nombreuses solutions, y compris les classificateurs et les métadonnées, qu’elle a étudiées dans le cadre de « recherches approfondies sur le domaine de la provenance des textes ». Selon OpenAI, il « s’est avéré très précis » dans certaines situations, mais ne fonctionne pas aussi bien face à certaines formes de falsification, « comme l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif ou la demande au modèle d’insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère ». Et le tatouage numérique pourrait « avoir un impact disproportionné sur certains groupes », a écrit OpenAI. « Par exemple, il pourrait stigmatiser l’utilisation de l’IA comme outil d’écriture utile pour les locuteurs non natifs de l’anglais ».
Selon le billet de blog, OpenAI a évalué ces risques. La société a également écrit qu’elle avait donné la priorité à la publication d’outils d’authentification pour le contenu audiovisuel. Dans une déclaration à TechCrunchun porte-parole d’OpenAI a déclaré que la société adopte une « approche délibérée » en matière de provenance des textes en raison de « la complexité impliquée et de son impact probable sur l’écosystème plus large au-delà d’OpenAI ».