OpenAI a publié un outil pour vous aider à déterminer si le texte a été plus probablement écrit par un humain ou une IA. Cependant, le fabricant de ChatGPT prévient que son équivalent de Coureur de lameLe test de Voight-Kampff peut également se tromper.
L’outil comprend une zone dans laquelle vous pouvez coller du texte d’au moins 1 000 caractères. Il crachera alors un verdict, comme « Le classificateur considère que le texte est très peu susceptible d’être généré par l’IA » ou « Le classificateur considère que le texte est peut-être généré par l’IA ».
Je l’ai testé en demandant à ChatGPT d’écrire un essai sur les schémas migratoires des oiseaux, que l’outil de détection a ensuite décrit comme « probablement généré par l’IA ». Pendant ce temps, il a classé plusieurs articles écrits par des humains comme « très peu probables générés par l’IA ». Ainsi, bien que l’outil puisse déclencher de faux drapeaux dans les deux sens, mon test (taille d’échantillon minuscule) suggère au moins un degré de précision. Néanmoins, OpenAI met en garde de ne pas utiliser l’outil seul pour déterminer l’authenticité du contenu ; il fonctionne également mieux avec un texte de 1 000 mots ou plus.
La startup a fait face à la pression des éducateurs après la sortie en novembre de son outil ChatGPT, qui produit du contenu écrit par l’IA qui peut parfois passer pour une écriture humaine. Le modèle de langage naturel peut créer des essais en quelques secondes sur la base de simples invites textuelles – même en réussissant un examen de commerce et de droit – tout en offrant aux étudiants une nouvelle opportunité de tricherie tentante. En conséquence, les écoles publiques de New York ont interdit le bot de leurs réseaux WiFi et appareils scolaires.
OpenAI
Alors que l’arrivée de ChatGPT a été un sujet à la mode ces derniers temps, s’étendant même aux médias désireux d’automatiser les articles optimisés pour le référencement, le bot est une grosse affaire pour OpenAI. La société aurait obtenu un investissement de 10 milliards de dollars plus tôt ce mois-ci auprès de Microsoft, qui prévoit de l’intégrer à Bing et Office 365. OpenAI aurait discuté de la vente d’actions à une valorisation de 29 milliards de dollars à la fin de l’année dernière, ce qui en ferait l’une des startups américaines les plus précieuses. .
Bien que ChatGPT soit actuellement le meilleur modèle d’IA en langage naturel accessible au public, Google, Baidu et d’autres travaillent sur des concurrents. Le LaMDA de Google est suffisamment convaincant pour qu’un ancien chercheur ait abandonné son travail chez le géant de la recherche l’année dernière en affirmant que le chatbot était sensible. (La tendance humaine à projeter les sentiments et la conscience sur les algorithmes est un concept dont nous entendrons probablement beaucoup parler dans les années à venir.) Google n’a publié que des versions extrêmement restreintes de son chatbot en version bêta, probablement par souci d’éthique. Avec le génie sorti de la bouteille, il sera intéressant de voir combien de temps durera cette retenue.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.