ChatGPT est répertorié comme auteur ou co-auteur d’au moins 200 livres sur la boutique Kindle d’Amazon, selon Reuter. Cependant, le nombre réel de livres écrits par des robots est probablement beaucoup plus élevé que cela, car les politiques d’Amazon n’exigent pas explicitement que les auteurs divulguent leur utilisation de l’IA. C’est le dernier exemple d’écriture générée par l’IA inondant le marché et jouant un rôle dans la création de contenu éthiquement douteux depuis la sortie en novembre de l’outil gratuit d’OpenAI.
« Je pouvais voir des gens faire toute une carrière là-dessus », a déclaré Brett Schickler, un vendeur de Rochester, NY, qui a publié un livre pour enfants sur la boutique Kindle. « L’idée d’écrire un livre semblait enfin possible. » L’histoire auto-publiée de Schickler, Le sage petit écureuil : une histoire d’épargne et d’investissement, est une histoire pour enfants de 30 pages — écrite et illustrée par AI — se vendant 2,99 $ pour une copie numérique et 9,99 $ pour une version imprimée. Bien que Schickler affirme que le livre lui a rapporté moins de 100 $ depuis sa sortie en janvier, il n’a passé que quelques heures à le créer avec des invites ChatGPT comme « écrire une histoire sur un père enseignant à son fils la littératie financière ».
D’autres exemples de contenu créé par l’IA sur la boutique Kindle incluent une histoire pour enfants Le pouvoir des devoirsun recueil de poésie intitulé Échos de l’univers et une épopée de science-fiction sur un bordel interstellaire, Proxénète Galactique: Vol. 1.
« C’est quelque chose dont nous devons vraiment nous inquiéter, ces livres vont inonder le marché et beaucoup d’auteurs vont être au chômage », a déclaré Mary Rasenberger, directrice exécutive de la Guilde des auteurs. « Il doit y avoir de la transparence de la part des auteurs et des plateformes sur la façon dont ces livres sont créés, sinon vous allez vous retrouver avec beaucoup de livres de mauvaise qualité. »
Clarkesworld
Pendant ce temps, la publication de science-fiction Magazine Clarkesworld a temporairement interrompu les soumissions d’histoires courtes après avoir reçu un flot d’articles soupçonnés d’utiliser l’IA sans divulgation, comme l’a rapporté par PCMag. Bien que le rédacteur en chef Neil Clarke n’ait pas précisé comment il les avait identifiés, il a reconnu les histoires (prétendument) assistées par des robots en raison de « certains modèles très évidents ». « Ce que je peux dire, c’est que le nombre de soumissions de spam entraînant des interdictions a atteint 38% ce mois-ci », a-t-il déclaré. « Bien que rejeter et interdire ces soumissions ait été simple, cela se développe à un rythme qui nécessitera des changements. Pour aggraver les choses, la technologie ne fera que s’améliorer, donc la détection deviendra plus difficile.
Clarkesworld interdit actuellement les histoires « écrites, co-écrites ou assistées par l’IA », et la publication a interdit plus de 500 utilisateurs ce mois-ci pour avoir soumis du contenu suspecté assisté par l’IA. Clarkesworld paie 12 cents par mot, ce qui en fait une cible de choix. « D’après ce que je peux dire, ce n’est pas une question de crédibilité. Il s’agit de la possibilité de gagner rapidement de l’argent. C’est tout ce qui les intéresse », Clarke tweeté.
JASON REDMOND via Getty Images
Outre les problèmes éthiques liés à la transparence, il existe également des questions de désinformation et de plagiat. Par exemple, les bots IA, dont ChatGPT, Bing AI de Microsoft et Bard de Google, sont sujets aux « hallucinations », le terme utilisé pour diffuser de fausses informations en toute confiance. De plus, ils sont formés sur le contenu créé par l’homme – presque toujours à l’insu ou sans l’autorisation de l’auteur original – et utilisent parfois une syntaxe identique au matériel source.
Depuis l’année dernière, publication technique Crumpe a utilisé un modèle d’IA interne pour écrire au moins 73 explicateurs économiques. Malheureusement, mis à part l’approche initialement méfiante qui ne révélait qu’elle avait été écrite par AI si vous cliquiez sur la signature, elle comprenait également de nombreuses erreurs factuelles et une formulation presque identique des articles d’autres sites Web. Par conséquent, Crumpe a été contraint d’apporter des corrections importantes et de suspendre son utilisation de l’outil – cependant, l’un de ses sites frères a déjà au moins essayé de l’utiliser à nouveau.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.