Une auteure découvre des livres contrefaits générés par l’IA et écrits à son nom sur Amazon

En cherchant sur Amazon et Goodreads, l’auteure Jane Friedman a récemment découvert une demi-douzaine de listes de livres frauduleux utilisant son nom, probablement remplis de contenu indésirable ou généré par l’IA. Amazon et Goodreads ont tous deux résisté à la suppression des faux titres jusqu’aux plaintes de l’auteur devenu viral sur les réseaux sociaux.

Dans un article de blog intitulé « Je préférerais voir mes livres se faire pirater plutôt que ça (ou : pourquoi Goodreads et Amazon deviennent des incendies de bennes à ordures) », publié lundi, Friedman a détaillé sa lutte contre les livres contrefaits.

« Celui qui fait ça s’en prend manifestement aux écrivains qui font confiance à mon nom et pensent que j’ai écrit ces livres », a-t-elle écrit. « Je ne l’ai pas fait. Très probablement, ils ont été générés par l’IA. »

C’est un problème croissant dans un monde où les escrocs utilisent l’algorithme d’Amazon pour gagner rapidement de l’argent sur les ventes frauduleuses. En février, Reuters a créé un profil sur les auteurs utilisant ChatGPT pour écrire des livres électroniques, en les vendant via Amazon. En juin, Vice a signalé un afflux de dizaines de livres générés par l’IA remplis d’absurdités qui ont repris les listes de best-sellers Kindle.

Friedman, qui rend compte de l’industrie de l’édition de livres et est l’auteur de 10 livres, craint que les faux livres générés par l’IA et répertoriés en son nom n’aient un impact sur sa réputation. « Une personne raisonnable pourrait penser que je contrôle les livres affichés sur mon profil Goodreads, ou que je les approuve, ou à tout le moins que je pourrais les faire supprimer facilement. Ce n’est pas le cas. »

Il n’est pas facile de retirer les livres faussement attribués. Sur Goodreads, le processus exige que les auteurs contactent des « bibliothécaires » bénévoles, rejoignent des groupes spécifiques et publient dans des fils de commentaires pour demander la suppression de livres illégitimes. Même dans ce cas, rien ne garantit que les titres incriminés seront retirés rapidement. Friedman rapporte que Goodreads a supprimé les titres offensants de son profil d’auteur officiel quelques heures après la mise en ligne de son article de blog.

Lorsqu’elle a contacté Amazon pour obtenir de l’aide pour supprimer les titres de son profil d’auteur, Amazon a demandé des « numéros d’enregistrement de marque » relatifs à sa demande et, après avoir appris qu’elle n’avait pas de marque pour son nom, a clos le dossier sans supprimer le livres de la vente. Bien que les titres frauduleux aient finalement été supprimés d’Amazon après l’explosion de l’histoire, l’expérience de Friedman met en lumière le processus complexe que les auteurs doivent parcourir pour protéger leur nom et travailler en ligne.

Partie d’un problème plus large

Friedman n’est pas seul dans cette lutte. Sur le réseau de médias sociaux X (anciennement Twitter), l’auteur Jane Ward a déclaré qu’elle récemment découvert 29 titres sur Goodreads qui indiquaient à tort son nom comme auteur. Une autre auteure, Sarah Rose, tweeté« Les gens n’arrêtent pas de me dire qu’ils ont acheté mon dernier livre – qui porte mon nom dessus mais que je n’ai pas écrit – un escroc utilisant l’algorithme « trouver plus par cet auteur ». Mon éditeur n’a pas pu le faire arrêter et j’ai en quelque sorte abandonné. »

De nombreuses autres réponses sur Messages de Friedman sur le sujet suggèrent que l’usurpation d’identité par des vendeurs frauduleux est devenue un phénomène courant sur Goodreads et Amazon, frustrant de nombreux auteurs.

Dans un monde où l’IA générative pourrait potentiellement inonder nos canaux de communication de bruit – production créative automatisée de faible qualité en quantité illimitée – les plates-formes de vente ouvertes telles qu’Amazon n’ont pas encore compris comment résoudre le problème. Et l’IA générative n’est même pas nécessaire pour remplir les livres frauduleux de contenu. Sur X, historien Dean Grodzins a écrit« J’ai acheté une fois ce qu’Amazon a indiqué être une édition de poche de George Saunders Nager dans l’étang sous la pluie. Il s’avère que le vrai livre de poche n’était pas encore sorti; celui-ci avait la couverture du livre de Saunders mais un contenu sans rapport, extrait d’un site Web, sur la politique économique. »

Indépendamment de ce que contiennent les faux livres, la grande question est de savoir comment Amazon et Goodreads, deux sites majeurs qui atteignent des centaines de millions de clients, prévoient de protéger à la fois les auteurs et les clients contre la fraude et la mauvaise attribution.

« Nous avons désespérément besoin de garde-fous sur ce glissement de terrain de mauvaise attribution et de désinformation », a écrit Friedman dans son article de blog. « Amazon et Goodreads, je vous prie de créer un moyen de vérifier la paternité, ou pour que les auteurs bloquent facilement les livres frauduleux qui leur sont crédités. Faites-le maintenant, faites-le rapidement. »