Une nouvelle intitulée « Le dernier espoir » est arrivée pour la première fois sur le bureau de Sheila Williams début janvier. Williams, l’éditeur de La science-fiction d’Asimov magazine, a revu l’histoire et l’a transmise.
Au début, elle n’y pensait pas beaucoup; elle lit et répond quotidiennement aux écrivains dans le cadre de son travail, recevant entre 700 et 750 histoires par mois. Mais quand une autre histoire, également intitulée « Le dernier espoir », est arrivée quelques semaines plus tard par un écrivain avec un nom différent, Williams est devenu méfiant. Au moment où un autre « The Last Hope » arriva quelques jours plus tard, Williams sut immédiatement qu’elle avait un problème entre les mains.
« C’est comme la pointe de l’iceberg », dit Williams.
Depuis cette première soumission, Williams a reçu plus de 20 nouvelles toutes intitulées « Le dernier espoir », chacune provenant de noms d’auteurs et d’adresses e-mail différents. Williams pense qu’ils ont tous été générés à l’aide d’outils d’intelligence artificielle, ainsi que des centaines d’autres soumissions similaires qui ont submergé les petits éditeurs ces derniers mois.
d’Asimov a reçu environ 900 histoires pour examen en janvier et est sur la bonne voie pour en obtenir 1 000 ce mois-ci. Williams dit que presque toute l’augmentation peut être attribuée à des pièces qui semblent être générées par l’IA, et elle en a lu tellement qu’elle peut maintenant souvent dire dès les premiers mots si quelque chose n’a pas été écrit par un humain.
Parfois, ils n’ont même pas pris la peine de remplacer « [name] » avec les leurs
Outre la répétition des titres, certains noms de personnages ont tendance à apparaître souvent, dit Williams. Parfois, le manuscrit contiendra une différent titre que celui indiqué dans le formulaire en ligne. Les noms d’auteurs semblent souvent être des amalgames de prénoms et de noms de famille. Dans les lettres d’accompagnement facultatives, certains auteurs incluent des instructions sur la façon de leur virer de l’argent pour leur histoire qui n’a pas encore été acceptée. Parfois, l’auteur n’a même pas pris la peine de remplacer « [name]» avec les leurs.
En utilisant ChatGPT, Le bord a pu reproduire certains éléments des soumissions que Williams a vues. Une invite à écrire une courte histoire de science-fiction – plus des informations copiées-collées de d’Asimov directives de soumission – a produit des histoires avec des dizaines de titres similaires successivement, comme « The Last Echo », « The Last Message », « The Last Day of Autumn » et « The Last Voyager ».
Willams et son équipe ont appris à repérer les œuvres générées par l’IA, mais l’afflux de soumissions a tout de même été frustrant. Des points de vente comme d’Asimov sont submergés par les copains de l’IA, prennent le temps des éditeurs et des lecteurs et évincent potentiellement les soumissions authentiques des nouveaux écrivains. Et le problème ne pourrait que s’aggraver, car la plus grande disponibilité des robots d’écriture crée un nouveau genre de programmes d’enrichissement rapide, où les magazines littéraires avec des soumissions ouvertes se sont découverts sur le côté récepteur d’une nouvelle surface pour les soumissions spammées essayant de jouer. le système.
« En gros, je les parcoure aussi vite que possible », déclare Williams à propos des pièces qu’elle soupçonne d’être générées par l’IA. « Il faut le même temps pour télécharger une soumission, l’ouvrir et la regarder. Et je préfère passer ce temps sur les soumissions légitimes.
Pour certains éditeurs, l’afflux de soumissions générées par l’IA les a forcés à cesser d’accepter de nouveaux travaux.
Clarke pense que les soumissions proviennent d’influenceurs et de sites Web « side hustle »
La semaine dernière, le célèbre magazine de science-fiction Clarkesworld annoncé cela fermerait temporairement les soumissions en raison d’un flot de travaux générés par l’IA. Dans un article de blog précédent, le rédacteur en chef Neil Clarke avait noté que le magazine avait été contraint d’interdire un nombre croissant d’auteurs parce qu’ils avaient soumis des articles générés à l’aide d’outils automatisés. Rien qu’en février, Clarkesworld avait reçu 700 soumissions écrites par des humains et 500 histoires générées par des machines, dit Clarke.
Clarke pense que les soumissions de spam proviennent de personnes cherchant à gagner rapidement de l’argent et qui ont trouvé Clarkesworld et d’autres publications par le biais d’influenceurs et de sites Web « side hustle ». Un site Web, par exemple, est chargé d’articles d’appât SEO et de mots-clés autour du marketing, de l’écriture et des affaires et promet d’aider les lecteurs à gagner de l’argent rapidement. Un article sur le site répertorie près de deux douzaines de magazines littéraires et de sites Web, dont Clarkesworld et d’Asimov, ainsi que des points de vente plus importants comme la BBC — avec le taux de rémunération et les détails de soumission. L’article encourage les lecteurs à utiliser des outils d’IA pour les aider et inclut des liens de marketing d’affiliation vers Jasper, un logiciel d’écriture d’IA.
La plupart des publications paient de petits tarifs au mot, environ 8 à 10 cents, tandis que d’autres paient des frais fixes allant jusqu’à quelques centaines de dollars pour les pièces acceptées. Dans son blog, Clarke a écrit qu’un « pourcentage élevé de soumissions frauduleuses » provenait de certaines régions, mais a refusé de les nommer, craignant que cela puisse dépeindre les écrivains de ces pays comme des arnaques.
Mais la possibilité d’être payé est un facteur : dans certains cas, Clarke a correspondu avec des personnes qui ont été bannies pour avoir soumis des travaux générés par l’IA, disant qu’elles avaient besoin d’argent. Un autre éditeur a dit Le bord que même avant les histoires générées par l’IA, ils recevaient des soumissions et des courriels d’écrivains dans des pays où le coût de la vie est plus bas et où les frais de publication de 80 $ vont beaucoup plus loin qu’aux États-Unis.
Clarke, qui a construit le système de soumission utilisé par son magazine, a décrit les efforts des spammeurs d’histoires d’IA comme « inélégants » – en comparant les notes avec d’autres éditeurs, Clarke a pu voir que le même travail était soumis depuis la même adresse IP à plusieurs publications. à quelques minutes d’intervalle, souvent dans l’ordre d’apparition des magazines sur les listes.
« Si c’étaient des gens de l’intérieur du [science fiction and fantasy] communauté, ils sauraient que cela ne fonctionnerait pas. Il serait immédiatement évident pour eux qu’ils ne pouvaient pas faire cela et qu’ils s’attendaient à ce que cela fonctionne », déclare Clarke.
La question s’étend au-delà des publications de science-fiction et de fantasy. Fiction Flash en ligne accepte une gamme de genres, y compris l’horreur et la fiction littéraire. Le 14 février, le média a joint un avis à son formulaire de soumission : « Nous nous engageons à publier des histoires écrites et éditées par des humains. Nous nous réservons le droit de rejeter toute soumission que nous soupçonnons d’être principalement générée ou créée par un logiciel de modélisation de langage, ChatGPT, des robots de discussion ou toute autre application, robot ou logiciel d’IA.
Les termes mis à jour ont été ajoutés à peu près au moment où FFO a reçu plus de 30 soumissions d’une seule source en quelques jours, explique Anna Yeatts, éditrice et co-rédactrice en chef. Chaque histoire a frappé des clichés que Yeatts avait vus dans le travail généré par l’IA, et chacune avait une lettre de motivation unique, structurée et écrite contrairement à ce que la publication voit normalement. Mais Yeatts et ses collègues soupçonnaient depuis janvier que certains travaux qui leur avaient été envoyés avaient été créés à l’aide d’outils d’IA.
Yeatts avait joué avec ChatGPT à partir de décembre, alimentant les invites de l’outil pour produire des histoires de genres spécifiques ou dans des styles comme la romance gothique. Le système a pu reproduire les éléments techniques, y compris l’établissement des personnages principaux et la mise en place et l’introduction de conflits, mais n’a pas réussi à produire de «point de vue profond» – les fins étaient trop soignées et parfaites, et les émotions se sont souvent transformées en mélodrame. Tout le monde a des «yeux verts perçants» et les histoires s’ouvrent souvent avec des personnages assis. Parmi les plus de 1 000 œuvres FFO a reçu cette année, Yeatts estime qu’environ 5% ont probablement été générés par l’IA.
« Nous avons mis ce petit avertissement effrayant [on the submissions page]», dit Yeatts. L’appliquer, cependant, pourrait s’avérer difficile.
Dans le passé, FFO a publié des travaux grand public qui ont un style d’écriture plus conventionnel et une voix accessible à une gamme de niveaux de lecture. Pour cela, Yeatts affirme que les histoires générées à l’aide d’outils d’IA pourraient dépasser les exigences de base.
«Il contient toutes les parties de l’histoire que vous essayez de rechercher. Il a un début, un milieu et une fin. Il a une résolution, des caractères. La grammaire est bonne », dit Yeatts. L’équipe FFO s’efforce de former les lecteurs du personnel à rechercher certains éléments de l’histoire lorsqu’ils effectuent un premier passage lors des soumissions.
« Nous n’avons vraiment pas de bonnes solutions. »
Yeatts craint qu’une vague croissante de travaux générés par l’IA ne puisse littéralement exclure le travail écrit. Le point de vente utilise Submittable, un service de soumission populaire, et FFO‘s plan qui inclut un plafond mensuel sur les histoires, après quoi le portail se ferme. Si des centaines de personnes envoient des travaux générés par l’IA inéligibles, cela pourrait empêcher les auteurs humains d’envoyer leurs histoires.
Yeatts n’est pas sûr de ce que le magazine peut faire pour empêcher les histoires de venir. La mise à niveau du plan Submittable serait coûteuse pour FFOqui fonctionne « avec un budget restreint », dit Yeatts.
« Nous avons parlé de solliciter des histoires d’autres auteurs, mais cela ne correspond pas vraiment à qui nous sommes en tant que publication, car cela va dissuader les nouveaux écrivains », déclare Yeatts. « Nous n’avons vraiment pas de bonnes solutions. »
D’autres membres de la communauté surveillent le problème qui submerge les autres éditeurs et réfléchissent à des moyens d’y répondre avant qu’il ne se propage davantage. Matthew Kressel, écrivain de science-fiction et créateur de Moksha, un système de soumission en ligne utilisé par des dizaines de publications, dit qu’il a commencé à entendre des clients qui ont reçu des soumissions de spam qui semblent avoir été écrites à l’aide d’outils d’IA.
Kressel dit qu’il veut garder Moksha « agnostique » en ce qui concerne la valeur des soumissions générées à l’aide de chatbots. Les éditeurs ont la possibilité d’ajouter une case à cocher où les auteurs peuvent confirmer que leur travail n’utilise pas de systèmes d’IA, dit Kressel, et envisage d’ajouter une option pour les publications qui leur permettrait de bloquer ou de limiter partiellement les soumissions à l’aide d’outils d’IA.
« Permettre aux auteurs de s’affirmer si le travail est généré par l’IA est un bon premier pas », a déclaré Kressel. Le bord par email. « Cela offre plus de transparence à l’ensemble, car il y a actuellement beaucoup d’incertitudes. »
Pour Williams, l’éditeur de d’Asimov, être obligée d’utiliser son temps pour passer au crible la pile de déchets générés par l’IA est frustrante. Mais ce qui est encore plus inquiétant, c’est que de nouveaux auteurs légitimes pourraient voir ce qui se passe et penser que les éditeurs n’arriveront jamais à leur manuscrit.
« Je ne veux pas que les écrivains s’inquiètent du fait que je vais manquer leur travail parce que je suis inondé de bric-à-brac », déclare Williams. Les bonnes histoires sont évidentes très tôt. « L’esprit qui crée l’histoire intéressante n’est pas en danger. »