La science-fiction devient réelle alors qu’un magazine renommé ferme les soumissions en raison des auteurs d’IA

L’un des effets secondaires des machines de création de contenu illimitées – l’IA générative – est un contenu illimité. Lundi, le rédacteur en chef de la célèbre publication de science-fiction Clarkesworld Magazine annoncé qu’il avait temporairement fermé les soumissions d’histoires en raison d’une augmentation massive des histoires générées par la machine envoyées à la publication.

Dans un graphique partagé sur Twitter, Neil Clarke, rédacteur en chef de Clarkesworld, a compté le nombre d’écrivains interdits soumettant des histoires plagiées ou générées par des machines. Les chiffres ont totalisé 500 en février, contre un peu plus de 100 en janvier et une faible base d’environ 25 en octobre 2022. L’augmentation des soumissions interdites coïncide à peu près avec la sortie de ChatGPT le 30 novembre 2022.

Les grands modèles de langage (LLM) tels que ChatGPT ont été formés sur des millions de livres et de sites Web et peuvent rapidement créer des histoires originales. Cependant, ils ne fonctionnent pas de manière autonome et un humain doit guider leur sortie avec une invite que le modèle d’IA tente ensuite de compléter automatiquement.

Depuis 2006, Clarkesworld a publié des auteurs de science-fiction renommés et a remporté plusieurs prix Hugo. Parmi les publications de science-fiction, il est bien connu pour avoir un processus de soumission ouvert et paie généralement 12 cents par mot. Sur sa page de soumissions, la publication déclare: « Nous n’envisageons pas d’histoires écrites, co-écrites ou assistées par AI pour le moment. » Cependant, cela n’a pas empêché le nombre de soumissions d’augmenter considérablement, et Clarke l’attribue principalement aux programmes pour devenir riche rapidement.

« Les personnes à l’origine du problème ne font pas partie de la communauté SF/F », écrit Clarke dans un tweet. « Largement poussés par des experts en ‘side hustle’ qui revendiquent de l’argent facile avec ChatGPT. Ils sont à l’origine de cela et méritent une partie du dédain envers les développeurs d’IA. »

Au moment de mettre sous presse, une recherche rapide sur YouTube pour des termes tels que « devenir riche avec ChatGPT » et « gagner de l’argent en écrivant avec ChatGPT » a donné de nombreux résultats, bien que nous n’ayons pas identifié de vidéo pointant vers Clarkesworld en particulier.

Le problème du contenu créé par l’IA n’est pas propre à Clarkesworld. Mardi, Reuters a rédigé un rapport sur la montée en puissance des livres électroniques générés par l’IA sur Amazon. Reuters a identifié plus de 200 livres électroniques sur la boutique Kindle d’Amazon qui répertorient ChatGPT comme auteur ou co-auteur.

L’afflux de contenu généré par l’IA a laissé Clarkesworld dans une position délicate en essayant de maintenir la barre de soumission suffisamment haute pour éloigner les spammeurs, mais pas si haut qu’elle décourage les écrivains non découverts ou les écrivains de certaines régions du monde qui pourraient être injustement visés par des interdictions géographiques. Dans un série de tweetsClarke a expliqué sa situation:

Nous n’avons pas de solution au problème. Nous avons quelques idées pour le minimiser, mais le problème ne disparaît pas. Les détecteurs ne sont pas fiables. Payer pour soumettre sacrifie trop d’auteurs légitimes. Les soumissions imprimées ne sont pas viables pour nous. Divers outils tiers de confirmation d’identité sont plus chers que les magazines ne peuvent se le permettre et ont tendance à avoir des trous régionaux. Les adopter reviendrait à interdire des pays entiers.

Nous pourrions facilement mettre en place un système qui n’autorise que les auteurs qui nous ont déjà soumis des travaux. Cela reviendrait effectivement à interdire les nouveaux auteurs, ce qui n’est pas acceptable. Ils sont une partie essentielle de cet écosystème et de notre avenir.

Il convient de rappeler que jusqu’à présent, les outils censés détecter le texte écrit par les LLM ont de faibles taux de précision (renvoyant souvent des faux positifs lorsqu’ils sont testés avec du texte écrit par l’homme), ils ne constituent donc pas actuellement une solution viable. Malgré ces problèmes, Clarke dit que le magazine ne ferme pas et que les soumissions reprendront ultérieurement. Mais pour l’instant, la voie à suivre n’est pas claire.

« Cela ne va pas simplement disparaître tout seul et je n’ai pas de solution », a écrit Clarke dans un article de blog mercredi dernier. « Je bricole avec certains, mais ce n’est pas un jeu de taupe que n’importe qui peut ‘gagner’. Le mieux que nous puissions espérer est d’écoper suffisamment d’eau pour rester à flot. » En attendant, Clarke encourage ceux qui veulent soutenir le magazine à s’abonner.