Alors que l’intelligence artificielle a longtemps fait l’objet d’écritures de science-fiction populaires, aujourd’hui, c’est l’écriture. Cela cause un peu de mal de tête aux rédacteurs en chef du célèbre magazine de science-fiction et de fantasy, Clarkesworld (s’ouvre dans un nouvel onglet). Le magazine a mis un terme aux nouvelles soumissions de nouvelles en raison d’une augmentation spectaculaire du spam, principalement liée à une augmentation de la popularité des chatbots, tels que ChatGPT.
Nous ne parlons pas d’IA sensibles avec des corps humanoïdes marchant parmi nous, ou d’ordinateurs tout-puissants avec des émotions humaines obsédantes qui tournent mal – ceux dont on parle dans la science-fiction bien avant que ce ne soit cool et qui apparaissent régulièrement sur les couvertures de Clarkesworld. Mais même les algorithmes de génération de texte d’aujourd’hui causent des maux de tête aux éditeurs.
Clarkesworld paie pour les soumissions qui sont acceptées dans le magazine. Les frais sont basés sur le nombre de mots à 12 ¢ par mot, ce qui signifie que les soumissions plus longues, si elles sont acceptées, pourraient rapporter une somme en espèces raisonnable.
Les auteurs qui espèrent entrer dans le magazine peuvent soumettre toutes sortes de travaux pour examen, bien qu’il y ait quelques règles clés à suivre. Il n’est pas facile de publier votre histoire dans le magazine, car de nombreuses personnes talentueuses souhaitent le faire. La règle la plus importante à noter ici est que Clarkesworld est « ne pas considérer les histoires écrites, co-écrites ou assistées par l’IA pour le moment. »
Mais cela n’a pas empêché les gens d’essayer.
« Depuis les premiers jours de la pandémie, j’ai observé une augmentation du nombre de soumissions de spam à Clarkesworld », écrit Neil Clarke, rédacteur en chef de Clarkesworld dans un article de blog. (s’ouvre dans un nouvel onglet) « … Jusqu’à récemment, il s’agissait presque uniquement de cas de plagiat, d’abord en remplaçant le nom de l’auteur, puis plus tard en utilisant des programmes conçus pour ‘le faire vôtre’.
« Ces cas étaient souvent faciles à repérer et suffisamment peu fréquents pour ne constituer qu’une nuisance mineure. Parfois, cela reprenait pendant un mois ou deux, mais la croissance globale était très lente et le nombre de cas restait faible. »
Ensuite, les chatbots AI sont devenus un outil accessible au public, ce qui a été attribué à un pic massif de tentatives de spam sur le site Web depuis.
« Vers la fin de 2022, il y a eu un autre pic de plagiat, puis les chatbots » IA « ont commencé à attirer l’attention, mettant un nouvel outil dans leur arsenal et encourageant davantage à essayer cette » agitation secondaire « . C’est rapidement devenu incontrôlable . »
Un premier graphique élaboré par Clarke a d’abord montré l’ampleur du problème. Les entrées depuis le 15 février avaient déjà éclipsé celles de janvier, et le nombre de spams de janvier rendait déjà la majeure partie de 2022 dérisoire en comparaison. Dans une mise à jour ultérieure, Clarke a publié un graphique mis à jour à partir du 20 février, dans lequel le nombre de soumissions a tellement augmenté qu’il a amené Clarke à fermer temporairement les soumissions.
Il existe « certains modèles très évidents » qui sont des signes révélateurs d’une soumission écrite par un chatbot, note Clarke, mais ils refusent d’entrer dans les détails.
« Je n’ai aucune intention d’aider ces personnes à devenir moins susceptibles d’être prises », déclare Clarke.
« Bien que le rejet et l’interdiction de ces soumissions aient été simples, cela augmente à un rythme qui nécessitera des changements. Pour aggraver les choses, la technologie ne fera que s’améliorer, donc la détection deviendra plus difficile. »
Pour une petite équipe éditoriale (ou vraiment n’importe quelle équipe éditoriale), il n’y a pas de réponse évidente sur la façon de gérer un afflux soudain de soumissions aussi massives. Cela pourrait blesser les auteurs qui soumettent des articles de bonne foi et sans enfreindre les règles du magazine.
« Il est clair que le statu quo ne sera pas durable et je crains que cette voie ne conduise à une augmentation du nombre d’obstacles pour les auteurs nouveaux et internationaux. La fiction courte a besoin de ces personnes.
« Si le terrain ne peut pas trouver un moyen de remédier à cette situation, les choses vont commencer à se casser. »
Quelles que soient vos réflexions sur ces chatbots et autres outils d’IA, il ne fait aucun doute qu’ils ont changé le nombre de personnes qui travaillent et créent du jour au lendemain. Il n’y a pas de retour en arrière sur cette technologie, mais nous n’avons pas encore de réponses sur le nombre de personnes susceptibles de faire face à ce que le contenu généré par l’IA pourrait toujours signifier dans le monde réel, ou sur la manière dont nous pourrions devoir nous adapter pour y faire face. J’ai le sentiment que tout travail basé sur des soumissions sur le Web devra tôt ou tard officialiser sa relation avec l’IA, même le bon vaisseau PC Gamer.