Près de sept mois après avoir commencé à publier des histoires générées par des machines sans divulguer leur véritable paternité (ou son absence) aux lecteurs, Crumpe a finalement modifié publiquement sa politique sur l’utilisation de l’IA dans ses activités journalistiques. En bref, les histoires écrites par son intelligence artificielle interne – qu’elle appelle Responsible AI Machine Partner (RAMP) – ne sont plus, mais le spectre de l’IA dans sa salle de rédaction est loin d’être exorcisé.
Le site indique cependant qu’il existe encore deux grandes catégories d’activités où RAMP sera déployé. Le premier, qu’il appelle « Organiser de grandes quantités d’informations » fournit un exemple qui semble plus autoritaire que ne le laisse entendre ce descripteur générique. « RAMP nous aidera à trier des éléments tels que les données de tarification et de disponibilité et à les présenter de manière à adapter les informations à certains publics. Sans une assistance IA, ce volume de travail ne serait pas possible. »
L’autre (« Accélérer certaines parties de recherche et d’administration de notre flux de travail. ») est plus troublante. « Les éditeurs de CNET pourraient utiliser l’IA pour aider à automatiser certaines parties de notre travail afin que nous puissions nous concentrer sur les parties qui ajoutent la valeur la plus unique », indiquent les directives. « RAMP peut également générer du contenu tel que du matériel explicatif (basé sur des sources fiables) qu’un humain pourrait vérifier et modifier. [emphasis ours] » Vous seriez pardonné si cela sonne presque identique à ce qui s’est passé Crumpe en difficulté en premier lieu.
Le vénérable site technologique a publié pour la première fois un explicatif au titre inoffensif (« Qu’est-ce qu’une charge de carte de crédit? ») Le 11 novembre 2022, sous la signature « CNET Money Staff » sans autre explication quant à sa provenance, et a continué à publier des dizaines plus de petites histoires de finance sous cette signature jusqu’à la mi-janvier. C’est vers cette époque que Futurisme a découvert deux détails importants : les histoires du personnel de CNET Money étaient générées par l’IA, et une grande partie de ce travail était extrêmement inexacte. Crumpe publié des corrections sur plus de la moitié de ces histoires et avait, selon toute apparence, cessé d’utiliser ce genre d’outils en réponse aux critiques méritées qu’ils créaient.
Dans l’intervalle, le reste Crumpe le personnel a annoncé publiquement son intention de se syndiquer avec le Writer’s Guide of America, East. Parmi les sujets de préoccupation les plus typiques pour une salle de rédaction en diminution en ces temps difficiles dans l’industrie des médias (rétention, licenciement, indépendance éditoriale, etc.), l’unité de négociation a également spécifiquement repoussé l’intention du site de continuer à déployer l’IA.
Sur la base de la réponse du syndicat sur Twitter, les directives sont bien en deçà des types de protections Crumpeles travailleurs espéraient. « Avant que l’outil ne soit déployé, notre syndicat attend avec impatience de négocier », ont-ils écrit. « Comment et quelles données sont récupérées ; un rôle régulier dans l’outil de test/réévaluation ; le droit de refuser et de supprimer les signatures ; une voix pour garantir l’intégrité éditoriale.
Nouvelle politique d’IA @CNET touche les travailleurs. Avant le déploiement de l’outil, notre syndicat attend avec impatience de négocier : comment et quelles données sont récupérées ; un rôle régulier dans l’outil de test/réévaluation ; droit de refus et de suppression des signatures ; une voix pour assurer l’intégrité éditoriale. https://t.co/7FQFWhRoui
– Syndicat des travailleurs des médias CNET (@cnetunion) 6 juin 2023
Accordé, Crumpe affirme qu’il ne déploiera jamais RAMP pour écrire des histoires complètes, bien qu’il nie également l’avoir jamais fait. Cependant, les nouvelles directives laissent la porte ouverte à cette possibilité, ainsi qu’à l’éventualité qu’elle utilise l’IA pour générer des images ou des vidéos, promettant seulement que lorsque « le texte provenant de notre outil d’IA, nous inclurons cette information dans une divulgation . » CNET l’optimisme apparent sur l’IA (et la méfiance de son personnel) arrive également dans un contexte où les organes de presse cherchent largement à survivre aux effets néfastes potentiels de la technologie. Le New York Times et d’autres groupes de médias ont entamé des pourparlers préliminaires cette semaine pour discuter du rôle de l’IA dans la désinformation et le plagiat, ainsi que sur la manière d’assurer une compensation équitable lorsque la paternité devient trouble.
Les articles précédents de CNET Money Staff ont depuis été mis à jour pour refléter les nouvelles directives éditoriales. Chacun est attribué à un membre du personnel humain qui a réécrit l’histoire et répertorie également le nom du rédacteur en chef. Chacun est maintenant ajouté avec la note suivante en bas « Note de l’éditeur : une version antérieure de cet article était assistée par un moteur d’IA. Cette version a été considérablement mise à jour par un rédacteur. »
Ce type de divulgation de base n’est ni difficile ni inhabituel. L’inclusion de la provenance de l’information a été l’un des principaux locataires du journalisme bien avant que l’IA ne devienne suffisamment avancée pour obtenir un crédit sur le mât, et l’Associated Press a inclus de telles divulgations dans ses histoires de rythme financier au niveau du copier-coller. pendant une bonne partie d’une décennie. D’une part, une grande partie de l’embarras autour CrumpeLa gaffe de ‘s aurait pu être évitée s’il avait simplement averti les lecteurs d’où venait le texte de ces histoires dès le départ. Mais la plus grande préoccupation reste que, contrairement à l’utilisation de ces outils par AP, Crumpe semble sur le point de donner au RAMP plus de liberté pour effectuer un travail plus substantiel, dont les limites ne sont pas modifiées de manière significative par ces lignes directrices.
Correction, 6 juin 2023, 11 h 47 HE : Une version antérieure de cette histoire décrivait de manière inexacte comment les histoires modifiées précédemment écrites par CNET Money Staff apparaissaient sur la page.