NewsBreak, une application d’information gratuite populaire aux États-Unis, publie des histoires fictives écrites par AI depuis 2021, selon Reuters. L’application publie du contenu sous licence provenant de sources d’information légitimes, telles que CNN, PA et Reuters elle-même, mais elle utilise également des outils d’intelligence artificielle pour réécrire les communiqués de presse et les actualités locales. L’un des exemples les plus flagrants de fausses nouvelles de NewsBreak a été publié la veille de Noël l’année dernière. Le texte de l’application affirmait qu’il y avait eu une fusillade à Bridgeton, dans le New Jersey, alors qu’aucun incident de ce type n’avait eu lieu.
Le service de police du New Jersey a rejeté les allégations formulées dans l’article avant que l’application, qui prétendait avoir obtenu l’information d’un autre site Web, ne la supprime quatre jours plus tard. En janvier, février et mars, une banque alimentaire basée au Colorado a déclaré Reuters qu’il a dû refuser des gens parce que NewsBreak avait publié le mauvais moment pour la distribution de nourriture. Elle n’a également reçu aucune réponse de la société lorsqu’elle s’est plainte de ses rapports inexacts.
Une autre organisation caritative de Pennsylvanie a déclaré que NewsBreak avait publié à deux reprises un rapport affirmant qu’elle organisait une clinique de soins des pieds 24 heures sur 24 pour les sans-abri, alors que ce n’était pas le cas. L’application a supprimé toutes les fausses histoires impliquant les associations caritatives après Reuters l’a notifié. En mars, il a ajouté un avertissement sur sa page d’accueil indiquant que son contenu « peut ne pas toujours être exempt d’erreurs ». En plus de publier des articles erronés, NewsBreak aurait copié des articles de sites Web sans autorisation et aurait déjà réglé des cas de violation du droit d’auteur avec au moins deux publications. Reuters décrit NewsBreak comme « l’application d’actualités américaine la plus téléchargée ». Si vous n’en avez jamais entendu parler auparavant, c’est probablement parce que ses utilisateurs sont principalement des femmes de plus de 45 ans, qui n’ont pas de diplôme universitaire et qui vivent dans les banlieues et les zones rurales des États-Unis. Il est connu pour publier des liens sur les réseaux sociaux comme Facebook, et cliquer sur l’un d’entre eux vous invitera à télécharger l’application.
NewsBreak, disponible uniquement aux États-Unis, a été lancé dans le pays en tant que filiale de la société chinoise Yidian, qui appartient en partie à une société de médias liée à l’État chinois. Yidian n’est plus connecté à l’application, mais l’un de ses principaux investisseurs est IDG Capital, une société basée à Pékin qui, selon le Pentagone, est affiliée (PDF) à l’armée chinoise.
D’anciens employés ont dit Reuters que les ingénieurs de NewsBreak basés en Chine effectuent l’essentiel du travail sur ses algorithmes, même si l’application se présente comme une société basée aux États-Unis avec des investisseurs américains. Le PDG de NewsBreak, Jeff Zheng, a déclaré Reuters qu’il est conforme aux lois américaines sur les données et la confidentialité et qu’il est conservé sur des serveurs Amazon basés aux États-Unis. Son personnel chinois, a déclaré Zheng, ne peut accéder qu’aux données anonymes stockées sur ces serveurs. Il convient de noter que malgré ses liens avec la Chine, Reuters n’a pas trouvé de preuve que NewsBreak ait publié des articles montrant le gouvernement chinois sous un jour positif.