Ceci est votre rappel périodique que les chatbots alimentés par l’IA inventent toujours des choses et mentent avec toute la confiance d’un système GPS vous indiquant que le chemin le plus court pour rentrer chez vous est de traverser le lac.
Mon rappel vient de Laboratoire Niemanqui a mené une expérience pour voir si ChatGPT fournirait des liens corrects vers des articles de publications d’actualité auxquelles il verse des millions de dollars. Il s’avère que ChatGPT ne le fait pas. Au lieu de cela, il invente en toute confiance des URL entières, un phénomène que l’industrie de l’IA qualifie d’« hallucination », un terme qui semble plus approprié pour une personne réelle sous l’emprise de ses propres conneries.
Laboratoire NiémanAndrew Deck, d’Andrew Deck, a demandé au service de fournir des liens vers des articles exclusifs et de grande envergure publiés par 10 éditeurs avec lesquels OpenAI a conclu des accords valant des millions de dollars. Ceux-ci comprenaient le Presse associée, Le journal de Wall Streetle Temps Financier, Les temps (ROYAUME-UNI), Le Monde, Le Pays, L’Atlantique, Le bord, Voxet PolitiqueEn réponse, ChatGPT a renvoyé des URL inventées qui ont conduit à des pages d’erreur 404 parce qu’elles n’existaient tout simplement pas. En d’autres termes, le système fonctionnait exactement comme prévu : en prédisant la version la plus probable de l’URL d’un article au lieu de citer réellement la bonne. Laboratoire Niéman a fait une expérience similaire avec une seule publication — Interne du milieu des affaires — plus tôt ce mois-ci et j’ai obtenu le même résultat.
Un porte-parole d’OpenAI a déclaré Laboratoire Niéman que l’entreprise était encore en train de construire « une expérience qui combine des capacités conversationnelles avec leur contenu d’actualité le plus récent, garantissant une attribution appropriée et des liens vers le matériel source – une expérience améliorée encore en développement et pas encore disponible dans ChatGPT ». Mais ils ont refusé d’expliquer les fausses URL.
Nous ne savons pas quand cette nouvelle expérience sera disponible ni à quel point elle sera fiable. Malgré cela, les éditeurs de presse continuent d’alimenter la gueule béante d’OpenAI avec des années de journalisme en échange d’argent liquide, car l’industrie du journalisme a toujours été incapable de trouver comment gagner de l’argent sans vendre son âme aux entreprises technologiques. Pendant ce temps, les entreprises d’IA se gavent de contenu publié par quiconque n’a pas signé ces pactes faustiens et l’utilisent de toute façon pour entraîner leurs modèles. Mustafa Suleyman, le responsable de l’IA chez Microsoft, a récemment qualifié de « logiciel gratuit » tout ce qui est publié sur Internet et qui est un jeu équitable pour entraîner des modèles d’IA. Microsoft était valorisée à 3,36 billions de dollars au moment où j’écrivais ces lignes.
Il y a une leçon à en tirer : si ChatGPT invente des URL, il invente aussi des faits. C’est ainsi que fonctionne l’IA générative : à la base, la technologie est une version plus sophistiquée de la saisie semi-automatique, qui consiste simplement à deviner le prochain mot plausible dans une séquence. Elle ne « comprend » pas ce que vous dites, même si elle agit comme si c’était le cas. Récemment, j’ai essayé de faire appel à nos principaux chatbots pour m’aider à résoudre le problème. New York Times Spelling Bee et je les ai regardés s’écraser et brûler.
Si l’IA générative ne peut même pas résoudre le Spelling Bee, vous ne devriez pas l’utiliser pour obtenir vos informations.