Avec la croissance massive de ChatGPT faisant les gros titres tous les jours, Google et Microsoft ont réagi en montrant des chatbots IA intégrés à leurs moteurs de recherche. Il est évident que l’IA est l’avenir. Mais l’avenir de quoi ?
Chez Tom’s Hardware, nous cherchons tous à repousser les limites de la technologie pour voir ce qui est possible, donc, sur le plan technique, je suis impressionné par l’aspect humain des réponses du chatbot. L’IA est un outil puissant qui peut être utilisé pour améliorer l’apprentissage humain, la productivité et le plaisir. Mais le bot Bard de Google et le chatbot « New Bing » de Microsoft sont basés sur une prémisse erronée et dangereuse : que les lecteurs ne se soucient pas de la provenance de leurs informations et de qui se cache derrière.
Basés sur des informations provenant d’auteurs humains, les moteurs d’IA des deux sociétés se positionnent comme des alternatives aux articles dont ils ont tiré des enseignements. Le résultat final pourrait être un Web plus fermé avec moins d’informations gratuites et moins d’experts pour vous offrir de bons conseils.
Google a fait la démonstration de Bard à la fois dans un tweet et lors d’un événement diffusé en direct où il a fourni non seulement des réponses factuelles, mais aussi des recommandations. L’entreprise a été gênée lorsqu’il s’est avéré que l’une des réponses de Bard était factuellement incorrecte, mais les problèmes avec Bard et New Bing vont bien au-delà de l’inexactitude.
Donner des conseils, sans le conseiller
Lors de l’événement en direct, Google SVP Prabhakar Raghavan a déclaré que Bard était un bon choix pour répondre aux requêtes qu’il a classées comme NORA (No One Right Answer). « Pour des questions comme celles-ci, nous souhaitons probablement explorer un large éventail d’opinions ou de perspectives et être connectés à l’étendue de la sagesse du Web », a-t-il déclaré. « Les nouvelles fonctionnalités d’IA générative nous aideront à organiser des informations complexes et plusieurs points de vue directement dans les résultats de recherche. »
L’« étendue du Web » signifie en fait que le bot s’approprie les données de millions d’articles écrits par des humains qui ne sont ni crédités ni rémunérés pour leur travail. Mais vous ne sauriez rien de tout cela en regardant la sortie de Bard.
Raghavan a montré à Google la réponse « quelles sont les meilleures constellations à rechercher lors de l’observation des étoiles? » Au lieu d’afficher les meilleurs articles du Web sur ce sujet, le moteur de recherche affiche son propre mini-article avec son propre ensemble de constellations recommandées. Il n’y a pas de citations pour vous dire d’où viennent ces « points de vue multiples », et il n’y a pas non plus d’autorité pour étayer les affirmations qu’il fait.
Bard déclare : « Il existe de nombreuses constellations que vous pouvez rechercher la prochaine fois que vous observerez les étoiles. En voici quelques-uns populaires. Comment savons-nous qu’elles sont populaires et comment savons-nous que ce sont les meilleures constellations ? Sous quelle autorité le bot dit-il cela ? Apparemment, nous sommes juste censés lui faire confiance.
Mais la confiance est difficile à obtenir. Le tweet de la société a montré une situation embarrassante où Bard donne une liste de « nouvelles découvertes » du télescope spatial James Webb (JWST), mais l’un des trois points n’est en fait pas du tout une nouvelle découverte. Selon Nasales premières images d’une exoplanète ont en fait été prises en 2004, bien avant le lancement du JWST en 2021.
De nombreux critiques seront à juste titre préoccupés par d’éventuelles inexactitudes factuelles dans les résultats du chatbot, mais nous pouvons probablement supposer qu’à mesure que la technologie s’améliore, elle s’améliorera pour éliminer les erreurs. Le plus gros problème est que les bots vous donnent des conseils qui semblent venir de nulle part – bien qu’ils aient évidemment été compilés en saisissant le contenu d’écrivains humains que Bard ne crédite même pas.
Dévalorisation de l’expertise, de l’autorité et de la confiance
Ironiquement, l’initiative de Google va à l’encontre des critères clés que l’entreprise dit prioriser dans le classement des recherches organiques. La société conseille les éditeurs web qu’elle considère EEAT (Expérience, Expertise, Autorité et Confiance) lorsqu’il décide quels articles sont en haut d’une page et lesquels apparaissent en bas. Il prend en compte des critères tels que les antécédents de l’auteur, si cet auteur décrit des expériences pertinentes et si cette publication a la réputation d’être digne de confiance. Par définition, un bot ne peut répondre à aucun de ces critères.
Lorsqu’il n’y a pas de bonne réponse, c’est là que le contenu humain compte le plus. Nous voulons des conseils d’une source digne de confiance, quelqu’un ayant une expertise dans le sujet et un ensemble d’opinions professionnelles basées sur l’expérience.
Si nous connaissons l’auteur, nous pouvons alors porter des jugements sur la fiabilité de l’information. C’est pourquoi, lorsque je vais à des réunions de famille, des proches m’approchent et me posent des questions du type « quel ordinateur portable dois-je acheter ? » Ils pourraient simplement faire une recherche sur le Web pour cette question (et peut-être qu’ils devraient), mais ils me connaissent et croient que je ne leur ferai pas tort.
Google espère que, dans un monde où chacun a une opinion et jaillit sur les réseaux sociaux, l’expertise n’a plus d’importance pour les utilisateurs. La société s’attend à ce que vous lisiez tout ce que vous voyez en haut de votre écran, que vous y croyiez autant que vous faites autre chose, puis que vous restiez sur le site afin que vous puissiez continuer à regarder ses publicités, une source de revenus, sans interruption. Si vous quittez le moteur de recherche, vous serez sur le site Web de quelqu’un d’autre où Google peut ou non être en charge de diffuser les annonces.
Bing montre les sources mais les enterre
La nouvelle implémentation du chatbot de Bing est légèrement meilleure que celle de Google dans la mesure où elle affiche réellement les sources, mais elle les enterre dans de minuscules notes de bas de page, dont certaines ne sont même pas visibles à moins que vous ne cliquiez sur un bouton pour développer la réponse.
Même si les citations dans le chatbot de Bing étaient plus importantes, il offre toujours des conseils que nous serions mieux servis d’obtenir d’une personne experte. Dans l’exemple ci-dessus, le bot prépare un dîner végétarien à trois plats avec un dessert au chocolat. Mais comment puis-je savoir que ce sont les meilleures recettes ou que l’association de ces plats est bonne ?
Je ferais plutôt confiance au résultat de recherche supérieur, qui a été écrit par un humain qui a déjà cuisiné et pensé à cet ensemble de plats comme une personne le ferait. Au crédit de Bing, cependant, il met son propre contenu à côté des résultats de recherche organiques, plutôt que de les pousser vers le bas.
Vous pourriez dire que les sujets de démonstration choisis par Google et Microsoft sont très subjectifs. Certaines personnes penseront qu’Orion est la meilleure constellation à regarder tandis que d’autres choisiront Ursa Major. Et c’est exactement pourquoi l’auteur compte.
Nous sommes tous guidés par nos préjugés et, plutôt que d’essayer de les cacher, les meilleurs auteurs les adoptent et les dévoilent. Si vous avez lu certaines de mes critiques d’ordinateurs portables, vous savez que la dactylographie est importante pour moi. J’ai essayé des centaines de claviers d’ordinateurs portables au cours de ma carrière ; Je peux vous dire lesquels sont mous et lesquels sont tactiles et vifs. Et le confort du clavier sera pris en compte dans mes recommandations si vous me demandez quels modèles sont les meilleurs. Si vous ne vous souciez pas de la qualité du clavier ou si vous aimez les touches spongieuses, vous pouvez décider de donner moins de poids à mes notes (ou à cet aspect de celles-ci).
Nous ne savons pas quels préjugés se cachent derrière les listes de recettes, de constellations ou de toute autre chose du bot. Les données pourraient même être tirées de commerciaux.
Les robots IA pourraient nuire au Web ouvert
J’admets un autre parti pris. Je suis un écrivain professionnel, et les chatbots comme ceux montrés par Google et Bing sont une menace existentielle pour quiconque est payé pour ses paroles. La plupart des sites Web dépendent fortement de la recherche comme source de trafic et, sans ces globes oculaires, le modèle commercial de nombreux éditeurs est brisé. Pas de trafic signifie pas de publicités, pas de clics sur le commerce électronique, pas de revenus et pas d’emplois.
À terme, certains éditeurs pourraient être contraints de fermer leurs portes. D’autres pourraient se retirer derrière des murs payants et d’autres encore pourraient empêcher Google et Bing d’indexer leur contenu. Les robots IA seraient à court de sources de qualité à gratter, ce qui rendrait leurs conseils moins fiables. Et les lecteurs devraient soit payer plus pour un contenu de qualité, soit se contenter de moins de voix.
Dans le même temps, il est clair que ces bots sont entraînés en indexant le contenu d’écrivains humains, dont la plupart ont été payés par les éditeurs pour leur travail. Ainsi, lorsque le bot dit qu’Orion est une excellente constellation à voir, c’est parce qu’à un moment donné, il a visité un site comme notre site sœur Espace.com et recueilli des informations sur les constellations. La façon dont les modèles ont été formés est une boîte noire, nous ne savons donc pas quels sites Web exacts ont conduit à quelles affirmations factuelles, bien que Bing nous donne une idée avec ses citations.
La question de savoir si ce que font Google et Bing constitue un plagiat ou une violation du droit d’auteur est sujette à interprétation et peut être déterminée par un tribunal. Getty Images est actuellement poursuivre Stable Diffusion, une entreprise qui génère des images IA, pour avoir utilisé 10 millions de ses images pour entraîner le modèle. Je peux imaginer un grand éditeur emboîter le pas.
Il y a quelques années, Amazon était crédible accusé de copier des produits auprès de ses propres vendeurs tiers, puis en fabriquant ses propres produits de marque Amazon – qui, sans surprise, arrivent plus haut dans la recherche interne. Cela semble familier.
Vous pourriez dire que LaMDA de Google (qui alimente Bard) et le moteur OpenAI de Bing font exactement la même chose qu’un auteur humain pourrait faire. Ils lisent des sources primaires et les résument ensuite dans leurs propres mots. Mais aucun auteur humain n’a le genre de puissance de traitement ou de base de connaissances que ces IA ont.
Vous pourriez également affirmer que les éditeurs ont besoin d’une meilleure source de trafic que Google – et nous le faisons, mais la plupart des utilisateurs ont été formés pour traiter la recherche comme leur premier arrêt sur Internet. En 1997, les gens allaient sur Yahoo, parcouraient un répertoire de sites Web, trouvaient ceux qui correspondaient à leurs intérêts, les mettaient en signet et revenaient. Cela ressemblait beaucoup au modèle d’audience des réseaux de télévision, des magazines et des journaux, car la plupart des gens avaient quelques sources d’information préférées sur lesquelles ils s’appuyaient régulièrement.
Mais la plupart des internautes ont été formés pour se rendre sur des plateformes de distribution telles que Google, Facebook et Twitter et naviguer sur le Web à partir de là. Vous pouvez aimer et faire confiance à un éditeur, mais vous accédez souvent au site Web de cet éditeur en le trouvant sur Google ou Bing, auquel vous pouvez accéder directement à partir de la barre d’adresse de votre navigateur. Il sera difficile pour n’importe quel éditeur ou même groupe d’éditeurs de changer ce comportement profondément enraciné.
Plus important encore, si vous êtes un consommateur d’informations, vous êtes traité comme un bot, censé s’imprégner d’informations sans se soucier de leur provenance ou de la fiabilité de celles-ci. Ce n’est pas une bonne expérience utilisateur.
Remarque : comme pour tous nos articles d’opinion, les opinions exprimées ici appartiennent à l’auteur seul et non à Tom’s Hardware en tant qu’équipe.