Les réseaux sociaux regorgent d’exemples du nouveau produit AI Overview de Google disant des choses étranges, allant de dire aux utilisateurs de mettre de la colle sur leur pizza à suggérant qu’ils mangent des pierres. Le déploiement désordonné signifie que Google s’empresse de désactiver manuellement les aperçus de l’IA pour des recherches spécifiques à mesure que divers mèmes sont publiés, c’est pourquoi les utilisateurs voient tellement d’entre eux disparaissent peu de temps après sa publication sur les réseaux sociaux.
C’est une situation étrange, puisque Google teste les aperçus de l’IA depuis un an maintenant – la fonctionnalité lancée en version bêta en mai 2023 sous le nom de Search Generative Experience – et le PDG Sundar Pichai a déclaré que la société avait répondu à plus d’un milliard de requêtes au cours de cette période.
Mais Pichai a également déclaré que Google avait réduit de 80 % le coût de fourniture de réponses IA au cours de la même période, « grâce aux avancées matérielles, techniques et d’ingénierie ». Il semble que ce type d’optimisation ait pu se produire trop tôt, avant que la technologie ne soit prête.
« Une entreprise autrefois connue pour être à la pointe et expédier des produits de haute qualité est désormais connue pour ses produits de mauvaise qualité qui font l’objet de souvenirs », a déclaré un fondateur d’IA, qui a souhaité rester anonyme. Le bord.
Google continue d’affirmer que son produit AI Overview fournit en grande partie des « informations de haute qualité » aux utilisateurs. « La plupart des exemples que nous avons vus étaient des requêtes peu courantes, et nous avons également vu des exemples qui ont été falsifiés ou que nous n’avons pas pu reproduire », a déclaré la porte-parole de Google, Meghann Farnsworth, dans un courrier électronique à Google. Le bord. Farnsworth a également confirmé que la société « prend des mesures rapides » pour supprimer les aperçus de l’IA sur certaines requêtes « lorsque cela est approprié dans le cadre de nos politiques de contenu, et utilise ces exemples pour développer des améliorations plus larges de nos systèmes, dont certains ont déjà commencé à être déployés ».
Gary Marcus, expert en IA et professeur émérite de sciences neuronales à l’Université de New York, a déclaré : Le bord que de nombreuses entreprises d’IA « vendent des rêves » selon lesquels cette technologie passera de 80 % de réussite à 100 %. Atteindre les 80 pour cent initiaux est relativement simple car cela implique de approximer une grande quantité de données humaines, a déclaré Marcus, mais les 20 pour cent finaux sont extrêmement difficiles. En fait, Marcus pense que les 20 derniers pour cent pourraient être la chose la plus difficile de toutes.
« Il faut en fait raisonner pour décider : est-ce que cette chose est plausible ? Cette source est-elle légitime ? Vous devez faire des choses comme un vérificateur de faits humains pourrait le faire, ce qui pourrait en fait nécessiter une intelligence artificielle générale », a déclaré Marcus. Et Yann LeCun, chef de l’IA de Marcus et Meta les deux sont d’accord que les grands modèles de langage qui alimentent les systèmes d’IA actuels comme Gemini de Google et GPT-4 d’OpenAI ne seront pas ce qui créera l’AGI.
Écoutez, c’est une situation difficile pour Google. Bing s’est lancé dans l’IA avant Google avec le célèbre « » de Satya Nadella.nous les avons fait danser » Je cite, OpenAI c’est aurait travaillant sur son propre moteur de recherche, une nouvelle startup de recherche AI est déjà vaut 1 milliard de dollarset une jeune génération d’utilisateurs qui veulent simplement la meilleure expérience se tournent vers TikTok. L’entreprise ressent clairement la pression de la concurrence, et c’est la pression qui conduit à des versions d’IA compliquées. Marcus souligne qu’en 2022, Meta a publié un système d’IA appelé Galactica qui a dû être supprimé peu de temps après son lancement parce que, entre autres, il disait aux gens de manger du verre. Sonne familier.
Google a de grands projets en matière d’aperçus de l’IA : la fonctionnalité telle qu’elle existe aujourd’hui n’est qu’une infime partie de ce que la société a annoncé la semaine dernière. Raisonnement en plusieurs étapes pour des requêtes complexes, possibilité de générer une page de résultats organisée par l’IA, recherche vidéo dans Google Lens : il y a ici beaucoup d’ambition. Mais à l’heure actuelle, la réputation de l’entreprise repose uniquement sur les bonnes bases, et elle n’a pas l’air géniale.
« [These models] sont constitutionnellement incapables de vérifier la santé mentale de leur propre travail, et c’est ce qui est venu mordre cette industrie par derrière », a déclaré Marcus.