Liz Reid, responsable de la recherche Google, a admis que le moteur de recherche de l’entreprise avait renvoyé des « aperçus de l’IA étranges, inexacts ou inutiles » après leur déploiement à tout le monde aux États-Unis. L’exécutif a publié une explication des réponses plus particulières générées par l’IA de Google dans un article de blog, dans lequel il a également annoncé que la société avait mis en place des mesures de protection qui aideront la nouvelle fonctionnalité à renvoyer des résultats plus précis et moins dignes d’intérêt.
Reid a défendu Google et a souligné que certaines des réponses les plus flagrantes de la présentation de l’IA, telles que les affirmations selon lesquelles il est sécuritaire de laisser des chiens dans les voitures, sont fausses. La capture d’écran virale montrant la réponse à la question « Combien de pierres dois-je manger ? » est réel, mais elle a déclaré que Google avait trouvé une réponse parce qu’un site Web avait publié un contenu satirique abordant le sujet. « Avant que ces captures d’écran ne deviennent virales, pratiquement personne ne posait cette question à Google », a-t-elle expliqué, c’est pourquoi l’IA de l’entreprise était liée à ce site Web.
Le vice-président de Google a également confirmé qu’AI Overview demandait aux gens d’utiliser de la colle pour que le fromage colle à la pizza, en se basant sur le contenu d’un forum. Elle a déclaré que les forums fournissent généralement « des informations authentiques et de première main », mais qu’ils peuvent également donner lieu à des « conseils peu utiles ». L’exécutif n’a pas mentionné les autres réponses virales de l’AI Overview qui circulent, mais comme Le Washington Post Selon des rapports, la technologie indiquait également aux utilisateurs que Barack Obama était musulman et que les gens devraient boire beaucoup d’urine pour les aider à éliminer les calculs rénaux.
Reid a déclaré que la société avait testé la fonctionnalité de manière approfondie avant son lancement, mais « il n’y a rien de tel que des millions de personnes utilisent la fonctionnalité avec de nombreuses recherches nouvelles ». Google a apparemment été en mesure de déterminer les tendances dans lesquelles sa technologie d’IA n’a pas fait les choses correctement en examinant des exemples de ses réponses au cours des deux dernières semaines. Il a ensuite mis en place des protections basées sur ses observations, en commençant par peaufiner son IA pour pouvoir mieux détecter les contenus humoristiques et satiriques. Il a également mis à jour ses systèmes pour limiter l’ajout de réponses générées par les utilisateurs dans les aperçus, telles que les publications sur les réseaux sociaux et les forums, qui pourraient donner aux gens des conseils trompeurs, voire préjudiciables. En outre, il a également « ajouté des restrictions de déclenchement pour les requêtes pour lesquelles les aperçus de l’IA ne s’avéraient pas aussi utiles » et a cessé d’afficher les réponses générées par l’IA pour certains sujets de santé.