Le PDG de Google, Sundar Pichai, a abordé les problèmes récents de l’entreprise avec son outil de génération d’images Gemini basé sur l’IA, après celui-ci dans des images historiques. Il a qualifié la tournure des événements d’« inacceptable » et a déclaré que la société « travaillait 24 heures sur 24 » pour trouver un correctif, selon un rapport.
« Aucune IA n’est parfaite, en particulier à ce stade émergent du développement de l’industrie, mais nous savons que la barre est haute pour nous et nous la maintiendrons aussi longtemps qu’il le faudra », a écrit Pichai aux membres du personnel. « Et nous examinerons ce qui s’est passé et veillerons à le corriger à grande échelle. »
Pichai reste optimiste quant à l’avenir du chatbot Gemini, anciennement appelé Bard, notant que l’équipe a déjà « constaté des améliorations substantielles sur un large éventail d’invites ». L’aspect génération d’images de Gemini jusqu’à ce qu’un correctif soit entièrement élaboré.
Cela a commencé lorsque les utilisateurs de Gemini ont commencé à remarquer que le générateur commençait à produire des images historiquement inexactes, comme des images des nazis et des pères fondateurs de l’Amérique en tant que personnes de couleur. Cela est rapidement devenu un sujet important sur les réseaux sociaux, le mot « réveil » étant souvent utilisé.
Prabhakar Raghavan, vice-président senior de Google pour la connaissance et l’information, n’a pas imputé la faute à l’état de veille. Fondamentalement, le modèle a été affiné pour prendre en compte divers groupes de personnes dans les images, mais « n’a pas pris en compte les cas qui ne devraient clairement pas être montrés ». une gamme. Cela a conduit à des images controversées telles que des personnes de couleur apparaissant comme des Vikings et des papes catholiques amérindiens.
Raghavan a également déclaré que le modèle est devenu plus prudent au fil du temps, refusant parfois de répondre à certaines invites après les avoir interprétées à tort comme sensibles. Cela explique les informations selon lesquelles le modèle aurait refusé de générer des images de personnes blanches.
Il semble que l’entreprise essayait à la fois de plaire à un public mondial et de s’assurer que le modèle ne tombe pas dans certains pièges des produits concurrents, comme la création d’images sexuellement explicites ou de représentations de personnes réelles. Le réglage de ces modèles d’IA est un travail extrêmement délicat et le logiciel peut facilement C’est ce qu’ils font. Quoi qu’il en soit, je préférerais un pape catholique historiquement inexact n’importe quel jour de la semaine. Considérez cela comme un autre rappel que l’IA a encore un long chemin à parcourir.
Quant à Gemini, la société promet que le générateur d’images reviendra dans un avenir proche, mais cela nécessite encore une suite de correctifs et de tests pour s’assurer que cela ne se reproduise plus, y compris « des changements structurels, des directives produit mises à jour, des processus de lancement améliorés, des évaluations robustes ». et une équipe rouge et des recommandations techniques.