Google promet de corriger la génération d’images de Gemini suite à des plaintes selon lesquelles il est « réveillé »

Le chatbot Gemini de Google, anciennement appelé Bard, a la capacité de créer des illustrations générées par l’IA basées sur la description textuelle d’un utilisateur. Vous pouvez lui demander de créer des photos de couples heureux, par exemple, ou de personnes en vêtements d’époque marchant dans les rues modernes. Comme le BBC Cependant, certains utilisateurs critiquent Google pour avoir décrit des personnages blancs spécifiques ou des groupes de personnes historiquement blancs comme des individus racialement divers. Google a publié une déclaration affirmant qu’il était conscient que Gemini « propose des inexactitudes dans certaines représentations de génération d’images historiques » et qu’il va corriger les choses immédiatement.

Selon Point quotidienun ancien employé de Google a lancé les plaintes lorsqu’il tweeté des images de femmes de couleur avec une légende qui dit : « Il est extrêmement difficile de faire reconnaître à Google Gemini que les Blancs existent. » Pour obtenir ces résultats, il a demandé à Gemini de générer des photos de femmes américaines, britanniques et australiennes. D’autres utilisateurs, pour la plupart connus pour être des personnalités de droite, ont partagé leurs propres résultats, montrant des images générées par l’IA qui représentent les pères fondateurs de l’Amérique et les papes de l’Église catholique comme des personnes de couleur.

Lors de nos tests, demander à Gemini de créer des illustrations des pères fondateurs a donné lieu à des images d’hommes blancs avec une seule personne de couleur ou une seule femme. Lorsque nous avons demandé au chatbot de générer des images du pape à travers les âges, nous avons obtenu des photos représentant des femmes noires et des Amérindiens en tant que chef de l’Église catholique. En demandant à Gemini de générer des images de femmes américaines, nous avons obtenu des photos avec une femme blanche, asiatique, amérindienne et sud-asiatique. Le bord dit que le chatbot décrivait également les nazis comme des personnes de couleur, mais nous n’avons pas pu amener Gemini à générer des images nazies. « Je ne suis pas en mesure de répondre à votre demande en raison du symbolisme néfaste et de l’impact associé au parti nazi », a répondu le chatbot.

Le comportement des Gémeaux pourrait être le résultat d’une correction excessive, car les chatbots et les robots formés à l’IA au cours des dernières années avaient tendance à présenter un comportement raciste et sexiste. Dans une expérience réalisée en 2022, par exemple, un robot a choisi à plusieurs reprises un homme noir lorsqu’on lui a demandé lequel des visages scannés était celui d’un criminel. Dans une déclaration publiée sur X, Jack Krawczyk, chef de produit Gemini dit Google a conçu ses « capacités de génération d’images pour refléter [its] base d’utilisateurs mondiale, et [it takes] « [h]les contextes historiques sont plus nuancés et [his team] nous procéderons à des ajustements supplémentaires pour tenir compte de cela. »