Après que les critiques aient critiqué le système d’IA générative « réveillé » de Google, la société a interrompu la capacité de son outil Gemini à créer des images de personnes afin de corriger ce qu’elle a reconnu être « des inexactitudes dans certaines représentations de génération d’images historiques ».
Gemini de Google, anciennement connu sous le nom de Bard, a commencé ce mois-ci à proposer des fonctionnalités de génération de texte en image. Le problème semblait être qu’en essayant de compenser les préjugés de représentation sexuelle et raciale dans l’IA, le système créait des images anhistoriques des personnes.
Parmi les résultats bizarres générés par Google Gemini et publiés par les utilisateurs sur les réseaux sociaux, il y avait un groupe d’images de diversité raciale représentant un « soldat allemand de 1943 », comme partagé par l’utilisateur X JohnLu0x :
D’autres images historiquement anormales générées par Google Gemini comprenaient Black Vikings ; une femme comme pape catholique ; les joueuses de la LNH; le les fondateurs de Google représentés comme des hommes asiatiques; et des personnes non blanches dans une scène des pères fondateurs des États-Unis.
Dans un communiqué publié jeudi matin, Google a déclaré : « Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini. Pendant ce temps, nous allons suspendre la génération d’images de personnes et publierons bientôt une version améliorée.
« Nous sommes conscients que Gemini présente des inexactitudes dans certaines représentations de génération d’images historiques », a déclaré le géant de la technologie dans un communiqué. déclaration le 22 février, après que les utilisateurs ont signalé les erreurs. « Nous travaillons à améliorer immédiatement ce type de représentations. La génération d’images Al de Gemini génère un large éventail de personnes. Et c’est généralement une bonne chose car des gens du monde entier l’utilisent. Mais ici, on manque le but. »
Les critiques ont fustigé la culture d’entreprise de Google pour le snafus Gemini. « Les images ridicules générées par Gemini ne sont pas une anomalie. Ils sont un autoportrait de la culture d’entreprise bureaucratique de Google », a écrit l’informaticien et investisseur Paul Graham dans un communiqué. poste sur X. « Plus votre vache à lait est grande, plus votre culture peut empirer sans vous conduire à la faillite. Et la vache à lait de Google, la publicité sur les recherches, est l’une des plus importantes que le monde ait jamais connues.
La commentatrice de droite Ashley St. Clair a replacé la controverse dans un contexte plus large de guerre culturelle. « Ce qui se passe avec l’IA Gemini éveillée de Google se produit depuis des années dans les médias et à Hollywood et tous ceux qui l’ont dénoncé ont été traités de racistes et exclus de la société », a écrit St. Clair dans un communiqué. poste sur X.