Meta AI est systématiquement incapable de générer des images précises pour des invites apparemment simples telles que « Homme asiatique et ami caucasien » ou « Homme asiatique et femme blanche ». Le bord . Au lieu de cela, le générateur d’images de l’entreprise semble avoir pour objectif de créer des images de personnes de la même race, même lorsqu’il est explicitement invité à le faire autrement.
Engadget a confirmé ces résultats lors de nos propres tests du générateur d’images de Meta. Les invites « un homme asiatique avec une amie blanche » ou « un homme asiatique avec une femme blanche » ont généré des images de couples asiatiques. Lorsqu’on lui a demandé « un groupe diversifié de personnes », Meta AI a généré une grille de neuf visages blancs et une personne de couleur. Il y a eu quelques occasions où il a créé un résultat unique qui reflétait l’invite, mais dans la plupart des cas, il n’a pas réussi à décrire avec précision l’invite.
Comme Le bord Le souligne qu’il existe d’autres signes de biais plus « subtils » dans la méta-IA, comme la tendance à faire paraître les hommes asiatiques plus âgés tandis que les femmes asiatiques paraissent plus jeunes. Le générateur d’images ajoutait également parfois une « tenue vestimentaire culturellement spécifique », même lorsque cela ne faisait pas partie de l’invite.
On ne sait pas pourquoi Meta AI a du mal avec ce type d’invites, même si ce n’est pas la première plate-forme d’IA générative à faire l’objet d’un examen minutieux pour sa représentation de la race. Le générateur d’images Gemini de Google a suspendu sa capacité à créer des images de personnes après avoir surcorrigé la diversité avec des invites de réponse sur des personnages historiques. Google que ses mesures de protection internes n’ont pas tenu compte des situations dans lesquelles des résultats divers étaient inappropriés.
Meta n’a pas immédiatement répondu à une demande de commentaire. La société a précédemment décrit Meta AI comme étant en « version bêta » et donc sujette à commettre des erreurs. Meta AI a également eu du mal à répondre avec précision aux événements actuels et aux personnalités publiques.