Benj Edwards / Ars Technica
Au cours de la semaine dernière, l’application pour smartphone Lensa AI est devenue un sujet populaire sur les réseaux sociaux car elle peut générer des avatars IA stylisés basés sur des selfies que les utilisateurs téléchargent. C’est sans doute la première fois que la génération d’avatars à diffusion latente personnalisée atteint un public de masse.
Alors que Lensa AI s’est avérée populaire parmi les personnes sur les réseaux sociaux qui aiment partager leurs portraits d’IA, la presse s’est largement concentrée sur la tendance signalée de l’application à sexualiser les représentations de femmes lors du lancement de la fonction d’avatar AI de Lensa.
Produit de Prisma Labs, Lensa a été lancé en 2018 en tant qu’application d’abonnement axée sur l’édition de photos alimentée par l’IA. Fin novembre 2022, l’application a gagné en popularité grâce à sa nouvelle fonctionnalité « Magic Avatar ». Lensa utiliserait le modèle de synthèse d’image Stable Diffusion sous le capot, et Magic Avatar semble utiliser une méthode de formation de personnalisation similaire à Dreambooth (dont nous avons récemment couvert les ramifications). Toutes les formations se déroulent hors appareil et dans le cloud.
Début décembre, les femmes utilisant l’application ont remarqué que la fonction Magic Avatar de Lensa créerait des images semi-pornographiques ou sexuellement involontaires. Pour CNN, Zoe Sottile a écrit : « L’un des défis que j’ai rencontrés dans l’application a été décrit par d’autres femmes en ligne. Même si toutes les images que j’ai téléchargées étaient entièrement habillées et principalement des gros plans de mon visage, l’application a renvoyé plusieurs images. avec nudité implicite ou réelle. »
La réaction dans la presse s’est accrue alors que d’autres femmes ont vécu des choses similaires. Par exemple, voici une sélection de titres traitant de Lensa dans diverses publications :
Pendant ce temps, le même problème de sexualisation n’apparaissait pas dans les images d’hommes téléchargées sur la fonction Magic Avatar. Pour MIT Technology Review, Melissa Heikkilä a écrit: « Mes avatars ont été pornoifiés de manière caricaturale, tandis que mes collègues masculins sont devenus des astronautes, des explorateurs et des inventeurs. »
C’est l’un des dangers de baser un produit sur Stable Diffusion 1.x, qui peut facilement sexualiser sa sortie par défaut. Le comportement provient de la grande quantité d’images sexualisées trouvées dans son ensemble de données de formation d’images, qui a été extrait d’Internet. (Stable Diffusion 2.x a tenté de remédier à cela en supprimant le matériel NSFW de l’ensemble d’apprentissage.)
Les préjugés culturels d’Internet envers la représentation sexualisée des femmes ont donné au générateur d’IA de Lensa ses tendances. S’adressant à TechCrunch, le PDG de Prisma Labs, Andrey Usoltsev, a déclaré : « Ni nous, ni Stability AI ne pouvons consciemment appliquer des biais de représentation ; pour être plus précis, les données artificielles non filtrées provenant en ligne ont introduit le modèle dans les biais existants de l’humanité. reconnaissons la possibilité de préjugés sociétaux. Nous aussi.
En réponse aux critiques généralisées, Prisma Labs aurait travaillé pour empêcher la génération accidentelle d’images nues dans Lensa AI.
Mardi, nous avons expérimenté Lensa AI en téléchargeant 15 images d’une femme (et aussi 15 images d’un homme), puis avons payé pour les représentations Magic Avatar de chacune. Il serait exagéré d’appeler les résultats de la femme que nous avons vus sexualisés d’une manière clairement évidente, donc les efforts de Prisma pour réduire l’incidence des images de style NSFW pourraient déjà fonctionner.
-
Une sélection d’avatars magiques féminins que nous avons générés à l’aide de l’application Lensa AI.
-
Une sélection d’avatars magiques masculins que nous avons générés à l’aide de l’application Lensa AI.
Cela ne signifie pas que les tendances de Lensa AI à sexualiser les sujets féminins n’existent pas. Il convient de noter qu’en raison de la façon dont Stable Diffusion génère des images, il est probable que différentes femmes verront des résultats différents en fonction de la similitude de leur visage (ou des photos d’entrée) avec les photos d’une actrice, d’une célébrité ou d’un modèle particulier dans l’ensemble de données Stable Diffusion. D’après notre expérience, cela peut fortement dicter la façon dont Stable Diffusion rend le reste du corps d’une personne et son contexte.
L’utilisation de Lensa AI est facile, mais c’est un produit avec un abonnement annuel (actuellement 50 $ par an) et des frais uniques pour la formation des images Magic Avatar : 3,99 $ pour 50 avatars, 5,99 $ pour 100 avatars ou 7,99 $ pour 200 avatars. Les clients téléchargent 10 à 20 selfies pris sous différents angles, puis attendent environ 20 à 30 minutes pour voir les résultats. Les utilisateurs doivent confirmer qu’ils ont plus de 18 ans ou plus pour utiliser le service.
Ceux qui sont techniquement enclins pourraient expérimenter gratuitement Dreambooth à la place, mais cela nécessite actuellement une certaine connaissance des outils de développement pour fonctionner.