Au cours du week-end, une image générée par l’IA du pape François portant un manteau blanc gonflé devenu viral sur Twitter, et apparemment beaucoup de gens pensaient que c’était une vraie image. Depuis lors, le pontife gonflé a inspiré des commentaires sur la nature trompeuse des images générées par l’IA, qui sont maintenant presque photoréalistes.
L’image du pape, créée à l’aide de Midjourney v5 (un modèle de synthèse d’images IA), est apparu pour la première fois dans un tweet par un utilisateur nommé Leon (@skyferrori) samedi et a rapidement commencé à circuler dans le cadre d’autres tweets de mèmes contenant également des images similaires, dont un qui spécule avec humour à propos d’une « marque de style de vie » du pape.
Peu de temps après, Twitter a joint un avertissement contextuel ajouté par le lecteur au tweet qui se lit comme suit : « Il s’agit d’une image générée par l’IA du pape François. Ce n’est pas une photo authentique.«
Comme indiqué dans notre article sur les photos d’arrestation de Donald Trump générées par l’IA la semaine dernière, les directives de Twitter stipulent que les utilisateurs « ne peuvent pas partager de manière trompeuse des médias synthétiques ou manipulés susceptibles de causer des dommages ». Bien que dans ce cas, la frontière entre le mal et la parodie puisse être floue.
Comment savons-nous que l’image est fausse ? Mis à part un post Reddit contenant des images alternatives du pape de la personne qui l’a probablement fait, The Verge décompose assez bien les preuves dans un article analysant l’impact de la fausse image. Par exemple, si vous zoomez sur les détails, vous verrez des signes révélateurs de synthèse d’images dans des détails déformés comme le collier crucifix du pape, l’ombre tordue de ses lunettes et tout ce qu’il porte dans sa main (une tasse ?).
Mais malgré tout, d’un coup d’œil rapide, la fausse photo (« fauxto » ?) semble assez réaliste. Et comme le note The Verge, une image élégante du pape François joue dans nos croyances sur la papauté, qui implique souvent des images sauvages non fausses, bien que le pape François soit connu pour ses tenues « humbles ».
Un voyage à mi-parcours
Le service d’imagerie utilisé pour créer la fausse photo, Midjourney, a fait ses débuts l’année dernière. Avec DALL-E et Stable Diffusion, c’est l’un des trois principaux modèles de synthèse d’images devenus populaires en ligne. Tous trois permettent aux utilisateurs de générer de nouvelles images en utilisant uniquement des descriptions textuelles appelées « invites ».
À mi-parcours
Dans ce cas, l’invite utilisée pour créer la photo du pape gonflé aurait pu être aussi simple que « Le pape François dans une blouse blanche gonflée » car Midjourney a récemment fait d’énormes progrès dans le photoréalisme, rendant des scènes complexes pleines de détails à partir d’invites relativement simples.
Ce que cette capacité presque sans effort de truquer des photos signifie pour l’avenir des médias est encore incertain, mais comme nous l’avons déjà spéculé, en raison de la synthèse d’images, nous ne pourrons peut-être plus jamais croire ce que nous voyons en ligne.