Après qu’une image réaliste générée par l’IA du pape François dans une doudoune soit devenue virale sur les réseaux sociaux l’année dernière, le pape lui-même en a apparemment pris note, rapporte Reuters. Dans un message pour la 58e Journée mondiale des communications sociales, François écrit : « Il suffit de penser au problème de longue date de la désinformation sous la forme de fausses nouvelles, qui peuvent aujourd’hui recourir aux « deepfakes », à savoir la création et la diffusion d’images. cela semble parfaitement plausible mais faux (j’en ai moi aussi été l’objet). »
Le Pape met également en garde contre les messages audio qui « utilisent la voix d’une personne pour dire des choses que cette personne n’a jamais dites », poursuit-il. « La technologie de simulation derrière ces programmes peut être utile dans certains domaines précis, mais elle devient perverse lorsqu’elle déforme notre rapport aux autres et à la réalité. »
En mars 2023, un utilisateur de Twitter nommé « skyferrori » a utilisé le service de synthèse d’images Midjourney v5 pour créer une fausse photo convaincante du pape François portant une longue doudoune blanche et l’a publiée sur le service. Il est rapidement devenu viral et compte aujourd’hui plus de 197 000 likes et 28,1 millions de vues. Beaucoup de gens pensaient qu’il s’agissait d’une vraie photo, et elle était remarquable à l’époque pour être l’une des premières images générées par l’IA à tromper un large public en ligne.
« J’avais cette discussion avec un ami, et je vais être honnête, je ne pensais pas que c’était faux », écrivait à l’époque un commentateur nommé « thrillgore » sur les forums d’Ars Technica. « Je pensais que c’était authentique même si j’avais lu plus tôt dans la journée que le pape François était un type frugal et n’exhibait pas la richesse du Vatican… C’était drôle hier, maintenant c’est absolument horrible. »
Depuis le lancement de Stable Diffusion en 2022, nous avons fréquemment évoqué les deepfakes et craint qu’ils ne sapent la confiance sociale, diminuent la qualité de l’information en ligne en injectant du bruit, alimentent le harcèlement en ligne et éventuellement perturbent les archives historiques. Il s’agit d’un problème non résolu, la technologie de filigrane étant souvent jugée peu fiable et les projets de marquage de métadonnées n’étant pas encore largement pris en charge. Fondamentalement, notre capacité à faire confiance à ce que nous voyons en ligne dépendra de la confiance que nous accorderons au messager.
« Le développement des systèmes d’intelligence artificielle, auquel j’ai consacré mon récent message pour la Journée mondiale de la paix, affecte radicalement le monde de l’information et de la communication et, à travers lui, certains fondements de la vie en société », prévient le Pape. « Ces changements affectent tout le monde, pas seulement les professionnels de ces domaines. La diffusion rapide d’innovations étonnantes, dont le fonctionnement et le potentiel dépassent la capacité de la plupart d’entre nous à comprendre et à apprécier, s’est avérée à la fois passionnante et désorientante. »