Hier, environ 50 images générées par l’IA imaginant à quoi ressemblerait l’arrestation de l’ancien président Donald Trump se sont répandues sur Twitter. Les images ont semé la confusion chez certains utilisateurs car le moteur Midjourney v5 utilisé pour les créer génère un contenu aussi réaliste.
Aujourd’hui, l’utilisateur de Midjourney à l’origine des images, le fondateur de Bellingcat, Eliot Higgins, a affirmé à Buzzfeed News qu’il avait été banni de Midjourney à cause des images. Buzzfeed a également signalé que Midjourney avait interdit l’utilisation du mot « arrestation » dans les invites de texte pour générer des images.
Midjourney n’a pas encore confirmé l’interdiction. Un test Ars indique que les invites utilisant le nom de Donald Trump semblent également être bloquées sur le moteur, générant à la place un message d’erreur indiquant que l’invite a été bloquée car « elle peut entrer en conflit avec notre politique de contenu ». Nous avons reçu le même message d’erreur lorsque nous avons utilisé des invites comprenant d’autres noms de famille Trump et tous les noms des présidents. Cependant, d’autres noms de célébrités, comme l’ancien joueur de la NFL Tom Brady, sont toujours apparemment acceptables dans les invites.
Higgins a déclaré à Buzzfeed qu’il comprenait pourquoi Midjourney l’avait peut-être interdit, affirmant que « cela poussait ma chance » en créant le fil Twitter qui est devenu viral. Higgins a déclaré à Ars que les réponses aux images ont été généralement positives, mais qu’il « met également en colère un certain nombre de fans de Trump ».
« Je n’avais pas l’intention de faire de critiques intelligentes ou quoi que ce soit du genre », a déclaré Higgins à Buzzfeed, affirmant qu’il s’amusait simplement à imaginer l’arrestation de Trump avec les images. « Mais ensuite, il a en quelque sorte pris une vie propre. »
Higgins a dit à Ars que « ce qui le remarquait vraiment » était « le nombre de personnes qui ne semblent pas avoir été au courant de l’existence de Midjourney ou de ce dont il est capable ». Il pense que la création des images « a eu un impact positif sur la sensibilisation au type d’images qui peuvent être truquées maintenant » et a déclaré que les plates-formes d’IA comme Midjourney « ne devraient probablement pas former leurs ensembles de données sur les personnes qu’elles ne veulent pas recréer ».
Hier, Higgins a expliqué à Wired comment les utilisateurs de Twitter pouvaient éviter d’être dupés en convainquant des images générées par l’IA comme les fausses images d’arrestation de Trump. Higgins a noté que les célébrités sont des cibles plus faciles pour les deepfakes, car « il est clair que plus une personne est célèbre, plus l’IA a dû apprendre d’images », a déclaré Higgins.
« Ainsi, les personnes très célèbres sont extrêmement bien rendues, tandis que les personnes moins célèbres sont généralement un peu bancales », a déclaré Higgins à Wired.
Sur Twitter, les images de Higgins sont désormais étiquetées avec une note de la communauté indiquant qu’elles sont fausses. La politique de Twitter stipule que les utilisateurs « ne peuvent pas partager de manière trompeuse des médias synthétiques ou manipulés susceptibles de causer des dommages » et que ces étiquettes « aident les gens à comprendre leur authenticité » et « fournissent un contexte supplémentaire ».
Higgins’ fil entier est toujours disponible sur Twitter, où certaines images ont été visionnées 4,8 millions de fois à ce jour.
Bien que Trump ait précédemment indiqué qu’il s’attendait à ce que son inculpation se produise hier, cela ne s’est pas produit. Des points de vente comme MSNBC et le New York Times rapportent maintenant que son arrestation potentielle pour des paiements silencieux à la star du porno Stormy Daniels pourrait avoir lieu dans les prochains jours.
Alors qu’Ars n’a trouvé aucun commentaire de Trump sur les images générées par l’IA de Higgins, Forbes a rapporté que Trump avait dit à ses conseillers qu’il voulait que son arrestation – si cela se produisait – soit un «spectacle» qui comprend une «promenade perp» dans les menottes afin qu’il ne semble pas faible à ses partisans.