Une vidéo de campagne de Ron DeSantis montre trois photos de Donald Trump étreignant et embrassant Anthony Fauci, qui semblent toutes être de fausses images générées par l’intelligence artificielle. Un professeur a déclaré à Ars aujourd’hui qu’il n’y a « aucun doute » que la publicité utilise de fausses images d’IA.
Comme l’a rapporté l’AFP hier, les experts en criminalistique des médias affirment que les images, que l’annonce de DeSantis a fait passer pour des photographies prises pendant la présidence de Trump, présentent des signes révélateurs d’IA. Même les non-experts peuvent remarquer des bizarreries, comme un texte incompréhensible sur un panneau qui devrait indiquer « Maison Blanche » et « Washington ».
Bien sûr, un autre cadeau est que le président de l’époque, Trump et Fauci, n’étaient pas vraiment en termes de câlins et de baisers. Trump a attaqué à plusieurs reprises Fauci et a résisté aux mesures visant à ralentir la propagation de la pandémie de COVID-19. Fauci, qui est maintenant à la retraite, était le directeur de longue date de l’Institut national des allergies et des maladies infectieuses.
Le DeSanti publicité vidéo publié lundi critique Trump pour ne pas avoir renvoyé Fauci. À mi-parcours, il y a un collage de six images (vu en haut de cet article) de Trump et Fauci.
La vidéo a été partagée sur Twitter par la « DeSantis War Room », qui semble avoir été créée par la campagne DeSantis l’année dernière. Christina Pushaw, directrice de la réponse rapide pour la campagne DeSantis, annoncé le compte DeSantis War Room en août 2022. Pushaw était auparavant attaché de presse du gouverneur de Floride DeSantis avant de prendre un poste dans sa campagne.
« Pas de doute dans mon esprit » qu’ils sont faux
« Il ne fait aucun doute dans mon esprit que les images en haut à gauche et en bas au milieu sont fausses », a déclaré aujourd’hui à Ars VS Subrahmanian, chercheur en intelligence artificielle et professeur d’informatique à la Northwestern University. « Comme indiqué dans l’article de l’AFP, l’image en haut à gauche montre un lettrage incorrect sur la photo de la Maison Blanche. L’image en bas au milieu montre un certain nombre de stries blanches étranges entre les étoiles du drapeau américain. »
Comme certaines personnes l’ont souligné, les cheveux de Trump ne semblent pas naturels sur les images. Ars Technica AI et Machine Learning Reporter Benj Edwards m’a dit aujourd’hui qu’il avait remarqué, entre autres problèmes, un « manque de détails dans les cheveux. Les modèles de synthèse d’IA sont toujours mauvais pour rendre des détails précis et meilleurs pour obtenir des choses générales à peu près correctes ».
Nous avons contacté la campagne DeSantis aujourd’hui et mettrons à jour cet article si nous obtenons une réponse.
Les trois vraies photos du collage montrent Trump et Fauci assis ou debout l’un près de l’autre. L’une des vraies images se trouve sur Getty Images, une autre sur le site Web des National Institutes of Health et la troisième provient de Reuters.
Bien que DeSantis critique Trump pour ne pas avoir licencié Fauci, DeSantis lui-même aurait félicité Fauci le 25 mars 2020, comme « faisant vraiment du bon travail » dans une « situation difficile et difficile ».
Attendez-vous à de meilleurs faux à l’approche des élections
Les fausses images de la publicité DeSantis étaient relativement faciles à détecter, mais il deviendra de plus en plus difficile de repérer les contrefaçons au fil du temps, a déclaré à Ars James O’Brien, professeur d’informatique à l’Université de Californie à Berkeley.
« Le plus gros signe qu’ils sont faux est la qualité de l’éclairage des images », a déclaré O’Brien. « C’est comme ce que vous obtiendriez dans un studio de production vidéo ou de photographie professionnel avec un éclairage contrôlé, un maquillage et une configuration soignée. Les vraies images n’ont pas cette qualité. »
Les recherches d’O’Brien comprennent l’apprentissage automatique et l’analyse médico-légale d’images et de vidéos. Il a averti que « les systèmes d’IA s’améliorent très rapidement et je m’attends à ce qu’à l’approche des élections, il y aura à la fois des images et des vidéos que même les experts ne pourront pas distinguer de la réalité ».
Mélange sournois d’images réelles et fausses
« C’était sournois de mélanger ce qui semble être des photos authentiques avec de fausses photos, mais ces trois images sont presque certainement générées par l’IA », a déclaré à l’AFP Hany Farid, professeur à l’Université de Californie à Berkeley. Les recherches de Farid se concentrent sur des domaines tels que la criminalistique numérique, la désinformation, l’analyse d’images et la perception humaine. Les problèmes dans l’image en bas à droite incluent « des différences dans la forme de l’oreille de Trump par rapport aux photos d’archives », a déclaré Farid.
Les trois images suspectes « contiennent de nombreux signes indiquant qu’elles ont été générées par l’IA », a déclaré à l’AFP Matthew Stamm, professeur à l’université de Drexel et expert en détection d’images et de vidéos falsifiées.
« Par exemple, si vous regardez attentivement les cheveux de Donald Trump dans les images en haut à gauche, en bas au milieu et en bas à droite, vous pouvez voir qu’ils contiennent des textures incohérentes et sont nettement plus flous que d’autres contenus à proximité tels que ses oreilles ou d’autres régions de son visage », a déclaré Stamm à l’AFP.
Le professeur Siwei Lyu de l’université de Buffalo, directeur du Media Forensic Lab de l’école, « a déclaré à l’AFP le [top-left] L’image montre également le bras droit de Trump dans une position anormale, il semble s’étendre trop loin car il s’enroule complètement autour du corps de Fauci « , a rapporté l’agence de presse. Dans l’image du milieu inférieur, la main droite de Trump est » clairement générée avec le pouce dans une position contre nature », a déclaré Lyu à l’AFP.
« Dans le même temps, Stamm a noté que la main gauche de Trump ne semble pas avoir de pouce sur l’image, mais se fond dans sa main droite », a écrit l’AFP.
L’annonce de la campagne DeSantis n’est pas la première à utiliser l’IA. En avril, le GOP a publié une publicité anti-Biden qui utilisait des images générées par l’IA.