Avec l’essor des outils d’IA capables de créer rapidement des images et des vidéos modifiées, il est devenu plus facile que jamais de créer de fausses images pour diffuser des informations erronées politiques menant à la prochaine élection présidentielle américaine. La solution proposée par Midjourney pourrait être d’interdire complètement les images politiques, selon Bloomberg. David Holz, PDG de Midjourney, aurait déclaré aux utilisateurs lors d’une session de discussion sur Discord que la société était sur le point d’interdire les images telles que celles de Biden et Trump au cours des 12 prochains mois.
« Je sais que c’est amusant de faire des photos de Trump – je fais des photos de Trump », a-t-il déclaré aux utilisateurs ayant assisté à la séance. « Trump est esthétiquement très intéressant. Mais il vaut probablement mieux ne pas le faire, mieux vaut se retirer un peu pendant cette élection. Nous verrons. » Comme Bloomberg note, des gens avaient déjà utilisé l’IA de l’entreprise pour générer des deepfakes de l’arrestation de Trump. La société a mis fin aux essais gratuits de son générateur d’images IA après que ces images – ainsi que ces tristement célèbres deepfakes du pape portant un manteau inspiré de Balenciaga – soient devenues virales.
À l’heure actuelle, l’entreprise a déjà mis en place des règles interdisant la création de « personnalités publiques trompeuses » et de « représentations d’événements » ayant le « potentiel d’induire en erreur ». Bloomberg Cependant, il était toujours capable de créer des images modifiées de Trump couvert de spaghettis en utilisant l’ancienne version du système de Midjourney, alors que la nouvelle version refusait de générer des images modifiées de l’ancien président. Bien sûr, même si Midjourney interdit les images de politiciens de haut niveau, il ne fera que protéger sa plateforme contre la colère des critiques et devenir le centre de l’attention cette saison électorale. Cela n’empêchera pas l’utilisation d’outils d’IA dans des campagnes de désinformation politique ou la diffusion de fausses informations destinées à manipuler les élections dans leur ensemble.
D’autres entreprises technologiques ont également pris des mesures pour contribuer à prévenir la désinformation politique, ou du moins pour faciliter son identification. ChatGPT commencera bientôt à marquer les images créées à l’aide de DALL-E 3, tandis que Meta travaille au développement d’une technologie capable de détecter et de signifier si une image, une vidéo ou un clip audio a été généré à l’aide de l’IA.