Même si la terrible publicité Facebook mettant en vedette le Premier ministre avec un accent australien est amusante, les experts disent que c’est le signe d’une désinformation politique à venir.
Contenu de l’article
Selon les observateurs de la technologie, une publicité Facebook amusante et horrible mettant en vedette Justin Trudeau avec un fort accent colportant une arnaque aux cryptomonnaies est un signe avant-coureur troublant des choses à venir alors que l’IA brouille la frontière entre le vrai et le faux.
La publicité utilise apparemment des voix générées par l’IA pour transformer une entrevue avec le premier ministre Justin Trudeau sur un podcast de la CBC de 2023 en une publicité de trois minutes pour une arnaque à l’investissement en ligne. Inexplicablement, la fausse version de Trudeau, né à Ottawa, est amenée à parler avec un accent australien.
Publicité 2
Contenu de l’article
Contenu de l’article
La publicité présente l’arnaque comme un programme d’investissement gouvernemental, ouvert uniquement aux citoyens canadiens, avec un nombre d’inscriptions limité. Bien que cela puisse sembler absurde aux utilisateurs avertis, sa faible crédibilité est davantage une fonctionnalité qu’un bug, a déclaré Aengus Bridgman, professeur adjoint à l’Université McGill.
« La marque des escroqueries est qu’elles doivent être suffisamment réalistes pour attraper quelqu’un, mais aussi suffisamment fausses pour que les personnes qu’elles attrapent puissent vraisemblablement se laisser prendre au piège », a déclaré Bridgman, qui étudie la communication politique.
La faible qualité, explique-t-il, filtre les utilisateurs expérimentés au profit du public cible des fraudeurs : des individus naïfs et inexpérimentés prêts à dépenser de l’argent pour un stratagème qu’ils jugent crédible.
« Celle-ci est tout simplement très mal faite », a déclaré Bridgman à propos de la publicité de Trudeau, en particulier pour une arnaque ciblant les citoyens canadiens.
« Mais c’est le genre de personne que vous voulez attirer avec ces publicités : quelqu’un qui n’a pas de connaissances numériques – de la même manière, les personnes âgées au Canada sont la proie des escroqueries téléphoniques et du vol d’identité. »
Même si la vidéo de Trudeau pourrait se terminer par un échec amusant, les professionnels de la sécurité affirment que les dirigeants gouvernementaux doivent s’inquiéter de la rapidité avec laquelle cette technologie progresse.
Première lecture
Contenu de l’article
Publicité 3
Contenu de l’article
Publicité 4
Contenu de l’article
Tony Anscombe, cadre de la société de cybersécurité ESET, a déclaré que les deepfakes d’images informatiques de qualité cinématographique nécessitent toujours des artistes formés utilisant des logiciels spécialisés. Ce serait le niveau de technologie utilisé pour ressusciter des célébrités décédées comme Peter Cushing dans le préquel de Star Wars, Rogue One. Mais il a déclaré que les outils capables de créer de fausses vidéos au moins passables sont de plus en plus disponibles.
Cette année s’annonce comme une année électorale chargée à l’échelle mondiale, avec notamment des scrutins fédéraux à enjeux élevés aux États-Unis et en Inde. Bridgman s’attend à ce que le recours massif aux deepfakes intervienne et obscurcisse les élections et érode encore davantage la capacité des gens à faire confiance à ce qu’ils voient en ligne.
« Cela va polluer l’environnement de l’information de la même manière que la désinformation, l’hyperpolarisation et la semi-vérité polluent déjà l’environnement des médias sociaux », a déclaré Bridgman.
« La conséquence de ce contenu est une diminution globale et durable de la confiance dans toutes les informations que l’individu a consommées. »
Anscombe a déclaré qu’à mesure que la technologie s’améliore, la détection des deepfakes deviendra de plus en plus difficile.
Publicité 5
Contenu de l’article
« Parce que la technologie devient de plus en plus disponible et s’améliore, je pense que cela devient plus difficile », a-t-il déclaré.
« Ensuite, il s’agit de savoir où vous devriez obtenir vos nouvelles. »
Alors qu’un contenu en ligne véridique devient de plus en plus difficile à identifier, Anscombe a déclaré que la meilleure défense est de vérifier auprès d’une source fiable.
Les deepfakes ont déjà été cités dans une tentative de désinformation liée aux primaires présidentielles américaines du mois dernier.
En janvier, les électeurs démocrates du New Hampshire étaient accueilli par des appels automatisés mettant en vedette la voix générée par l’IA du président américain Joe Bidenexhortant les gens à ne pas voter lors des prochaines primaires de l’État et à « conserver leur vote » pour les élections de novembre.
Cette année, sur les chaînes Telegram russophones, une vidéo falsifiée montrait la présidente moldave favorable à l’Occident, candidate à sa réélection cette année, Maia Sandu, se dénigrant elle-même.
Les deepfakes politiques, a déclaré Anscombe, ne sont pas toujours utilisés à des fins malveillantes.
Avant les élections générales du mois dernier au Pakistan, l’ancien président Imran Khan a largement utilisé la vidéo générée par l’IA pour faire campagne et prononcer des discours, tout en purgeant une peine de trois ans de prison.
Publicité 6
Contenu de l’article
Publicité 7
Contenu de l’article
Une partie de ces efforts comprenait un rassemblement de campagne en ligne fin décembre pour le parti Pakistan Tehreek-e-Insaf (PTI) de Khan, qui présentait un Khan généré par l’IA de quatre minutes s’adressant à ses partisans.
Bridgman a déclaré que la recherche technologique tentait de suivre le rythme pour mieux identifier les deepfakes, mais a déclaré qu’il appartenait toujours à l’utilisateur final de déterminer ce qui est réel et ce qui ne l’est pas.
« Il s’agit d’un problème qui, dans une certaine mesure, défie les ressources et les capacités actuelles de la société civile pour le surveiller et y répondre efficacement », a-t-il déclaré.
« C’est un véritable défi en ce moment. »
Poste National
Notre site Web est l’endroit idéal pour les dernières nouvelles, les scoops exclusifs, les lectures longues et les commentaires provocateurs. Veuillez ajouter nationalpost.com à vos favoris et vous inscrire à notre newsletter politique, Première lecture, ici.
Contenu de l’article