Entrevue virale entre Joe Rogan et Justin Trudeau entièrement créée par l’intelligence artificielle

Contenu de l’article

OTTAWA – « Premier ministre, ravi de vous rencontrer enfin. Je suis content que tu sois sur le podcast.

Contenu de l’article

Le Premier ministre Justin Trudeau s’est apparemment assis avec le podcasteur américain Joe Rogan pour discuter de blackface et du Freedom Convoy, entre autres – sauf que la conversation n’a jamais eu lieu et a été entièrement créée par l’intelligence artificielle (IA).

Contenu de l’article

Le dialogue fictif a été produit à l’aide de la technologie d’ElevenLabs, une startup de technologie vocale basée sur l’IA basée au Royaume-Uni, qui a lancé le mois dernier une nouvelle plate-forme pour permettre aux utilisateurs de raconter du contenu avec un modèle de synthèse vocale qui « restitue de manière réaliste l’intonation et les inflexions humaines ».

Le « deep fake » entre Trudeau et Rogan avait été visionné plus de 135 000 fois sur YouTube mercredi à midi, la plupart des utilisateurs commentant sous la vidéo reconnaissant qu’il ne s’agissait pas d’une vraie conversation, mais certains autres étaient un peu confus.

Contenu de l’article

« Il n’y a aucun moyen que ce soit Trudeau, car il ne répond jamais à une question », a écrit l’utilisateur Marc Testani.

D’autres ont remercié Joe Rogan de leur avoir bien fait rire et ont déclaré que c’était son « meilleur podcast à ce jour ».

La vidéo elle-même ne montre que des images de Trudeau et de Rogan, mais leurs voix – bien qu’entièrement créées artificiellement – ​​pourraient facilement être confondues avec les vraies. Cela soulève une fois de plus des inquiétudes quant à la façon dont l’IA et les vidéos « deep fake » amplifient la propagation de la désinformation en ligne.

Par exemple, à un moment de la conversation, la voix générée par l’IA de Rogan demande au faux Trudeau s’il regrette la façon dont il a géré les manifestations du Freedom Convoy l’année dernière, auxquelles le faux Trudeau dit qu’il aurait voulu utiliser des armes nucléaires à Ottawa pour les terminer.

Contenu de l’article

«Nuke la capitale? Êtes-vous hors de votre putain d’esprit? Que pensez-vous que cela ferait du reste de la planète à l’humanité ? » demanda le faux Rogan.

«Eh bien, en fait, nous préférons le terme humanité», a répondu le faux Trudeau, faisant référence à la fois en 2018 où le vrai premier ministre a corrigé une femme qui avait utilisé le terme «humanité» en lui disant d’utiliser le terme plus politiquement correct «peuple». » lors d’une mairie.

À un autre moment, le faux Rogan fait référence à la théorie du complot selon laquelle Trudeau pourrait être le fils illégitime de l’ancien président cubain, Fidel Castro – quelque chose que le vrai Joe Rogan a évoqué dans son podcast l’année dernière mais a été largement démystifié comme faux.

Hany Farid, professeur à l’école d’information de l’Université de Californie à Berkeley, a déclaré que les gens se débattaient depuis les débuts d’Internet avec des informations peu fiables, des chambres d’écho et des théories du complot, mais que les « deep fakes » sont comme lancer du « carburant à réaction ». sur un feu de benne à ordures.

Contenu de l’article

« Alors que nous entrons dans un monde où tout peut être manipulé, alors rien ne doit être réel. Ce soi-disant dividende du menteur signifie que n’importe qui peut nier la réalité en prétendant simplement « deep fake » », a-t-il déclaré.

Farid a souligné une vidéo circulant l’année dernière de Jonathan Denis, l’ancien ministre de la Justice de l’Alberta, dans laquelle il semblait que Denis exécutait une caricature d’un Autochtone. Denis s’est d’abord excusé sans réserve, puis a affirmé que la vidéo était fausse.

Ce n’est pas non plus la première fois que des utilisateurs anonymes créent des vidéos « deep fake » sur l’hôte de « The Joe Rogan Experience », le podcast de Spotify le plus diffusé dans le monde.

Récemment, une publicité partagée sur TikTok a semblé montrer que Rogan faisait la promotion d’un supplément de libido pour hommes, mais la vidéo a finalement été retirée. D’autres « deep fakes » incluent des conversations humoristiques ou absurdes avec d’anciens invités de podcast comme Jordan Peterson.

Contenu de l’article

Hany Farid, professeur à l’école d’information de l’Université de Californie à Berkeley, a déclaré que les « deep fakes » ont déjà été militarisés pour créer des images sexuelles non consensuelles, commettre des fraudes ou diffuser de la désinformation et continueront de le faire.

« L’IA générative poursuit sa trajectoire balistique dans sa capacité à créer des sons, des images et des vidéos de plus en plus réalistes. De plus, ces outils deviennent plus faciles à utiliser par presque tout le monde », a-t-il déclaré.

ElevenLabs a reconnu quelques jours après le lancement de sa nouvelle plateforme de contenus générés par la voix que certains utilisateurs anonymes avaient utilisé leur technologie à des « fins malveillantes » et a décidé d’ajouter des vérifications supplémentaires pour mieux surveiller toute utilisation abusive de leur technologie.

Contenu de l’article

Farid a déclaré que la création de ces fausses vidéos peut constituer une « menace plus importante pour l’écosystème de l’information en ligne » à long terme.

Le bureau du Premier ministre a déclaré qu’il ne commenterait pas la vidéo « deep fake » avec Rogan devenant virale.