Nous en sommes aux premiers stades de voir comment les technologies d’IA vont changer des éléments du monde, à la fois en ligne et dans l’espace de la viande, et jusqu’à présent, le verdict est décidément mitigé. La grande technologie parie qu’elle révolutionnera des choses comme la recherche avant de saigner dans tous les aspects de la façon dont nous communiquons et interagissons avec le monde. Mais il s’agit d’une technologie puissante et de pointe, ce qui signifie une chose : les mauvais acteurs vont essayer d’exploiter ces choses de toutes les manières possibles.
Les vidéos Deepfake circulent maintenant en ligne depuis un certain temps ; ce sont des clips générés par l’IA où l’image d’une personne est superposée sur des séquences existantes de sorte qu’elle semble impossible à distinguer de la personne réelle. Ces clips sont souvent accompagnés de pronostics désastreux sur la façon dont ils seront utilisés à l’avenir et maintenant, grâce à TikTok, vous pouvez voir l’un des premiers exemples largement diffusés.
La plate-forme propose aux utilisateurs une publicité frauduleuse qui présente une version générée par l’IA de l’hôte de podcast extrêmement populaire Joe Rogan. Rogan est une figure controversée pour diverses raisons, mais cette publicité n’a absolument rien à voir avec le vrai Joe Rogan, mettant en vedette à la place un IA Rogan qui discute des pilules pour pénis sur une vidéo qui alterne entre des plans de ‘Rogan’ parlant et une démonstration de la façon de acheter lesdites pilules.
Le clip a été révélé par Coffeezilla, un enquêteur extraordinaire des coins les plus sombres d’Internet. Plus récemment, il a embarrassé Logan Paul pour le désastreux projet CryptoZoo de l’influenceur. (s’ouvre dans un nouvel onglet).
Les escroqueries Deepfake sont là, et nous ne sommes pas prêts. pic.twitter.com/NtPKWGCULi12 février 2023
Quoi que vous pensiez de Joe Rogan, il est la victime ici, et j’encourage tout le monde à regarder cette vidéo juste pour voir à quel point l’arnaque est convaincante. La vidéo montre le faux Rogan vantant les vertus d’un produit appelé « Alpha Grind », parlant de son statut de best-seller sur Amazon, et parlant d’une manière conversationnelle qui, à mes oreilles d’amateur, imite la prestation et le style du présentateur : « Si vous allez sur Amazon et tapez Libido Booster for Men, vous le trouverez tout en haut. Parce que les gars se rendent compte qu’il augmente littéralement la taille et fait une différence là-bas.
J’ai contacté le vrai Joe Rogan pour un commentaire et je le mettrai à jour avec toute réponse.
Vous ne blâmeriez personne de penser que c’est la vraie affaire, et les implications de cela sont assez horribles. Il est également à noter que la technologie de pointe est ici déployée pour vendre des pilules pour pénis aux hommes déprimés : plus ça change.