Taylor Swift ne distribue pas de produits Le Creuset gratuits dans les publicités sur les réseaux sociaux – bien que les deepfakes de sa voix voudraient vous faire croire le contraire. Une série de messages ont récemment fait surface sur TikTok et dans la bibliothèque publicitaire de Meta, prétendant montrer Swift proposant des batteries de cuisine Le Creuset gratuites, le New York Times rapports. Les publicités présentaient des clips dans lesquels Swift se trouvait à proximité des produits Le Creuset et utilisaient une version synthétique de sa voix. Les escrocs ont utilisé l’IA pour que la voix clonée s’adresse à ses fans, « Swifties », et produise d’autres petites remarques.
Ces publications ont conduit les parties intéressées vers de fausses versions de sites comme The Food Network avec des articles et des témoignages inventés sur Le Creuset. Il a ensuite été demandé aux acheteurs de fournir simplement les 9,96 $ de frais d’expédition pour obtenir leurs produits gratuits. Sans surprise, aucun four hollandais n’est arrivé et les clients ont vu des frais mensuels supplémentaires ajoutés à leurs cartes. Le Creuset a confirmé qu’aucun cadeau de ce type n’avait eu lieu.
Swift n’est pas la seule célébrité à avoir récemment trouvé sa voix cooptée grâce à l’IA. Elle n’est même pas la seule utilisée dans l’arnaque, la décoratrice d’intérieur Joanna Gaines étant imitée dans des publicités provenant de comptes vérifiés ou étiquetés comme publications sponsorisées. En avril 2023, le Better Business Bureau a mis en garde les consommateurs contre la haute qualité des publicités présentant des versions de célébrités fabriquées par l’IA. Depuis lors, les escrocs ont utilisé des deepfakes pour convaincre les consommateurs que Luke Combs vendait des bonbons gélifiés pour perdre du poids, que Tom Hanks faisait la promotion de plans de soins dentaires et que Gayle King vendait d’autres produits de perte de poids, pour ne citer que quelques exemples.
Il existe peu de réglementations pour surveiller les deepfakes ou punir les personnes qui les créent. Une grande partie de la responsabilité incombe actuellement aux plateformes, YouTube, par exemple, définissant de nouvelles étapes pour signaler les deepfakes. Dans le même temps, il travaille avec des musiciens sélectionnés pour prêter leurs voix et susciter un plus grand intérêt pour les versions de personnes réelles générées par l’IA.
L’année dernière, deux projets de loi ont été présentés au Congrès pour lutter contre les deepfakes : le No Fakes Act et le Deepfakes Accountability Act. Toutefois, le sort de ces deux textes législatifs est incertain. Pour le moment, seuls certains États, comme la Californie et la Floride, disposent d’une réglementation en matière d’IA.