Pour un aperçu de la misère générée par l’IA qui s’accélère rapidement sur nos écrans grâce aux développements des médias synthétiques qui alimentent des formes de tromperie de plus en plus sophistiquées, consultez cet extrait du champion britannique du crédit à la consommation, Martin Lewis, apparemment shilling une opportunité d’investissement soutenue par Elon Musk.
Sauf bien sûr que la séquence (également intégrée dans le tweet ci-dessous) est un deepfake généré par l’IA et que l’opportunité d’investissement est une arnaque non soutenue par Lewis (ou Musk). Le premier tient également à ne jamais apparaître dans des publicités pour approuver des produits ou services tiers, pas que cela empêche les escrocs de détourner à plusieurs reprises son image pour des publicités sur les réseaux sociaux afin d’essayer d’inciter les gens à se séparer de leur argent…
Per Lewis, qui a été interviewé à propos du deepfake sur Good Morning Britain d’ITV (GMB), la vidéo de lui shilling une arnaque à l’investissement a circulé sur Facebook. Et le garçon est-il livide à ce sujet – étant donné qu’il s’est déjà donné la peine de poursuivre le géant de la technologie pour inaction sur des publicités frauduleuses portant son image, lançant un litige en diffamation en 2018 dans le but d’utiliser sa célébrité pour faire honte au géant de la technologie de faire quelque chose pour arrêter les escrocs.
« Cela circule sur Facebook en ce moment », a déclaré Lewis à propos de la vidéo deepfake. « Pour autant que je sache, c’est la première publicité d’escroquerie profonde que nous ayons vue. C’est certainement le premier avec moi. C’est un développement absolument terrifiant. Ce n’est encore que les premiers stades de la technologie. Et ils ne feront que s’améliorer.
« Je suis viscéralement en colère à ce sujet », a-t-il ajouté. « Les gens sauront que je fais campagne depuis des années pour une réglementation appropriée des publicités frauduleuses. »
Lewis a réglé son procès en diffamation contre Facebook en 2019 après avoir accepté d’apporter quelques modifications à son fonctionnement, affirmant qu’il offrirait un bouton de signalement d’annonce aux utilisateurs britanniques pour leur permettre de signaler plus facilement des publicités douteuses. Il s’est également engagé à apporter un financement d’une valeur de 3 millions de livres sterling pour aider à mettre en place un service de conseil aux citoyens en matière d’escroquerie.
Mais bien sûr, c’est une goutte d’eau dans l’océan d’argent que les Britanniques perdent régulièrement face aux escrocs. (L’année dernière, les pertes subies par les consommateurs et les entreprises britanniques en raison de fraudes et d’escroqueries financières ont atteint un record de 1,3 milliard de livres sterling.)
C’est également une chute dans l’océan des revenus de la société mère de Facebook, Meta (les revenus de l’année 2022 étaient de 116,61 milliards de dollars), qu’elle génère en vendant l’accès à des outils de ciblage publicitaire comportemental qui sont alimentés par son suivi et son profilage omniprésents des utilisateurs Web. .
Les outils publicitaires de Meta font essentiellement le gros du travail pour les escrocs derrière des publicités comme le deepfake de Lewis – car, une fois que les escrocs ont élaboré un message trompeur attrayant, ils peuvent le brancher directement sur les outils de ciblage publicitaire à grande échelle qu’il propose pour s’assurer que l’arnaque atterrit dans les flux des utilisateurs les plus susceptibles (et les plus vulnérables) d’être dupés par elle, tirant parti de la surveillance de masse continue des internautes par Meta pour atteindre de nouvelles victimes.
Interrogé sur une réponse au deepfake, un porte-parole de Meta a déclaré à TechCrunch qu’il enquêtait.
La société nous a également envoyé cette déclaration — affirmant :
Nous n’autorisons pas ce type de publicité sur nos plateformes et la vidéo originale a été supprimée de manière proactive par nos équipes, nous avons également supprimé un certain nombre de publicités imitées utilisant les mêmes images.
Cependant, Meta n’a pas fourni de réponse directe lorsque nous avons demandé comment il avait permis à une autre arnaque portant le goût explicite de Lewis – bien que, cette fois, les faux mouvements et les faux discours d’une voix qui ressemble remarquablement à la vraie affaire – soit téléchargé sur son plateforme.
Alors que Facebook/Meta est directement nommé et humilié par Lewis, le champion du consommateur est également en colère contre le gouvernement britannique pour ne pas s’être attaqué au problème des publicités frauduleuses.
Dans l’interview avec GMB, il a dénoncé l’absence de réponse du gouvernement après deux consultations sur les publicités en ligne. Et tandis que le projet de loi sur la sécurité en ligne a été élargi pour couvrir les publicités frauduleuses l’année dernière, à la suite de la campagne de Lewis, il a également attaqué le temps qu’il faut pour adopter la législation, le projet de loi faisant toujours son chemin au Parlement – laissant le Web britannique les utilisateurs à la merci de l’application timide par les plates-formes publicitaires de leurs propres CGU entre-temps.
« Nous avons toujours un Far West absolu sur les réseaux sociaux et d’autres plateformes publicitaires Big Tech qui permet aux escrocs de s’en tirer en toute impunité », a averti Lewis, ajoutant: « Ce que je veux que tout le monde se souvienne, c’est chaque fois que vous voyez l’une de ces publicités une des entreprises Big Tech est payé pour promouvoir cette annonce. Et ceux-ci détruisent les personnes vulnérables – et la vie de nombreuses personnes non vulnérables. »