Les robots pornographiques sont plus ou moins ancrés dans l’expérience des médias sociaux, malgré les efforts déployés par les plateformes pour les éliminer. Nous nous sommes habitués à les voir inonder les sections de commentaires des mèmes et des publications de célébrités, et, si vous avez un compte public, vous les avez probablement remarqués en train de regarder et d’aimer vos histoires. Mais leur comportement ne cesse de changer légèrement pour garder une longueur d’avance sur les filtres automatisés, et maintenant les choses commencent à devenir bizarres.
Alors qu’à une époque, les robots pornographiques essayaient principalement d’attirer les gens avec des lignes d’accroche suggestives ou même ouvertement torrides (comme le toujours populaire « NE REGARDEZ PAS mon HISTOIRE, si vous ne voulez pas vous MASTURBER ! ») ces jours-ci, c’est un peu plus abstrait. Il est devenu courant de voir des comptes de robots publier un seul mot inoffensif et totalement sans rapport avec le sujet, parfois accompagné d’un ou deux emoji. Sur un message sur lequel je suis tombé récemment, cinq comptes de spam distincts utilisant tous la même photo de profil – un gros plan d’une personne en string rouge écartant ses fesses – ont commenté : « Pristine 🌿 », « Musique 🎶 », « Saphir 💙 », « Sérénité 😌 » et « Foi 🙏 ».
Un autre robot – sa photo de profil est une photo frontale sans tête du corps vêtu de lingerie de quelqu’un – a commenté le même message, « Michigan 🌟 ». Une fois que vous les avez remarqués, il est difficile de ne pas commencer à tenir un journal mental des cas les plus ridicules. « 🦄agriculture », a écrit un robot. Sur un autre post : « terreur 🌟 » et « 😍🙈insecte ». Les commentaires bizarres d’un seul mot sont partout ; les robots pornographiques, semble-t-il, l’ont complètement perdu.
En réalité, ce que nous constatons, c’est l’émergence d’une autre manœuvre d’évitement utilisée par les escrocs pour aider leurs robots à échapper à la technologie de détection de Meta. Ça, et ils pourraient devenir un peu paresseux.
« Ils veulent juste entrer dans la conversation, donc devoir rédiger une phrase cohérente n’a probablement pas de sens pour eux », a déclaré à Engadget Satnam Narang, ingénieur de recherche pour la société de cybersécurité Tenable. Une fois que les escrocs intègrent leurs robots, ils peuvent demander à d’autres robots d’accumuler des likes sur ces commentaires pour les élever encore davantage, explique Narang, qui enquête sur les escroqueries sur les réseaux sociaux depuis l’époque de MySpace.
L’utilisation de mots aléatoires aide les fraudeurs à passer inaperçus des modérateurs susceptibles de rechercher des mots-clés particuliers. Dans le passé, ils ont essayé des méthodes telles que l’insertion d’espaces ou de caractères spéciaux entre chaque lettre de mots susceptibles d’être signalés par le système. « Vous ne pouvez pas nécessairement interdire un compte ou supprimer un compte s’il se contente de commenter le mot ‘insecte’ ou ‘terreur’, car c’est très inoffensif », a déclaré Narang. « Mais s’ils disent : « Vérifiez mon histoire » ou quelque chose du genre… cela pourrait signaler leurs systèmes. C’est une technique d’évasion et cela fonctionne clairement si vous les voyez sur ces grands comptes. C’est juste une partie de cette danse.
Cette danse est l’une des plateformes de médias sociaux et les robots le font depuis des années, apparemment sans fin. Meta a déclaré qu’elle empêchait la création quotidienne de millions de faux comptes dans sa suite d’applications et en interceptait «des millions d’autres, souvent quelques minutes après leur création». Pourtant, les comptes de spam sont encore suffisamment répandus pour apparaître en masse sur les publications à fort trafic et se glisser dans les vues des histoires même des utilisateurs peu suivis.
Le rapport de transparence le plus récent de l’entreprise, qui comprend des statistiques sur les faux comptes supprimés, montre que Facebook a supprimé plus d’un milliard de faux comptes l’année dernière seulement, mais ne propose actuellement aucune donnée pour Instagram. « Les spammeurs utilisent toutes les plateformes à leur disposition pour tromper et manipuler les gens sur Internet et adaptent constamment leurs tactiques pour échapper aux autorités », a déclaré un porte-parole de Meta. « C’est pourquoi nous investissons massivement dans nos équipes d’application et d’examen, et disposons d’outils de détection spécialisés pour identifier le spam. »
En décembre dernier, Instagram a déployé une série d’outils visant à donner aux utilisateurs plus de visibilité sur la façon dont il gère les robots spammeurs et à donner aux créateurs de contenu plus de contrôle sur leurs interactions avec ces profils. Les titulaires de compte peuvent désormais, par exemple, supprimer en masse les demandes de suivi des profils signalés comme spam potentiel. Les utilisateurs d’Instagram ont peut-être également remarqué l’apparition plus fréquente de la section « commentaires cachés » au bas de certaines publications, où les commentaires signalés comme offensants ou spam peuvent être relégués afin de minimiser les rencontres avec eux.
«C’est un jeu de taupe», a déclaré Narang, et les escrocs gagnent. « Vous pensez l’avoir, mais ensuite cela apparaît ailleurs. » Les fraudeurs, dit-il, sont très habiles à comprendre pourquoi ils ont été bannis et à trouver de nouvelles façons de contourner la détection en conséquence.
On pourrait supposer que les utilisateurs des médias sociaux d’aujourd’hui seraient trop avisés pour se laisser prendre à des commentaires manifestement écrits par des robots comme « Michigan 🌟 », mais selon Narang, le succès des escrocs ne repose pas nécessairement sur la tromperie des malheureuses victimes pour qu’elles leur remettent leur argent. Ils participent souvent à des programmes d’affiliation et tout ce dont ils ont besoin est d’inciter les gens à visiter un site Web – généralement qualifié de « service de rencontres pour adultes » ou autre – et à s’inscrire gratuitement. Le « lien dans la bio » des robots dirige généralement vers un site intermédiaire hébergeant une poignée d’URL pouvant promettre des discussions ou des photos XXX et mener au service en question.
Les fraudeurs peuvent obtenir une petite somme d’argent, disons environ un dollar, pour chaque utilisateur réel qui crée un compte. Dans le cas où quelqu’un s’inscrirait avec une carte de crédit, le pot-de-vin serait beaucoup plus élevé. «Même si un pour cent de [the target demographic] en vous inscrivant, vous gagnez de l’argent », a déclaré Narang. « Et si vous gérez plusieurs comptes différents et que vous avez différents profils qui diffusent ces liens, vous apportez probablement une bonne part de changement. » Les fraudeurs d’Instagram sont susceptibles d’avoir des robots spammeurs sur TikTok, X et d’autres sites également, a déclaré Narang. « Tout s’additionne. »
Les méfaits des robots spammeurs vont au-delà des maux de tête qu’ils peuvent finalement causer aux quelques personnes qui ont été trompées en s’inscrivant à un service sommaire. Les robots pornographiques utilisent principalement des photos de personnes réelles qu’ils ont volées dans des profils publics, ce qui peut être embarrassant une fois que le compte de spam démarre en demandant à toutes les personnes connues de la personne représentée (parlant d’expérience personnelle ici). Le processus consistant à amener Meta à supprimer ces comptes clonés peut être un effort épuisant.
Leur présence ajoute également aux défis auxquels sont confrontés les véritables créateurs de contenu du secteur du sexe et des industries liées au sexe sur les réseaux sociaux, sur lesquels beaucoup s’appuient pour se connecter avec un public plus large, mais avec lesquels ils doivent constamment lutter pour éviter d’être déclassés. Les comptes Instagram imposteurs peuvent accumuler des milliers de followers, détournant les visiteurs potentiels des comptes réels et jetant le doute sur leur légitimité. Et les comptes réels sont parfois signalés comme spam dans la chasse aux robots de Meta, ce qui expose encore plus ceux dont le contenu est osé à un risque de suspension et d’interdiction de compte.
Malheureusement, le problème des robots n’a pas de solution simple. «Ils trouvent continuellement de nouvelles façons de contourner [moderation], proposer de nouveaux projets », a déclaré Narang. Les fraudeurs suivront toujours l’argent et, à cette fin, la foule. Alors que les robots pornographiques sur Instagram ont évolué au point de publier des bêtises pour éviter les modérateurs, des robots plus sophistiqués qui poursuivent une population plus jeune sur TikTok publient des commentaires quelque peu crédibles sur les vidéos de Taylor Swift, dit Narang.
La prochaine grande nouveauté des médias sociaux émergera inévitablement tôt ou tard, et ils y iront aussi. « Tant qu’il y aura de l’argent à gagner », a déclaré Narang, « il y aura des incitations pour ces escrocs ».