Il est temps que les réseaux sociaux et les applications de rencontres affrontent une fois pour toutes la musique et la fraude, la tromperie et la désinformation sur leurs plateformes.
Au début, les médias sociaux et les applications de rencontres représentaient de petits coins d’Internet avec seulement une poignée d’utilisateurs. Aujourd’hui, Facebook et Twitter sont si importants qu’ils influencent les élections, font ou défont les campagnes de vaccination et font bouger les marchés.
Les applications de rencontres comme Tinder et Bumble ne sont pas loin derrière, avec des millions et des millions de personnes qui font appel à leurs services pour rencontrer leur partenaire « pour toujours ».
Mais le plaisir et les jeux sont terminés maintenant. Vous avez choisi le profit plutôt que la confiance et la sécurité. Vous avez créé une passerelle pour le vol d’identité et la fraude en ligne.
Aujourd’hui, nous avons tous un ami qui a été « pêché » sur Bumble ou Tinder ; nous avons tous des membres de notre famille qui ont été victimes d’escroqueries en ligne sur Twitter et Facebook. Chaque jour, nous entendons parler de nouveaux cas où des acteurs malveillants volent des identités – ou en créent de fausses – pour commettre des fraudes, diffuser de la désinformation à des fins politiques et commerciales ou promouvoir des discours de haine.
Dans la plupart des secteurs, les utilisateurs avec de fausses identités n’ont d’impact que sur l’entreprise. Mais lorsque la confiance est rompue sur les plateformes de rencontres et les réseaux sociaux, cela nuit les utilisateurs et la société en général. Et l’impact financier, psychologique – et parfois physique – sur une personne est réel.
Alors, à qui revient la responsabilité d’arrêter ou de combattre cette augmentation de la fraude ? Clairement, pas les plateformes elles-mêmes. Bien que certains prétendent agir.
Au quatrième trimestre 2020, Facebook a supprimé 1,3 milliard de faux comptes. Assez? Même pas près. Le fait est que les plateformes sociales et les applications de rencontres font aujourd’hui le strict minimum pour empêcher la fraude. Bien que l’IA de base et les modérateurs humains aident, ils sont surpassés par le grand nombre d’utilisateurs.
Facebook dit avoir 35 000 personnes qui vérifient le contenu ; c’est une légion, mais cela équivaut à environ un modérateur pour 82 000 comptes. Et à mesure que les mauvais acteurs deviennent de plus en plus sophistiqués de jour en jour, utilisant des deepfakes et des techniques criminelles évolutives telles que la fraude synthétique, leur ampleur continue d’augmenter. Même les utilisateurs en ligne avertis sont la proie de ces inconvénients.
Les plateformes sociales et de rencontres ont été critiquées pour avoir agi lentement pour lutter contre le problème, mais que peut-on faire ?
La pêche au chat est une affaire sérieuse
Il n’est pas difficile d’imaginer ce scénario : vous rencontrez quelqu’un en ligne et démarrez une conversation. La personne dit les bonnes choses, pose les bonnes questions. La relation commence à sembler « réelle » et vous commencez à ressentir une parenté. Avant que vous ne le sachiez, cela dégénère; tous vos gardes sont baissés et vous devenez insensible aux drapeaux rouges. Vous allez jusqu’à appeler ça de l’amour.
Vous et votre nouveau partenaire envisagez de vous rencontrer enfin en personne. Ils prétendent qu’ils n’ont pas d’argent pour le voyage. Vous envoyez l’argent avec confiance et amour, seulement pour que cette personne devienne fantôme peu de temps après.
Alors que certains incidents de pêche au chat se résolvent d’eux-mêmes avec un minimum de dommages, d’autres – comme l’exemple ci-dessus – peuvent conduire à des extorsions financières et à des activités criminelles. Les pertes signalées dues aux escroqueries amoureuses ont atteint un record de 304 millions de dollars en 2020, selon la Federal Trade Commission.
Les pertes réelles dans cette zone sous-déclarée sont cependant probablement exponentiellement plus élevées, et plus encore lorsque vous comptez les « zones grises » et la mendicité en ligne. Pourtant, la plupart des applications de rencontres n’offrent pas de moyen de vérifier les identités. Certaines applications populaires, comme Tinder, rendent la vérification d’identité volontaire ; d’autres, eh bien, n’offrent rien. Qui veut mettre des frictions sur le chemin d’un nouvel abonné ?
Mais la vérification volontaire ne fait qu’effleurer la surface. Ces entreprises doivent faire plus pour bloquer l’accès aux identités anonymes et falsifiées. Compte tenu des dommages qu’ils infligent aux sociétés et à leurs clients, nous devons, en tant que société, exiger qu’ils intensifient leurs efforts.
Sur les réseaux sociaux, la vérification d’identité peut être une arme à double tranchant
Les escroqueries romantiques ne sont pas spécifiques aux applications de rencontres ; environ un tiers commencent réellement sur les réseaux sociaux. Mais il existe de nombreuses autres raisons de vérifier son identité sur les réseaux sociaux. Les consommateurs voudront peut-être savoir s’ils s’engagent avec le vrai Oprah Winfrey ou Ariana Grande ou un compte parodique ; Winfrey et Grande veulent probablement aussi que cette distinction soit apparente.
Plus sérieusement, la pression monte pour que les réseaux sociaux contrôlent les agresseurs en ligne en vérifiant les identités. En Angleterre, le mouvement #TrackaTroll a pris de l’ampleur, principalement grâce aux efforts de la star de télé-réalité britannique Katie Price. Près de 700 000 ont signé sa pétition en faisant pression pour Harvey’s Law, qui porte le nom de son fils handicapé, qui a été fortement ciblé par des agresseurs anonymes en ligne.
Cependant, beaucoup s’opposent fortement à l’exigence d’une vérification d’identité sur les réseaux sociaux. Habituellement, ils soulignent que l’exigence d’une vérification peut mettre en danger les victimes de violence domestique et les dissidents dans les pays dotés de régimes répressifs qui recherchent et nuisent aux opposants politiques. De plus, la vérification d’identité ne dissuaderait pas beaucoup de ceux qui répandent de la désinformation sur la politique ou les vaccins parce qu’ils veulent être identifiés pour construire leur audience et leur marque personnelle.
Aujourd’hui, Facebook et Twitter proposent un processus d’examen de « vérification » qui attribue aux comptes authentiques une coche bleue. Mais c’est loin d’être infaillible. Twitter a récemment suspendu son programme de « vérification » car il a incorrectement vérifié un certain nombre de faux comptes.
Facebook a fait plus. Le réseau social a longtemps imposé une vérification d’identité conditionnelle, par exemple, si un utilisateur est verrouillé hors de son compte. Ils fondent également les exigences d’identité sur le contenu publié, où certains comportements, mots et images déclenchent un blocage de l’affiche, en attendant la vérification et l’examen humain.
La course aux armements identitaires
Lorsque de mauvais acteurs créent de fausses identités sur des applications de rencontres et des réseaux sociaux pour frauder et nuire à autrui, cela nuit à la confiance du public et a sans aucun doute un impact sur les revenus de ces plateformes. Les plateformes de médias sociaux luttent quotidiennement pour concilier leurs objectifs commerciaux de maximisation de l’utilisation avec la protection de la vie privée des utilisateurs – ou sont confrontées à une réglementation accrue et à une perte de confiance des consommateurs.
Il est vital de protéger les identités des voleurs et des pirates informatiques qui en abuseraient. Imaginez un faux compte Twitter ou Facebook prétendant être vous, diffusant des propos haineux. Sans un moyen de réfuter votre implication, vous pourriez perdre votre emploi ou pire.
Quels choix les plateformes feront-elles pour protéger leurs utilisateurs – et leur propre marque ? Leurs décisions se sont concentrées sur la politique et la protection des revenus plutôt que sur la technologie. Équilibrer les mesures de confiance avec les problèmes de confidentialité et leur besoin de revenus est le grand dilemme stratégique qu’ils doivent résoudre. Quoi qu’il en soit, il leur incombe de créer un espace sûr pour ses utilisateurs.
Réseaux sociaux et plateformes de rencontres doit assumer une plus grande responsabilité lorsqu’il s’agit de protéger les utilisateurs contre la fraude et les mauvais acteurs en ligne.