Bumble a annoncé aujourd’hui le lancement d’une nouvelle fonctionnalité basée sur l’IA, conçue pour aider à identifier le spam, les escroqueries et les faux profils. Le nouvel outil, appelé Deception Detector, vise à agir sur le contenu malveillant avant que les utilisateurs de Bumble ne le découvrent.
Lors des tests, Bumble a constaté que l’outil était capable de bloquer automatiquement 95 % des comptes identifiés comme des comptes de spam ou d’escroquerie. Au cours des deux premiers mois de test de l’outil, Bumble a constaté une réduction de 45 % des rapports d’utilisateurs concernant le spam, les escroqueries et les faux comptes. Deception Detector fonctionne aux côtés de l’équipe de modération humaine de Bumble.
Le lancement de cette nouvelle fonctionnalité intervient alors que des recherches internes de Bumble ont montré que les faux profils et le risque d’escroquerie sont les principales préoccupations des utilisateurs lors de rencontres en ligne, indique la société. La recherche a également montré que 46 % des femmes ont exprimé leur anxiété quant à l’authenticité de leurs correspondances en ligne sur les applications de rencontres.
« Bumble Inc. a été fondée dans le but d’établir des relations équitables et de permettre aux femmes de faire le premier pas, et Deception Detector est notre dernière innovation dans le cadre de notre engagement continu envers notre communauté pour garantir que les connexions établies sur nos applications sont authentiques, « , a déclaré Lidiane Jones, PDG de Bumble, dans un communiqué. « En nous concentrant spécifiquement sur l’expérience des femmes en ligne, nous reconnaissons qu’à l’ère de l’IA, la confiance est plus primordiale que jamais. »
La Federal Trade Commission (FTC) a rapporté l’année dernière que les escroqueries amoureuses avaient coûté aux victimes 1,3 milliard de dollars en 2022, tandis que la perte médiane déclarée était de 4 400 dollars. Le rapport indique que même si les fraudeurs romantiques utilisent souvent des applications de rencontres pour cibler des personnes, il est plus courant que les personnes soient ciblées via des DM sur les plateformes de médias sociaux. Par exemple, 40 % des personnes ayant perdu de l’argent à cause d’une escroquerie amoureuse ont déclaré que le contact avait commencé sur les réseaux sociaux, tandis que 19 % ont déclaré qu’il avait commencé sur un site Web ou une application.
Le nouvel outil est la dernière fonctionnalité d’IA de Bumble conçue pour rendre l’application plus sûre. En 2019, Bumble a introduit une fonctionnalité « Détecteur privé » qui brouille automatiquement les images nues et les étiquete comme telles dans les discussions, permettant aux utilisateurs de visualiser l’image ou de signaler l’utilisateur.
Bumble exploite également l’IA dans Bumble For Friends, l’application dédiée de la société pour trouver des amis. L’application a récemment lancé des suggestions brise-glace basées sur l’IA qui aident les utilisateurs à rédiger et à envoyer un premier message basé sur le profil de l’autre personne. Vous pouvez modifier la question ou demander une autre suggestion, mais vous ne pouvez utiliser qu’un seul brise-glace généré par l’IA par discussion.
Il convient de noter que Private Detector et Deception Detector sont utilisés à la fois dans Bumble et Bumble for Friends.