Vous êtes rentré chez vous avec un rendez-vous avec Tinder et les choses dégénèrent. Vous ne connaissez pas vraiment ce type ou ne lui faites pas vraiment confiance, et vous ne voulez pas contracter une IST, alors… et maintenant ?
Une société appelée Calmara veut que vous preniez une photo du pénis de l’homme, puis que vous utilisiez son IA pour vous dire si votre partenaire est « clair » ou non.
Mettons quelque chose de côté dès le départ : vous ne devriez pas prendre de photo des organes génitaux de qui que ce soit et les scanner avec un outil d’IA pour décider si vous devez ou non avoir des relations sexuelles.
La prémisse de Calmara a plus de signaux d’alarme qu’un mauvais premier rendez-vous, mais la situation devient encore pire à partir de là si l’on considère que la majorité des IST sont asymptomatiques. Donc, votre partenaire pourrait très bien avoir une IST, mais Calmara vous dirait qu’il est hors de danger. C’est pourquoi les tests d’IST utilisent des échantillons de sang et d’urine pour détecter l’infection, par opposition à un examen visuel.
D’autres startups répondent au besoin de tests STI accessibles de manière plus responsable.
« Avec le diagnostic en laboratoire, la sensibilité et la spécificité sont deux mesures clés qui nous aident à comprendre la propension du test aux infections manquantes et aux faux positifs », a déclaré Daphne Chen, fondatrice de TBD Health, à TechCrunch. « Il existe toujours un certain niveau de faillibilité, même avec des tests très rigoureux, mais les fabricants de tests comme Roche sont francs avec leurs taux de validation pour une raison : les cliniciens peuvent ainsi contextualiser les résultats. »
Dans les petits caractères, Calmara prévient que ses conclusions ne doivent pas se substituer à un avis médical. Mais son marketing suggère le contraire. Avant que TechCrunch ne contacte Calmara, le titre de son site Web disait : « Calmara : votre meilleure amie intime pour les relations sexuelles non protégées » (il a depuis été mis à jour pour dire « Sexe plus sûr ».) Et dans une vidéo promotionnelle, il se décrit comme « le SITE WEB PARFAIT pour se connecter!”
Le co-fondateur et PDG Mei-Ling Lu a déclaré à TechCrunch que Calmara n’était pas conçu comme un outil médical sérieux. « Calmara est un produit de style de vie, pas une application médicale. Cela n’implique aucune condition médicale ni discussion dans son cadre, et aucun médecin n’est impliqué dans l’expérience actuelle de Calmara. C’est un service d’information gratuit.
« Nous mettons à jour les communications pour mieux refléter nos intentions actuelles », a ajouté Lu. « L’idée claire est d’entamer une conversation concernant le statut et les tests des IST. »
Calmara fait partie de HeHealth, fondée en 2019. Calmara et HeHealth utilisent la même IA, qui, selon elle, est précise à 65-90 %. HeHealth est présenté comme une première étape pour évaluer la santé sexuelle ; Ensuite, la plateforme aide les utilisateurs à se connecter avec les cliniques partenaires de leur région pour prendre rendez-vous pour un dépistage réel et complet.
L’approche de HeHealth est plus rassurante que celle de Calmara, mais la barre est basse – et même dans ce cas, un drapeau rouge géant flotte : la confidentialité des données.
« C’est bien de voir qu’ils proposent un mode anonyme, dans lequel vous n’avez pas besoin de lier vos photos à des informations personnellement identifiables », a déclaré à TechCrunch Valentina Milanova, fondatrice de la startup de dépistage des IST par tampons Daye. « Cependant, cela ne signifie pas que leur service est anonymisé ou anonymisé, car vos photos peuvent toujours être retracées jusqu’à votre adresse e-mail ou IP. »
HeHealth et Calmara affirment également qu’ils se conforment à la HIPAA, une réglementation qui protège la confidentialité des patients, car ils utilisent Amazon Web Services. Cela semble rassurant, mais dans sa politique de confidentialité, Calmara écrit qu’elle partage les informations des utilisateurs avec « des prestataires de services et des partenaires qui aident au fonctionnement du service, y compris l’hébergement des données, l’analyse, le marketing, le traitement des paiements et la sécurité ». Ils ne précisent pas non plus si ces analyses IA ont lieu sur votre appareil ou dans le cloud, et si oui, combien de temps ces données restent dans le cloud et à quoi elles sont utilisées. C’est un peu trop vague pour rassurer les utilisateurs sur la sécurité de leurs photos intimes.
Ces questions de sécurité ne concernent pas seulement les utilisateurs : elles sont dangereuses pour l’entreprise elle-même. Que se passe-t-il si un mineur utilise le site Web pour rechercher des IST ? Ensuite, Calmara se retrouve en possession de matériel d’abus sexuel sur des enfants. La réponse de Calmara à cette responsabilité éthique et juridique est d’écrire dans ses conditions de service qu’elle interdit l’utilisation par les mineurs, mais que cette défense n’aurait aucun poids juridique.
Calmara représente le danger d’une technologie trop médiatisée : cela ressemble à un coup publicitaire pour HeHealth de capitaliser sur l’enthousiasme suscité par l’IA, mais dans sa mise en œuvre réelle, cela donne simplement aux utilisateurs un faux sentiment de sécurité concernant leur santé sexuelle. Ces conséquences sont graves.
« La santé sexuelle est un domaine dans lequel il est difficile d’innover, et je peux voir où leurs intentions sont nobles », a déclaré Chen. « Je pense simplement qu’ils pourraient être trop rapides à commercialiser avec une solution mal cuite. »