Crisis Text Line affirme que les données de conversation anonymisées aident à construire l’IA pour « un monde plus empathique »

Politique récemment signalé comment Crisis Text Line (qui n’est pas affiliée à la National Suicide Prevention Lifeline) partage les données des conversations avec Loris.ai, qui construit des systèmes d’IA conçus pour augmenter la conversation empathique par les représentants du service client. Crisis Text Line est un service à but non lucratif qui fournit une ligne de texte pour les discussions sur la santé mentale, mais il est également actionnaire de Loris.ai et, selon Politiqueà un moment donné partagé un PDG avec l’entreprise.

Avant que les utilisateurs de la hotline ne parlent avec des conseillers bénévoles, ils consentent à la collecte de données et peuvent lire les pratiques de partage de données de l’entreprise. Politique cite un volontaire disant que les personnes qui contactent la ligne « s’attendent à ce que la conversation se déroule uniquement entre les deux personnes qui parlent » et affirme qu’il a été licencié en août après avoir soulevé des inquiétudes concernant le traitement des données par CTL. Depuis lors, ce même employé a lancé une pétition poussant CTL « à réformer son éthique des données ».

Politique a noté comment Crisis Text Line dit que l’utilisation des données et l’IA jouent un rôle dans son fonctionnement:

«La science des données et l’IA sont au cœur de l’organisation – garantissant, dit-elle, que les personnes dans les situations les plus à risque n’attendent pas plus de 30 secondes avant de commencer à envoyer des messages à l’un de ses milliers de conseillers bénévoles. Il dit qu’il peigne les données qu’il collecte pour obtenir des informations qui peuvent aider à identifier les cas les plus nécessiteux ou à se concentrer sur les problèmes des gens, de la même manière qu’Amazon, Facebook et Google exploitent les tendances à partir des goûts et des recherches.

Suite au rapport, Crisis Text Line a publié une déclaration sur son site Internet et via un Fil Twitter. Dans un communiqué, Crisis Text Line a déclaré qu’elle ne « vendait ni ne partageait de données personnellement identifiables avec une organisation ou une entreprise ». Il poursuit en affirmant que «[t]Le seul partenaire à but lucratif avec lequel nous avons partagé des données entièrement nettoyées et anonymisées est Loris.ai. Nous avons fondé Loris.ai pour tirer parti des leçons tirées de l’exploitation de notre service afin de rendre le support client plus humain et empathique. Loris.ai est une entreprise à but lucratif qui aide d’autres entreprises à but lucratif à utiliser des techniques de désescalade dans certains de leurs moments les plus notoirement stressants et douloureux entre les représentants du service client et les clients.

Pour sa défense, Crisis Text Line a déclaré: « Notre processus de nettoyage des données a été étayé par des organismes de surveillance indépendants de la confidentialité tels que l’Electronic Privacy Information Center, qui a qualifié Crisis Text Line de » gestionnaire modèle des données personnelles « . C’était citer une lettre de 2018 à la FCCcependant, cette défense est plus fragile maintenant que l’Electronic Privacy Information Center (EPIC) a répondu avec sa propre déclaration disant que la citation a été utilisée en dehors de son contexte d’origine :

«Nos déclarations dans cette lettre étaient basées sur une discussion avec CTL au sujet de leurs politiques d’anonymisation et de nettoyage des données pour le partage de la recherche universitaire, et non sur un examen technique de leurs pratiques en matière de données. Notre examen n’était pas lié à, et nous n’avons pas discuté avec CTL, de l’accord commercial de transfert de données entre CTL et Loris.ai. Si nous l’avions fait, nous aurions pu soulever les préoccupations éthiques liées à l’utilisation commerciale des données de messages intimes directement avec l’organisation et ses conseillers. Mais nous ne l’étions pas, et la référence à notre lettre maintenant, hors contexte, est fausse.

Sur le site Loris.ai, Il réclame « la protection des données personnelles est au cœur de tout ce que nous faisons » et que « nous tirons nos informations de données anonymisées et agrégées qui ont été supprimées des informations personnelles identifiables (PII) ». Ce n’est pas suffisant pour EPIC, qui souligne que Loris et CTL cherchent à « extraire une valeur commerciale des moments les plus sensibles, intimes et vulnérables de la vie (de) ceux qui recherchent une assistance en santé mentale et des travailleurs acharnés intervenants bénévoles… Aucune technique de nettoyage des données ou déclaration dans les conditions d’utilisation ne peut résoudre cette violation éthique.