Slack a analysé vos messages pour entraîner ses modèles d’IA

Slack entraîne des modèles d’apprentissage automatique sur les messages, fichiers et autres contenus des utilisateurs sans autorisation explicite. La formation est opt-out, ce qui signifie que vos données privées seront récupérées par défaut. Pire encore, vous devrez demander à l’administrateur Slack de votre organisation (ressources humaines, informatique, etc.) d’envoyer un e-mail à l’entreprise pour lui demander d’arrêter. (Vous ne pouvez pas le faire vous-même.) Bienvenue dans le côté obscur de la nouvelle ruée vers l’or des données de formation en IA.

Corey Quinn, un cadre du groupe DuckBill, a repéré la politique dans un texte de présentation des principes de confidentialité de Slack et l’a publié sur X (via PCMag). La section se lit comme suit (c’est nous qui soulignons) : « Pour développer des modèles IA/MLnos systèmes analyser les données clients (par exemple messages, contenus et fichiers) soumis à Slack ainsi que les autres informations (y compris les informations d’utilisation) telles que définies dans notre politique de confidentialité et dans votre accord client.

Le processus de désinscription vous oblige à effectuer tout le travail nécessaire pour protéger vos données. Selon l’avis de confidentialité, « Pour vous désinscrire, veuillez demander aux propriétaires de votre organisation ou de votre espace de travail ou à votre propriétaire principal de contacter notre équipe d’expérience client à l’adresse [email protected] avec l’URL de votre espace de travail/organisation et la ligne d’objet « Demande de désinscription du modèle Slack Global ». .’ Nous traiterons votre demande et y répondrons une fois la désinscription terminée.

La société a répondu au message de Quinn sur X : « Pour clarifier, Slack dispose de modèles d’apprentissage automatique au niveau de la plate-forme pour des éléments tels que les recommandations de chaînes et d’emojis et les résultats de recherche. Et oui, les clients peuvent exclure leurs données de la formation de ces modèles ML (non génératifs).

On ne sait pas exactement depuis combien de temps la société appartenant à Salesforce a introduit cette information dans ses conditions. Il est pour le moins trompeur de dire que les clients peuvent se désinscrire alors que le terme « clients » n’inclut pas les employés travaillant au sein d’une organisation. Ils doivent demander à celui qui gère l’accès à Slack dans leur entreprise de le faire – et j’espère qu’il le fera.

Les incohérences dans les politiques de confidentialité de Slack ajoutent à la confusion. Une section indique : « Lors du développement de modèles Al/ML ou de l’analyse des données client, Slack ne peut pas accéder au contenu sous-jacent. Nous avons diverses mesures techniques pour empêcher que cela se produise. Cependant, la politique de formation du modèle d’apprentissage automatique contredit apparemment cette affirmation, laissant beaucoup de place à la confusion.

De plus, la page Web de Slack commercialisant ses outils d’IA générative haut de gamme indique : « Travaillez sans souci. Vos données sont vos données. Nous ne l’utilisons pas pour entraîner Slack AI. Tout fonctionne sur l’infrastructure sécurisée de Slack, répondant aux mêmes normes de conformité que Slack lui-même.

Dans ce cas, l’entreprise parle de ses outils d’IA générative haut de gamme, distincts des modèles d’apprentissage automatique sur lesquels elle s’entraîne sans autorisation explicite. Cependant, comme PCMag Remarques, ce qui implique que toutes vos données sont à l’abri de la formation en IA est, au mieux, une déclaration très trompeuse lorsque l’entreprise doit apparemment choisir les modèles d’IA couverts par cette déclaration.

Engadget a tenté de contacter Slack via plusieurs canaux mais n’a pas reçu de réponse au moment de la publication. Nous mettrons à jour cette histoire si nous recevons une réponse.