Les robots aspirateurs m’ont toujours semblé être des petits gars serviables et amicaux, mais c’est peut-être parce que je ne les ai pas beaucoup utilisés. J’adore l’idée d’un petit mec qui se cogne dans les choses et rend ma maison plus propre. L’idée semble moins charmante maintenant que j’ai découvert qu’ils peuvent prendre des photos de vous sur les toilettes puis les télécharger sur les réseaux sociaux sans que vous le sachiez. C’est un niveau d’intimidation bizarre que je ne veux pas de mon serviteur mécanique.
Eileen Guo au MIT Technology Review (s’ouvre dans un nouvel onglet) a cherché à savoir comment de telles photographies des aspirateurs Roomba d’iRobot, avec des visages clairement visibles des utilisateurs, ont fait leur chemin vers les médias sociaux (s’ouvre dans un nouvel onglet). Les photos incluent des photos très franches de personnes faisant des choses personnelles dans leur maison, y compris des images de femmes et d’enfants aux toilettes. Guo a également fait un excellent Fil Twitter (s’ouvre dans un nouvel onglet) avec des explications supplémentaires et des liens utiles.
Les images sensibles sont clairement prises depuis la position du robot aspirateur, qui l’aurait fait dans l’intérêt de la collecte de données. Un utilisateur concerné a parlé à MIT Technology Review expliquant qu’il était un testeur de produit pour la série iRobot Roomba J, ce qui signifiait laisser le robot parcourir la maison pour collecter des informations dans l’espoir d’améliorer le produit.
S’attendre à ce que vos informations soient renvoyées à une entreprise sécurisée qui cherche à former son IA de nettoyage est une chose, et découvrir que ces images sont également téléchargées sur les réseaux sociaux en est une autre. MIT Technology Review a constaté que lorsque iRobot collecte toutes ces données, il les envoie à des sociétés d’annotation de données. L’une de ces entreprises était Scale AI, qui embauche des sous-traitants à distance pour aider à évaluer les données non censurées.
Cela a conduit les travailleurs à partager des images entre eux sur les réseaux sociaux, qui ont bien sûr fait leur chemin vers le monde entier. De nombreux utilisateurs ont estimé qu’il s’agissait d’une violation de leur confiance, voire de leur contrat de testeurs. Il y a au moins 15 images qui ont fait leur chemin, mais il est probable qu’il y en ait beaucoup plus qui sont partagées. De manière appropriée, iRobot a cessé de fonctionner avec Scale AI.
Malheureusement, iRobot ne fait pas grand-chose de plus pour aider les personnes concernées ou redonner confiance. Le PDG Colin Angle a répondu au rapport de MIT Technology Review dans un post sur LinkedIn (s’ouvre dans un nouvel onglet) qui n’a reconnu aucun problème ou danger lié à la fourniture de ces images non censurées aux travailleurs des concerts. Avec peu de responsabilité ou de recours, cela semble être une idée dangereuse.
Angle passe la première partie du post Linked In à parler de la qualité des Roombas de l’entreprise, et à attribuer cela aux données collectées auprès de testeurs comme ceux-ci, puis les jette sous le bus, en disant qu’ils ne sont pas des consommateurs et ont consenti à faire collecter leurs données.
Il est bon de savoir que cela ne se produit pas avec les produits iRobot grand public, mais le manque de responsabilité envers les testeurs ne me donne pas envie de sortir et de prendre un Roomba de si tôt.
La publication sur LinkedIn reproche également au MIT Technology Review d’avoir partagé des versions censurées des images dans son article, ce qui n’a pas beaucoup de sens étant donné qu’iRobot a déjà volontairement partagé des images non censurées avec des inconnus qui se sont retrouvés en ligne.