Rite Aid s’est vu interdire d’utiliser un logiciel de reconnaissance faciale pendant cinq ans, après que la Federal Trade Commission (FTC) a constaté que « l’utilisation imprudente des systèmes de surveillance faciale » par le géant américain de la pharmacie avait humilié les clients et mis leurs « informations sensibles en danger ».
L’ordonnance de la FTC, qui est soumise à l’approbation du tribunal américain des faillites après que Rite Aid a déposé une demande de mise en faillite (chapitre 11) en octobre, demande également à Rite Aid de supprimer toutes les images qu’elle a collectées dans le cadre du déploiement de son système de reconnaissance faciale, ainsi que tous les produits. qui ont été construits à partir de ces images. L’entreprise doit également mettre en œuvre un programme solide de sécurité des données pour protéger toutes les données personnelles qu’elle collecte.
Un rapport de Reuters de 2020 a détaillé comment la chaîne de pharmacies avait secrètement introduit des systèmes de reconnaissance faciale dans quelque 200 magasins américains sur une période de huit ans commençant en 2012, avec des « quartiers largement à faible revenu et non blancs » servant de banc d’essai technologique.
Alors que la FTC se concentre de plus en plus sur l’utilisation abusive de la surveillance biométrique, Rite Aid est tombé dans la ligne de mire de l’agence gouvernementale. Parmi ses allégations, Rite Aid – en partenariat avec deux sociétés sous contrat – a créé une « base de données de liste de surveillance » contenant des images de clients qui, selon la société, s’étaient livrés à des activités criminelles dans l’un de ses magasins. Ces images, souvent de mauvaise qualité, provenaient des caméras de vidéosurveillance ou des téléphones portables des salariés.
Lorsqu’un client entrait dans un magasin et était censé correspondre à une image existante dans sa base de données, les employés recevaient une alerte automatique leur demandant d’agir – et la plupart du temps, cette instruction consistait à « s’approcher et à s’identifier », c’est-à-dire à vérifier l’identité et l’identité du client. leur demandant de partir. Souvent, ces « correspondances » étaient des faux positifs qui conduisaient les employés à accuser à tort les clients d’actes répréhensibles, créant ainsi « de l’embarras, du harcèlement et d’autres préjudices », selon la FTC.
« Les employés, agissant sur la base d’alertes faussement positives, ont suivi les consommateurs dans ses magasins, les ont fouillés, leur ont ordonné de partir, ont appelé la police pour confronter ou expulser les consommateurs et les ont publiquement accusés, parfois devant des amis ou des membres de leur famille, de vol à l’étalage ou d’autres actes répréhensibles. », indique la plainte.
En outre, la FTC a déclaré que Rite Aid n’avait pas informé ses clients que la technologie de reconnaissance faciale était utilisée, tout en demandant aux employés de spécifiquement pas révéler ces informations aux clients.
Face-à-face
Les logiciels de reconnaissance faciale sont devenus l’un des aspects les plus controversés de l’ère de la surveillance basée sur l’IA. Au cours des dernières années, nous avons vu des villes interdire largement cette technologie, tandis que les politiciens se sont battus pour réglementer la manière dont la police l’utilise. Et des entreprises telles que Clearview AI, quant à elles, ont fait l’objet de poursuites et d’amendes dans le monde entier pour des violations majeures de la confidentialité des données liées à la technologie de reconnaissance faciale.
Les dernières découvertes de la FTC concernant Rite Aid mettent également en lumière les préjugés inhérents aux systèmes d’IA. Par exemple, la FTC affirme que Rite Aid n’a pas réussi à atténuer les risques pour certains consommateurs en raison de leur race – sa technologie était « plus susceptible de générer des faux positifs dans les magasins situés dans des communautés majoritairement noires et asiatiques que dans des communautés majoritairement blanches ». note des conclusions.
De plus, la FTC a déclaré que Rite Aid n’avait pas réussi à tester ou à mesurer la précision de son système de reconnaissance faciale avant ou après son déploiement.
Dans un communiqué de presse, Rite Aid a déclaré qu’elle était « heureuse de parvenir à un accord avec la FTC », mais qu’elle n’était pas d’accord avec l’essentiel des allégations.
« Les allégations concernent un programme pilote de technologie de reconnaissance faciale que la société a déployé dans un nombre limité de magasins », a déclaré Rite Aid dans son communiqué. « Rite Aid a cessé d’utiliser la technologie dans ce petit groupe de magasins il y a plus de trois ans, avant le début de l’enquête de la FTC concernant l’utilisation de la technologie par la société. »