Le procureur de la ville de San Francisco, David Chiu, a annoncé son intention de fermer 16 des sites de « déshabillage » d’IA les plus populaires lors d’une conférence de presse jeudi.
Le procureur de la ville a indiqué que ces sites avaient enfreint les lois fédérales concernant la pornographie de vengeance, la pornographie deepfake et la pornographie infantile. Le bureau de Chiu a également accusé les sites d’avoir violé la loi sur la concurrence déloyale de l’État de Californie, car « le préjudice qu’ils causent aux consommateurs dépasse largement les avantages associés à ces pratiques », selon un dossier déposé auprès d’un tribunal supérieur de Californie.
La plainte concerne un total de 50 accusés que Chiu a l’intention de poursuivre pour exploitation de sites Web de déshabillage. Certains noms d’accusés et de sites Web ont été censurés, mais elle identifie également publiquement quelques entreprises qui exploitent « certains des sites Web les plus populaires au monde qui proposent de dénuder des images de femmes et de filles », comme Sol Ecom situé en Floride, Briver au Nouveau-Mexique et Itai Tech Ltd, basé au Royaume-Uni. Le seul accusé identifié dans la plainte est Augustin Gribinets d’Estonie, qui est accusé de posséder un site de déshabillage par IA présentant des images non consenties de femmes et d’enfants.
Ces sites ont généré plus de 200 millions de visites en six mois. Les images non consensuelles de femmes et d’enfants sur ces sites « sont utilisées pour intimider, menacer et humilier les femmes et les filles » à mesure que le nombre de visiteurs augmente « et cette tendance inquiétante ne montre aucun signe d’atténuation », selon la plainte.
Le procureur de la ville cite un cas dans sa plainte déposée en février, dans lequel un site de déshabillage par IA a généré des images de 16 élèves de huitième année dans un collège de Californie. L’incident fait peut-être référence à un incident survenu dans un lycée de Beverly Hills dans lequel 16 élèves faisaient circuler de fausses images nues d’autres élèves. Le district scolaire a expulsé cinq élèves pour leur implication dans la diffusion d’images illicites, selon le rapport. .
La technologie du deepfake est devenue une préoccupation juridique majeure, en particulier au niveau fédéral. Le mois dernier, un rapport sur les répliques numériques a été publié et a conclu qu’une « nouvelle loi était nécessaire ». Quelques jours plus tard, un groupe bipartisan de sénateurs a présenté un projet de loi visant à protéger les individus contre la recréation de leur voix, de leur visage ou de leur corps par l’IA sans leur consentement.