Les grandes entreprises technologiques, dont Google, Apple et Discord, permettent aux utilisateurs de s’inscrire rapidement sur des sites Web malveillants de « déshabillage », qui utilisent l’IA pour retirer les vêtements des vraies photos afin de faire apparaître les victimes comme « nues » sans leur consentement. Plus d’une douzaine de ces sites Web deepfake utilisent depuis des mois les boutons de connexion des entreprises technologiques.
Une analyse de WIRED a identifié 16 des plus grands sites Web de déshabillage et de « nudification » utilisant l’infrastructure de connexion de Google, Apple, Discord, Twitter, Patreon et Line. Cette approche permet aux gens de créer facilement des comptes sur les sites Web deepfake, leur offrant ainsi un semblant de crédibilité, avant de payer pour des crédits et de générer des images.
Les robots et les sites Internet qui créent des images intimes non consensuelles de femmes et de filles existent depuis des années, mais leur nombre a augmenté avec l’introduction de l’IA générative. Ce type d’abus de « déshabillage » est extrêmement répandu, des adolescents créant des images de leurs camarades de classe. Les entreprises technologiques ont tardé à traiter l’ampleur du problème, selon les critiques, les sites Internet apparaissant en bonne place dans les résultats de recherche, les publicités payantes les promouvant sur les réseaux sociaux et les applications apparaissant dans les boutiques d’applications.
« Il s’agit de la continuation d’une tendance qui normalise la violence sexuelle contre les femmes et les filles par les géants de la technologie », déclare Adam Dodge, avocat et fondateur d’EndTAB (Ending Technology-Enabled Abuse). « Les API de connexion sont des outils pratiques. Nous ne devrions jamais faire de la violence sexuelle un acte de commodité », dit-il. « Nous devrions ériger des murs autour de l’accès à ces applications, et au lieu de cela, nous donnons aux gens un pont-levis. »
Les outils de connexion analysés par WIRED, qui sont déployés via des API et des méthodes d’authentification courantes, permettent aux utilisateurs d’utiliser des comptes existants pour rejoindre les sites Web deepfake. Le système de connexion de Google est apparu sur 16 sites Web, celui de Discord sur 13 et celui d’Apple sur six. Le bouton X était présent sur trois sites Web, tandis que Patreon et le service de messagerie Line apparaissaient tous deux sur les deux mêmes sites Web.
WIRED ne nomme pas les sites Web, car ils permettent des abus. Plusieurs d’entre eux font partie de réseaux plus vastes et appartiennent aux mêmes personnes ou entreprises. Les systèmes de connexion ont été utilisés malgré les règles générales des entreprises technologiques stipulant que les développeurs ne peuvent pas utiliser leurs services d’une manière qui pourrait nuire, harceler ou porter atteinte à la vie privée des personnes.
Contactés par WIRED, les porte-parole de Discord et d’Apple ont déclaré avoir supprimé les comptes de développeurs connectés à leurs sites Web. Google a déclaré qu’il prendrait des mesures contre les développeurs lorsqu’il constaterait que ses conditions d’utilisation ont été violées. Patreon a déclaré qu’il interdisait les comptes qui permettent la création d’images explicites, et Line a confirmé qu’il enquêtait mais qu’il ne pouvait pas faire de commentaires sur des sites Web spécifiques. X n’a pas répondu à une demande de commentaires sur la manière dont ses systèmes sont utilisés.
Dans les heures qui ont suivi l’annonce par Jud Hoffman, vice-président de la confiance et de la sécurité chez Discord, à WIRED de la résiliation de l’accès des sites Web à ses API pour violation de sa politique de développement, l’un des sites Web de déshabillage a publié sur un canal Telegram que l’autorisation via Discord était « temporairement indisponible » et a affirmé qu’il essayait de rétablir l’accès. Ce service de déshabillage n’a pas répondu à la demande de commentaires de WIRED sur ses opérations.