Google a mis à jour sa politique relative au contenu inapproprié pour inclure un libellé interdisant expressément aux annonceurs de promouvoir des sites Web et des services générant de la pornographie deepfake. Bien que la société ait déjà mis en place de fortes restrictions pour les publicités présentant certains types de contenu sexuel, cette mise à jour ne laisse aucun doute sur le fait que la promotion de « contenu synthétique qui a été modifié ou généré pour être sexuellement explicite ou contenir de la nudité » constitue une violation de ses règles.
Tout annonceur faisant la promotion de sites ou d’applications qui génèrent du porno deepfake, qui affichent des instructions sur la façon de créer du porno deepfake et qui approuvent ou comparent divers services pornographiques deepfake sera suspendu sans avertissement. Ils ne pourront plus non plus publier leurs annonces sur Google. La société commencera à mettre en œuvre cette règle le 30 mai et donne aux annonceurs la possibilité de supprimer toute annonce en violation de la nouvelle politique. Comme 404 Médias Comme le note le site, l’essor des technologies deepfake a conduit à un nombre croissant de publicités faisant la promotion d’outils ciblant spécifiquement les utilisateurs souhaitant créer du matériel sexuellement explicite. Certains de ces outils prétendraient même être des services sains pour pouvoir être répertoriés sur l’App Store d’Apple et le Google Play Store, mais ils sont masqués sur les réseaux sociaux où ils font la promotion de leur capacité à générer du porno manipulé.
Google a cependant déjà commencé à interdire les services qui créent des deepfakes sexuellement explicites dans les publicités Shopping. Semblable à sa politique plus large à venir, la société a interdit les publicités Shopping pour les services qui « génèrent, distribuent ou stockent du contenu synthétique sexuellement explicite ou du contenu synthétique contenant de la nudité ». Ceux-ci incluent des didacticiels pornographiques deepfake et des pages faisant la publicité de générateurs pornographiques deepfake.