Après les réactions négatives suscitées par le fait que le moteur de recherche de Google soit devenu la principale source de trafic pour les sites Web pornographiques deepfakes, Google a commencé à enterrer ces liens dans les résultats de recherche, a rapporté Bloomberg.
Au cours de l’année écoulée, Google a conduit des millions de personnes vers des sites controversés distribuant de la pornographie générée par l’IA représentant de vraies personnes dans de fausses vidéos sexuelles créées sans leur consentement, a découvert Similarweb. Même si n’importe qui peut être ciblé – la police est déjà aux prises avec un flot de fausses images sexuelles d’enfants provenant d’IA – les célébrités féminines sont les victimes les plus courantes. Et leurs fausses images intimes non consensuelles sont plus facilement détectables sur Google en recherchant à peu près n’importe quel nom célèbre avec le mot-clé « deepfake », a noté Bloomberg.
Google qualifie ce contenu de « faux involontaire » ou de « pornographie synthétique ». Le moteur de recherche permet aux victimes de signaler ce contenu chaque fois qu’il apparaît dans les résultats de recherche. Et lors du traitement de ces demandes, Google supprime également les doublons de tous les deepfakes signalés.
Le porte-parole de Google a déclaré à Ars qu’en plus de réduire les liens dans les résultats de recherche, Google « continue de diminuer la visibilité de la pornographie synthétique involontaire dans la recherche » et prévoit de « développer davantage de garanties à mesure que cet espace évolue ».
« Nous développons activement de nouvelles protections dans la recherche pour aider les personnes concernées par ce contenu, en nous appuyant sur nos politiques existantes », a déclaré le porte-parole de Google.
Au cours de la dernière année, cependant, certaines victimes ont critiqué le processus de Google pour supprimer les deepfakes, le qualifiant de lourd. Kaitlyn Siragusa, une joueuse de Twitch avec un OnlyFans explicite, a déclaré à Bloomberg en 2023 qu’en tant que cible fréquente des deepfakes, elle a constaté que demander la suppression de chaque lien deepfake est « un processus qui épuise du temps et de l’énergie ».
« C’est une bataille constante », a déclaré Siragusa.
En réponse au déclassement des deepfakes par Google, Carrie Goldberg, une avocate qui représente les victimes dont les contenus sexuels ont été diffusés en ligne sans consentement, a déclaré à Bloomberg que la dernière mise à jour de Google faisait « le strict minimum ».
Pour les victimes, l’essentiel est que les liens problématiques apparaîtront toujours dans les résultats de recherche de Google pour toute personne souhaitant continuer à faire défiler, et qu’une recherche intentionnelle de « deepfake » vous dirigera vers les sites les plus populaires pouvant ensuite être recherchés.
Ainsi, bien que le trafic de recherche basé aux États-Unis sur les deux sites pornographiques deepfake les plus populaires ait diminué jusqu’à 25 % « au cours des 10 premiers jours de mai par rapport à la moyenne des six mois précédents », a rapporté Bloomberg, les victimes ont toujours du mal à travailler. avec Google pour arrêter la propagation.
« Google a ruiné des vies et fait preuve d’une inflexibilité honteuse face aux problèmes qui se développent », a déclaré Goldberg, se joignant à d’autres décriant la décision de Google comme étant « trop peu, trop tard ».
La solution de Google impose encore largement aux victimes la responsabilité de détecter les deepfakes et de demander leur suppression, apparemment principalement parce que Google ne supprime de manière proactive les résultats Web que lorsque le contenu est directement en conflit avec la loi ou ses politiques en matière de contenu.
Cela impliquerait de supprimer les contenus pédopornographiques, les spams ou les informations personnelles qui pourraient être utilisées pour intimider quelqu’un. Mais le deepfake porno reste dans une zone juridiquement grise et, de ce fait, n’importe qui peut utiliser le moteur de recherche le plus populaire au monde pour faire apparaître des images intimes non consensuelles générées par l’IA à tout moment. Et même si le déclassement peut rendre plus difficile la découverte de deepfakes pornographiques pour les internautes occasionnels, cela rend également sans doute plus difficile et encore plus long pour les victimes coincées à chercher leurs deepfakes de les signaler et de les supprimer de la liste.
Certains États ont interdit les deepfakes, mais jusqu’à présent, il n’existe aucune loi fédérale qui pourrait pousser Google à être plus proactif dans la suppression des liens.
Cela pourrait changer si une victime du lycée, Francesca Mani, parvient à ses fins. Elle soutient la loi «Preventing Deepfakes of Intimate Images Act», qui vise à criminaliser la pornographie deepfake et impose des dommages et intérêts pouvant aller jusqu’à 150 000 dollars et une peine d’emprisonnement pouvant aller jusqu’à 10 ans si le partage des images facilite la violence ou a un impact sur les procédures d’une agence gouvernementale.
Cette législation a été présentée ce mois-ci à la Chambre des représentants des États-Unis et a été renvoyée au comité judiciaire, qui a compétence sur les organismes chargés de l’application des lois.
« Je suis ici debout et criant pour le changement, me battant pour des lois, afin que personne d’autre ne se sente aussi perdu et impuissant que moi », a déclaré Mani, 14 ans, lorsque la législation a été présentée.
Même si la diffusion de deepfake porn exacerbe les méfaits, certains pensent que créer des images préjudiciables devrait être un crime en premier lieu. Le Royaume-Uni réfléchit à une législation imposant une « amende illimitée » et une possible peine de prison simplement pour la création d’images deepfake, même si quelqu’un n’envisage jamais de partager les images, a rapporté Time.
Tant qu’il n’y aura pas de clarté juridique pour les victimes des deepfakes, la base juridique pour demander la suppression des résultats de recherche Google reste « fragile », a écrit Nina Jankowicz, chercheuse en désinformation et victime de deepfake, dans The Atlantic.
Pour les victimes, il semble qu’aucune solution ne soit suffisamment efficace pour mettre un terme au harcèlement continu des deepfakes.
Selon Jankowicz, l’adoption de la loi fédérale « ne résoudra pas le problème des deepfakes », car « Internet est éternel », « l’IA devient de plus en plus puissante de mois en mois » et les utilisateurs qui génèrent ce contenu sont « remarquablement nonchalants face à l’invasion de la vie privée ». ils commettent des actes. »
« Alors que les décideurs politiques s’inquiètent de savoir si l’IA va détruire le monde, je les en supplie : arrêtons d’abord les hommes qui l’utilisent pour discréditer et humilier les femmes », a écrit Jankowicz.
En plus d’adapter les lois et de réduire la propagation en ligne, un changement de culture est nécessaire pour mettre fin aux abus, suggère Jankowicz. Dans l’état actuel des choses, le deepfake porno « est devenu une arme précieuse dans l’arsenal utilisé par les misogynes pour tenter de chasser les femmes de la vie publique », a écrit Jankowicz.