Civitai, un marché en ligne de partage de modèles d’IA, vient d’introduire une nouvelle fonctionnalité appelée « bounties » pour encourager sa communauté à développer des deepfakes passables de personnes réelles, Celui qui concocte le meilleur modèle d’IA obtient une monnaie virtuelle appelée « Buzz » que les utilisateurs peuvent acheter avec de l’argent réel.
De nombreuses primes publiées sur le site demandent aux utilisateurs de recréer l’image de célébrités et d’influenceurs des médias sociaux, pour la plupart des femmes. Le reportage qualifie également la part du lion de ces résultats d’« images sexuelles non consensuelles ». C’est le genre de chose qui prolifère sur Internet depuis des années et des années, mais l’intelligence artificielle permet d’obtenir un résultat final plus réaliste. En plus, 404 Médias J’ai trouvé des demandes de personnes privées sans présence en ligne significative, ce qui rend la situation encore plus effrayante.
« J’ai très peur de ce que cela peut devenir », a déclaré Michele Alves, une influenceuse Instagram qui a reçu une prime sur Civitai. 404 Médias. « Je ne sais pas quelles mesures je pourrais prendre, car Internet semble être un endroit hors de contrôle. »
Selon la société de marché , Civitai est actuellement la septième plateforme d’IA générative la plus populaire. En d’autres termes, de nombreux regards se tournent vers ces demandes de primes. Il n’a fallu que du personnel à 404 Médias moments pour rechercher des images envoyées via une demande de prime à une personne privée disposant de comptes de réseaux sociaux personnels ne comptant que quelques abonnés. La personne qui a publié la prime a affirmé qu’il s’agissait de sa femme, mais ses comptes sur les réseaux sociaux ont affirmé le contraire. Brut.
Un utilisateur de Civitai a décliné la prime au motif qu’elle « risquait de poser des problèmes juridiques à l’avenir ». À cette fin, Virginia vient de punir les créateurs de deekfakes d’une peine pouvant aller jusqu’à un an de prison. Néanmoins, cette demande particulière a été satisfaite et plusieurs images ont été téléchargées sur le site, même si elles n’étaient pas de nature sexuelle.
Il convient de noter que très peu de demandes de prime indiquent spécifiquement que l’affiche recherche du matériel sexuel, formulant la demande dans un langage vague. Certains, cependant, y vont à fond, utilisant des termes comme « demande dégénérée » ainsi que des commentaires sur la taille des seins féminins. Civitai, pour sa part, affirme que ces primes ne devraient pas être utilisées pour créer des images sexuelles non consensuelles de personnes réelles générées par l’IA.
Cependant, les images sexuelles de personnalités publiques et les images non sexuelles de personnes ordinaires sont autorisées. Après, il ne reste plus qu’à combiner les deux. 404 Médias a utilisé l’outil de conversion texte-image de l’entreprise pour créer des images sexuelles non consensuelles d’une personne réelle « en quelques secondes ».