De plus en plus de mods Skyrim, y compris plus que quelques-uns du côté M, utilisent des voix générées par l’IA basées sur de vrais acteurs vocaux. Certains de ces acteurs ont maintenant publiquement dénoncé la pratique consistant à gratter et à cloner des performances sans autorisation, notamment à des fins pornographiques.
Le travail vocal de l’IA n’est pas une nouvelle controverse, mais il est devenu beaucoup plus répandu sur la scène du modding de Skyrim ces derniers mois grâce à l’outil d’intelligence artificielle ElevenLabs, qui a démarré en 2022 et a lentement pris de l’ampleur parmi les moddeurs de Skyrim. Le position officielle de Nexus Mods, qui a statué en avril 2023 que « le contenu de mod généré par l’IA n’est pas contraire à nos règles », a également ajouté de l’huile sur le feu.
L’IA a été utilisée assez récemment pour donner des voix à l’Enfant de Dragon, certains compagnons PNJ de Skyrim et de nombreux autres personnages. Naturellement, ce n’était qu’une question de temps avant que la technologie n’atteigne des mods explicites, qui ont été un pas trop loin pour certains.
Avec l’essor du clonage de voix par IA, les acteurs de la voix sont abusés par les communautés de modding. En tant que membre de la scène du modding de Skyrim, je suis profondément préoccupé par la pratique consistant à utiliser le clonage de voix par IA pour créer et distribuer du contenu pornographique deepfake non consensuel. pic.twitter.com/ySUFqrtjH01 juillet 2023
Une longue nouvelle poste de l’utilisateur de Twitter Robbie92 affirme que « les acteurs de la voix sont abusés par les communautés de modding » qui utilisent « le clonage de la voix de l’IA pour créer et distribuer du contenu pornographique deepfake non consensuel ».
Le message comprend une liste d’acteurs vocaux dont les performances auraient été utilisées dans les mods porno de Skyrim. Bien que je n’aie pas été en mesure de vérifier tous les acteurs concernés par moi-même à l’oreille – il existe un océan de mods porno Skyrim, les gens et les mods AI ont tendance à ne pas créditer les voix qu’ils ont clonées – Robbie92 a également partagé un document volumineux liant à des dizaines de mods qui utilisent sans vergogne les voix de l’IA, souvent via ElevenLabs. En effet, de nombreux projets Skyrim sur Nexus Mods qui sont étiquetés générés par l’IA invitent même les utilisateurs à remixer ou à ajuster davantage les voix artificielles.
Ce message a relancé le débat sur la moralité de la voix de l’IA agissant dans les mods et a dirigé des parties de la délibération profonde sur Internet en cours vers la communauté des mods Skyrim. Les premières réponses des acteurs de la voix, dont beaucoup ont travaillé sur la série The Elder Scrolls ou Skyrim en particulier, n’ont pas été accueillantes.
« C’est vraiment troublant » a dit Elisa Gabrielli, qui a exprimé Maven Black-Briar dans Skyrim et a contribué à des dizaines d’autres jeux. « Je vais me renseigner. »
« Si vous trouvez ma voix dans l’une de ces situations, faites-le moi savoir afin que je puisse demander qu’elle soit retirée », ajoute Ben Diskin, dont les nombreux crédits vocaux de jeux vidéo incluent The Elder Scrolls Online. « Je ne consens pas à ce que mes données biométriques soient utilisées à ces fins. »
Le doubleur Kyle McCarley, qui est peut-être mieux connu pour de nombreux rôles d’anime, mais a également exprimé dans plusieurs jeux, dont The Elder Scrolls Online, fait écho Position de Diskin : « S’il vous plaît, dites-moi si vous trouvez mon empreinte vocale quelque part comme ça. Je ne veux pas que les gens utilisant l’IA me mettent des mots dans la bouche. »
Abbey Veffer, qui a exprimé plusieurs personnages dans Genshin Impact et The Elder Scrolls Online: Necrom, écrit: « Si vous trouvez ma voix dans l’un de ces mods, faites-le moi savoir afin que je puisse demander qu’il soit retiré. Je ne consens pas et ne consens jamais à ce que ma voix soit utilisée pour la synthèse d’IA, le clonage, les deepfakes, etc. . Ce n’est PAS correct. »
J’ai contacté Veffer pour obtenir plus de ses réflexions sur la question. Elle m’a renvoyé à un article récent de KCRW discutant des conséquences des deepfakes, et a affirmé qu’elle a « été usurpée sur Twitter via la synthèse vocale AI deux fois, et doxxée une fois, vous pouvez donc imaginer ce que je ressens à propos de tout cela ».
« C’est FAUX à tous les niveaux ! » accepte Ryan Laughton, dont la voix peut être trouvée dans Diablo 4, Hitman 2 et Return of the Obra Dinn. « C’est dérangeant. WTF ne va pas avec les gens, le clonage de voix par IA est incontrôlable. Ne supportez pas la réplication par IA des voix de VA sous quelque forme que ce soit. Faites-le moi savoir si vous rencontrez un jour ma voix utilisée comme ça. Je ne donne pas son consentement. »
Les contre-arguments courants en faveur des mods vocaux IA incluent la liberté de création, le manque d’incitation au profit et l’incapacité de trouver du travail vocal rémunéré. Poussés par la propagation du porno AI Skyrim, plusieurs acteurs de la voix ont notamment poursuivi ces arguments.
« Le fait de prendre la voix d’un acteur sans son consentement et de lui faire dire n’importe quoi, SURTOUT le contenu nsfw est putain d’odieux », dit Zane Schacht. En réponse à un utilisateur qui a souligné que les voix de l’IA peuvent faciliter la création de mods plus ambitieux, comme des quêtes d’histoires vocales, Schacht a ajouté : « Si vous voulez du doublage, payez un acteur. Si vous ne pouvez pas vous permettre un acteur, demandez autour et voyez si quelqu’un le fera gratuitement. Si vous ne pouvez pas en trouver un pour le faire gratuitement, vous n’obtenez pas de doublage.
S’adressant à GamesRadar +, Schacht a réitéré que même s’il considère toutes les voix de l’IA comme des « déchets contraires à l’éthique », qu’il s’agisse des présidents américains jouant à Overwatch ou de David Attenborough lisant l’histoire de Warhammer, « une fois que vous ajoutez du contenu sexuel au mélange, la question du consentement prend tout son sens. nouveau sens. »
« C’est une chose de saisir la voix d’un acteur et de lui faire dire un mème idiot », a-t-il déclaré. « C’en est une autre de les faire se livrer à des actes sexuels. Je n’ai rien contre les mods NSFW. Je n’ai rien contre l’art NSFW. Mais au cœur de cela se trouve un manque de respect fondamental pour l’acteur de la voix d’origine. pas un individu. Le consentement est tout. Et si vous créez du contenu sexuel sans le consentement des parties impliquées, c’est tout simplement ignoble.
Il est vrai que de nombreux moddeurs indépendants ne peuvent pas se permettre ou ne veulent pas payer pour un doublage original, mais l’argument selon lequel il est totalement inaccessible aux moddeurs s’effondre rapidement compte tenu de la richesse des projets vocaux. Juste ce mois d’avril, un groupe de fans de Hollow Knight et plus de 100 doubleurs ajouté des voix à plus de 400 caractères.
Dans l’espace Bethesda, des méga mods comme Fallout : Londres demandent des doubleurs depuis des années. Ces projets sont évidemment plus importants qu’une poupée sexuelle numérique parlante qu’un mec a faite pour Skyrim, mais cela revient à l’argument de Schacht selon lequel si vous ne pouvez pas vous permettre un acteur ou trouver un bénévole, vous ne devriez peut-être pas alors pervertir la performance d’un acteur établi. sans leur consentement.
Marc Swint, que vous avez peut-être entendu dans Smite ou Street Fighter 5, a visé aux opportunités NSFW: « Il y a BEAUCOUP de talents vocaux travaillant spécifiquement dans la scène NSFW disponibles pour les animations SFM et Blender, etc. S’il vous plaît, si vous travaillez sur des animations sexy, contactez-les et respectez leurs tarifs. N’utilisez pas AI Voice Cloning. SURTOUT pas à cette fin. »
Nexus Mods a précédemment déclaré qu’il pourrait supprimer le contenu généré par l’IA en réponse à une « plainte crédible d’une partie qui estime [a mod] est dommageable pour eux », y compris un acteur vocal ou un propriétaire d’actifs. Il a également conseillé aux utilisateurs « d’éviter d’utiliser ces outils à moins que vous n’ayez l’autorisation explicite d’utiliser tous les actifs », mais le consentement de l’acteur vocal a clairement été ignoré par beaucoup. Nexus Mods même a ajouté que « cela est particulièrement vrai pour le doublage généré par l’IA », mais cela n’a pas endigué la marée.
Le site dispose d’un Formulaire DMCA pour les projets utilisant du contenu réputé volé ou utilisé de manière inappropriée, mais on ne sait pas à quel point cette voie peut être efficace pour les acteurs de la voix étant donné la quantité de mods d’IA à combattre ainsi que la bureaucratie légale qui accompagne les droits d’auteur et la propriété des performances des jeux vidéo. J’ai contacté Nexus Mods pour obtenir des commentaires sur la situation avec Skyrim et une mise à jour sur sa position sur le doublage de l’IA.
Schacht n’était pas optimiste quant aux options disponibles pour les acteurs de la voix contre ces mods : « La réalisation horrible à laquelle j’en suis venu est que si un acteur utilise sa voix pour créer un modèle et que ce modèle dit des choses horribles sans son consentement, la seule chose qui pourrait empêcher une telle chose de se produire est la boussole morale du moddeur pour commencer. Et ces derniers jours, j’ai vu la force morale de certains de ces moddeurs et j’ai trouvé qu’elle faisait cruellement défaut.
« Si vous voulez vraiment voir la laideur des gens », a ajouté Schacht, « voyez comment ils réagissent quand vous leur dites » Non « . Non, vous ne pouvez pas utiliser ma voix et ma ressemblance contre ma volonté. Non, vous ne pouvez pas me faire dire le mème. Les gens deviennent sauvages et le masque tombe.
Parfois, les jours où les mods ressemblaient plus à ce shake de Skyrim Grimacequi peut ou non vous tuer.