L’intelligence artificielle apprend à faire de l’art, et personne n’a vraiment compris comment le gérer – y compris DeviantArt, l’une des maisons d’artistes les plus connues sur Internet. La semaine dernière, DeviantArt a décidé d’entrer dans le champ de mines de la génération d’images IA, lancement d’un outil appelé DreamUp qui permet à quiconque de créer des images à partir d’invites de texte. Cela fait partie d’une tentative plus large de DeviantArt de donner plus de contrôle aux artistes humains, mais cela a également créé de la confusion – et, chez certains utilisateurs, de la colère.
DreamUp est basé sur Stable Diffusion, le programme de génération d’images open source créé par Stability AI. Tout le monde peut se connecter à DeviantArt et obtenir cinq invites gratuitement, et les gens peuvent en acheter entre 50 et 300 par mois avec les plans d’abonnement Core du site, et plus encore moyennant des frais par invite. Contrairement à d’autres générateurs, DreamUp a une particularité distincte : il est conçu pour détecter lorsque vous essayez de reproduire le style d’un autre artiste. Et si l’artiste s’y oppose, c’est censé vous arrêter.
« L’IA n’est pas quelque chose qui peut être évité. La technologie ne fera que se renforcer de jour en jour », déclare Liat Karpel Gurwicz, CMO de DeviantArt. « Mais tout cela étant dit, nous pensons que nous devons nous assurer que les gens sont transparents dans ce qu’ils font, qu’ils respectent les créateurs, qu’ils respectent le travail des créateurs et leurs souhaits autour de leur travailler. »
« L’IA n’est pas quelque chose qui peut être évité. »
Contrairement à quelques rapportsGurwicz et Moti Levy, PDG de DeviantArt, racontent Le bord que DeviantArt ne fait pas (ou ne prévoit pas) de formation spécifique à DeviantArt pour DreamUp. L’outil est vanilla Stable Diffusion, formé sur toutes les données que Stability AI avait récupérées au moment où DeviantArt l’a adopté. Si votre art a été utilisé pour former le modèle utilisé par DreamUp, DeviantArt ne peut pas le supprimer de l’ensemble de données de stabilité et recycler l’algorithme. Au lieu de cela, DeviantArt aborde les imitateurs sous un autre angle : interdire l’utilisation des noms de certains artistes (ainsi que les noms de leurs alias ou créations individuelles) dans les invites. Les artistes peuvent remplir un formulaire pour demander cette désactivation, et ils seront approuvés manuellement.
De manière controversée, Stable Diffusion a été formé sur une énorme collection d’images Web, et la grande majorité des créateurs n’ont pas accepté l’inclusion. Un résultat est que vous pouvez souvent reproduire le style d’un artiste en ajoutant une phrase comme « dans le style de » à la fin de l’invite. C’est devenu un problème pour certains artistes et illustrateurs contemporains qui ne souhaitent pas que des outils automatisés copient leur apparence distinctive, que ce soit pour des raisons personnelles ou professionnelles.
Ces problèmes surviennent également sur d’autres plates-formes d’art IA. Entre autres facteurs, les questions sur le consentement ont conduit les plateformes Web, y compris ArtStation et Fur Affinity, pour interdire complètement le travail généré par l’IA. (La plate-forme d’images de stock Getty a également interdit l’art de l’IA, mais elle s’est simultanément associée à la société israélienne Bria sur des outils d’édition alimentés par l’IA, marquant une sorte de compromis sur la question.)
DeviantArt n’a pas de tels plans. « Nous avons toujours embrassé tous les types de créativité et de créateurs. Nous ne pensons pas que nous devrions censurer tout type d’art », déclare Gurwicz.
Au lieu de cela, DreamUp est une tentative d’atténuer les problèmes – principalement en limitant la copie directe et intentionnelle sans autorisation. « Je pense qu’aujourd’hui, malheureusement, il n’y a pas de modèles ou d’ensembles de données qui n’ont pas été formés sans le consentement des créateurs », déclare Gurwicz. (C’est certainement vrai pour Stable Diffusion, et c’est probablement vrai pour d’autres grands modèles comme DALL-E, bien que l’ensemble de données complet de ces modèles ne soit parfois pas connu du tout.)
« Nous savions que quel que soit le modèle avec lequel nous commencerions à travailler, il viendrait avec ce bagage », a-t-il poursuivi. « La seule chose que nous pouvons faire avec DreamUp est d’empêcher les gens de profiter également du fait qu’il a été formé sans le consentement des créateurs. »
Si un artiste est bien d’être copié, DeviantArt incitera les utilisateurs à les créditer. Lorsque vous publiez une image DreamUp via le site de DeviantArt, l’interface vous demande si vous travaillez dans le style d’un artiste spécifique et vous demande un nom (ou plusieurs noms) si c’est le cas. Une reconnaissance est requise, et si quelqu’un signale un travail DreamUp comme mal étiqueté, DeviantArt peut voir quelle invite le créateur a utilisée et porter un jugement. Les œuvres qui omettent le crédit, ou les œuvres qui échappent intentionnellement à un filtre avec des tactiques telles que des fautes d’orthographe d’un nom, peuvent être supprimées.
Cette approche semble utilement pragmatique à certains égards. Bien qu’il ne résolve pas le problème abstrait de l’utilisation du travail des artistes pour former un système, il bloque le problème le plus évident que ce problème crée.
« Quel que soit le modèle avec lequel nous commencerions à travailler, il viendrait avec ce bagage. »
Pourtant, il existe plusieurs lacunes pratiques. Les artistes doivent connaître DreamUp et comprendre qu’ils peuvent soumettre des demandes pour que leur nom soit bloqué. Le système vise principalement à accorder le contrôle aux artistes sur la plate-forme plutôt qu’aux artistes non DeviantArt qui s’opposent vocalement à l’art de l’IA. (J’ai pu créer des œuvres dans le style de Greg Rutkowski, qui a a déclaré publiquement son aversion d’être utilisé dans les invites.) Et peut-être le plus important, le blocage ne fonctionne que sur le propre générateur de DeviantArt. Vous pouvez facilement passer à une autre implémentation de Stable Diffusion et télécharger votre travail sur la plateforme.
Parallèlement à DreamUp, DeviantArt a déployé un outil distinct destiné à répondre à la question de formation sous-jacente. La plate-forme a ajouté un indicateur facultatif que les artistes peuvent cocher pour indiquer s’ils souhaitent être inclus dans les ensembles de données de formation AI. Le drapeau « noai » est destiné à créer une certitude dans le paysage trouble du grattage, où le travail des artistes est généralement traité comme un gibier équitable. Parce que la conception de l’outil est open-source, d’autres plateformes d’art sont libres de l’adopter.
DeviantArt ne fait aucune formation elle-même, comme mentionné précédemment. Mais les autres entreprises et organisations doivent respecter ce drapeau pour se conformer aux conditions d’utilisation de DeviantArt, du moins sur le papier. En pratique, cependant, cela semble surtout ambitieux. « L’artiste signalera très clairement à ces ensembles de données et à ces plateformes s’ils ont donné leur consentement ou non », explique Levy. « Maintenant, c’est à ces entreprises de décider si elles veulent faire un effort pour rechercher ce contenu ou non. » Lorsque j’ai parlé avec DeviantArt la semaine dernière, aucun générateur d’art IA n’avait accepté de respecter le drapeau à l’avenir, et encore moins de supprimer rétroactivement les images basées sur celui-ci.
Au lancement, le drapeau a fait exactement ce que DeviantArt espérait éviter : il a donné aux artistes l’impression que leur consentement était violé. Cela a commencé comme un système d’opt-out qui donnait par défaut la permission de s’entraîner, leur demandant de définir le drapeau s’ils s’y opposaient. La décision n’a probablement pas eu beaucoup d’effet immédiat puisque les entreprises qui grattaient ces images étaient déjà le statu quo. Mais cela a exaspéré certains utilisateurs. Une tweet populaire de l’artiste Ian Fay a qualifié le mouvement de « extrêmement scummy ». Artiste Megan Rose Ruiz a publié une série de vidéos critiquer la décision. « Cela va être un énorme problème qui va affecter tous les artistes », a-t-elle déclaré.
Le tollé a été particulièrement prononcé parce que DeviantArt a proposé des outils qui protègent les artistes de certaines autres technologies envers lesquelles beaucoup sont ambivalents, en particulier les jetons non fongibles, ou NFT. Au cours de l’année écoulée, il a lancé et depuis étendu un programme de détection et de suppression d’œuvres d’art utilisées sans autorisation pour les NFT.
DeviantArt a depuis essayé d’adresser critique de ses nouveaux outils d’IA. Le drapeau « noai » est activé par défaut, de sorte que les artistes doivent explicitement signaler leur accord pour que les images soient supprimées. Il a également mis à jour ses conditions d’utilisation pour ordonner explicitement aux services tiers de respecter les drapeaux des artistes.
Mais le vrai problème est que, surtout sans une expertise approfondie en IA, les petites plates-formes ne peuvent pas faire grand-chose. Il n’y a pas de directives juridiques claires concernant les droits des créateurs (ou le droit d’auteur en général) pour l’art génératif. Jusqu’à présent, l’ordre du jour est défini par des startups d’IA en évolution rapide comme OpenAI et Stability, ainsi que par des géants de la technologie comme Google. Au-delà de la simple interdiction du travail généré par l’IA, il n’y a pas de moyen facile de naviguer dans le système sans toucher à ce qui est devenu un troisième rail pour de nombreux artistes. « Ce n’est pas quelque chose que DeviantArt peut réparer par nous-mêmes », admet Gurwicz. « Jusqu’à ce qu’une réglementation appropriée soit en place, il faut que ces modèles et plates-formes d’IA aillent au-delà de ce qui est légalement requis et réfléchissent, sur le plan éthique, à ce qui est juste et à ce qui est juste. »
Pour l’instant, DeviantArt s’efforce de stimuler cette ligne de pensée – mais il travaille toujours sur quelques défauts majeurs.