Alors que l’IA continue d’être une arme à double tranchant dans le paysage numérique, un nouvel outil d’empoisonnement des données permettra aux artistes de reprendre le contrôle de leur travail créatif et d’annuler toute réplication générée par l’IA.
Annoncée par l’équipe Glaze de l’Université de Chicago, la première version de Nightshade est disponible en téléchargement. Sur son site officiel, l’équipe note que Nightshade est similaire à son autre outil, Glaze.
C’est aujourd’hui le jour. Nightshade v1.0 est prêt. Le réglage des performances est effectué, les correctifs de l’interface utilisateur sont effectués.
Vous pouvez télécharger Nightshade v1.0 depuishttps://t.co/knwLJSRrRh
Veuillez lire la page de présentation ainsi que le guide de l’utilisateur pour savoir comment exécuter Nightshade. C’est un peu plus complexe que Glaze
– Glaze à UChicago (@TheGlazeProject) 19 janvier 2024
Cependant, au lieu d’être un outil défensif, Nightshade adopte une approche plus offensive qui permet aux artistes de « déformer les représentations des caractéristiques dans les modèles d’images génératifs d’IA ». Nightshade est censé « empoisonner » les modèles d’IA si les illustrations et les images originales que vous avez créées ont été réutilisées sans votre consentement.
En revanche, Glaze protège les utilisateurs de l’imitation de l’IA. L’équipe Glaze recommande d’utiliser Nightshade d’abord, puis Galze en un-deux. Bien que les deux soient des outils distincts, l’équipe a confirmé qu’elle travaillait à leur intégration.
Les modèles d’IA ont fait l’objet de controverses pour avoir volé des œuvres d’art à des artistes. Certains intentent une action en justice, tandis que d’autres expriment ouvertement leur désapprobation à l’égard de l’utilisation de modèles d’IA pour voler leur travail. Ce nouvel outil permettra aux artistes de lutter contre ces modèles d’IA qui volent leurs œuvres et « d’augmenter le coût de la formation sur des données sans licence ».
Plus tôt cette semaine, Square Enix a révélé que son prochain jeu Foamstars incluait des illustrations réalisées par l’intelligence artificielle. Wizards of the Coast a dû publier une correction plus tôt ce mois-ci après avoir révélé que son jeu de cartes très populaire Magic: The Gathering utilisait l’IA pour certaines de ses illustrations, bien que la société ait précédemment affirmé le contraire.
Taylor est journaliste à l’IGN. Vous pouvez la suivre sur Twitter @TayNixster.