Google tente d’être plus transparent sur le fait qu’un contenu a été créé ou modifié à l’aide d’outils d’IA générative (GAI). Après avoir rejoint la Coalition for Content Provenance and Authenticity (C2PA) en tant que membre du comité directeur plus tôt cette année, Google a révélé comment il allait commencer à mettre en œuvre la norme de tatouage numérique du groupe.
En collaboration avec Amazon, Meta et OpenAI, Google a passé les derniers mois à réfléchir à la manière d’améliorer la technologie utilisée pour le tatouage numérique du contenu créé ou modifié par GAI. L’entreprise affirme avoir contribué au développement de la dernière version de , une norme technique utilisée pour protéger les métadonnées détaillant la manière dont un élément a été créé, ainsi que les informations sur ce qui a été modifié et comment. Google affirme que la version actuelle de Content Credentials est plus sûre et inviolable grâce à des méthodes de validation plus strictes.
Dans les prochains mois, Google va commencer à intégrer la version actuelle de Content Credentials dans certains de ses principaux produits. En d’autres termes, il devrait bientôt être plus facile de savoir si une image a été créée ou modifiée à l’aide de GAI dans les résultats de recherche Google. Si une image qui apparaît contient des métadonnées C2PA, vous devriez pouvoir découvrir l’impact de GAI sur elle via l’outil. Cet outil est également disponible dans Google Images, Lens et Circle to Search.
L’entreprise cherche à savoir comment utiliser C2PA pour indiquer aux utilisateurs de YouTube que des images ont été capturées avec une caméra. Vous en saurez plus à ce sujet plus tard cette année.
Google prévoit également d’utiliser les métadonnées C2PA dans ses systèmes publicitaires. Il n’a pas révélé beaucoup de détails sur ses projets, si ce n’est qu’il a déclaré qu’il utiliserait « les signaux C2PA pour informer sur la manière dont nous appliquons les politiques clés » et qu’il le ferait progressivement.
Bien entendu, l’efficacité de tout cela dépend de la manière dont les fabricants d’appareils photo et les développeurs d’outils GAI utilisent réellement le système de tatouage C2PA. Cette approche n’empêchera pas non plus quelqu’un de supprimer les métadonnées d’une image. Cela pourrait rendre plus difficile pour des systèmes comme celui de Google de détecter toute utilisation de GAI.
Pendant ce temps, tout au long de cette année, nous avons vu Meta expliquer comment révéler si les images ont été créées avec GAI sur Facebook, Instagram et Threads. L’entreprise a simplement décidé de rendre les étiquettes moins visibles sur les images modifiées avec des outils d’IA. À partir de cette semaine, si les métadonnées C2PA indiquent que quelqu’un (par exemple) a utilisé les outils GAI de Photoshop pour modifier une photo authentique, l’étiquette « Informations IA » n’apparaît plus au premier plan. Au lieu de cela, elle est enfouie dans le menu de la publication.