Alors que Google commence à mettre à disposition ses derniers outils de génération vidéo, la société affirme avoir un plan pour garantir la transparence sur les origines de ses clips de plus en plus réalistes générés par l’IA. Toutes les vidéos réalisées avec le nouveau modèle Veo de la société dans l’application VideoFX auront des filigranes numériques grâce au système SynthID de Google. De plus, SynthID pourra filigraner le texte généré par l’IA provenant de Gemini.
SynthID est le système de filigrane numérique de Google qui a commencé à être déployé sur les images générées par l’IA l’année dernière. La technologie intègre des filigranes imperceptibles dans le contenu créé par l’IA afin que les outils de détection de l’IA puissent reconnaître que le contenu a été généré par l’IA. Étant donné que Veo, le dernier modèle de génération vidéo de la société présenté en avant-première sur scène lors des I/O, peut créer des clips plus longs et de plus haute résolution que ce qui était auparavant possible, le suivi de la source de ce contenu sera de plus en plus important.
À mesure que les modèles d’IA générative progressent, de plus en plus d’entreprises se tournent vers le filigrane, craignant que l’IA n’alimente une nouvelle vague de désinformation. Les systèmes de filigrane donneraient aux plateformes comme Google un cadre pour détecter le contenu généré par l’IA qui serait autrement impossible à distinguer. TikTok et Meta ont également récemment annoncé leur intention de prendre en charge des outils de détection similaires sur leurs plates-formes et d’étiqueter davantage de contenu d’IA dans leurs applications.
Bien entendu, des questions importantes subsistent quant à savoir si les filigranes numériques offrent à eux seuls une protection suffisante contre les contenus trompeurs de l’IA. Les chercheurs ont montré qu’il est facile d’éviter les filigranes. Mais rendre le contenu créé par l’IA détectable d’une manière ou d’une autre est un premier pas important vers la transparence.
Restez informé de toutes les actualités de Google I/O 2024 directement ici!