La fonction de filigrane photo AI du Samsung Galaxy S24 présente un défaut flagrant

Les affirmations du Samsung Galaxy S24 selon lesquelles il serait possible d’utiliser la génération d’images IA de manière responsable ont pris un coup car il est devenu clair à quel point il est simple d’utiliser ces mêmes outils pour supprimer les preuves.

Les images modifiées sur le Galaxy S24 à l’aide de la fonction d’édition générative reçoivent automatiquement un filigrane dans le coin inférieur gauche pour indiquer qu’elles ont été modifiées. Cependant, les utilisateurs, notamment Razar_the_Raven sur Twitter/X et l’équipe Gizmodo ont montré que la modification d’une image modifiée pour supprimer le filigrane à double étoile n’entraîne pas sa réapplication.

J’ai essayé cela moi-même avec un selfie que j’avais pris sur un Galaxy S24 Ultra, et c’est exactement comme décrit. Après avoir demandé au téléphone de supprimer l’arrière-plan et d’en créer un nouveau, la nouvelle version comportait effectivement le filigrane.

Mais après avoir simplement recadré l’image à partir du coin inférieur gauche, le filigrane avait disparu.

L’utilisation de l’outil de gomme IA générative du Galaxy S24 a entraîné la réapplication du filigrane. Cependant, l’utilisation d’Object Eraser ailleurs dans l’éditeur de photos m’a permis de supprimer facilement le filigrane.

Object Eraser est présent sur les téléphones Samsung depuis la mise à jour du logiciel One UI 3 en 2021. Comme il ne fait pas partie de la nouvelle suite de fonctionnalités Galaxy AI introduite sur le Galaxy S24, nous supposons que c’est pourquoi il peut supprimer le filigrane AI sans qu’il se déclenche. le téléphone pour ajouter un remplacement, malgré l’utilisation d’une technologie similaire en coulisses.

L’affichage de l’image dans la Galerie affiche toujours un badge « Modifié avec modification générative » qui ne peut pas être supprimé. Cependant, après avoir ouvert mes photos originales et modifiées sur mon ordinateur portable, il n’y avait pas de balise de métadonnées claire indiquant que l’une était modifiée par l’IA et l’autre non. De toute façon, la plupart des gens ne vérifieraient pas les métadonnées de cette manière, et en plus, les métadonnées sont modifiables et peuvent parfois être masquées si vous regardez une image téléchargée sur un autre service.

Comment Samsung peut-il résoudre ce problème ?

Dans ce contexte, supprimer le filigrane est relativement inoffensif. Le pire que je puisse faire avec cette photo est de tromper les gens en leur disant que mes compétences en matière de retouche photo sont meilleures qu’elles ne le sont en réalité, ou peut-être que j’ai effectivement visité brièvement un vide violet effrayant vendredi dernier si mon jeu est assez bon. Mais ajouter une autre image non étiquetée, éditée par l’IA, à la pile croissante circulant sur Internet est exactement le problème que Samsung tente d’éviter.

Les petits caractères de Samsung affirment que le filigrane « peut être superposé » sur votre image, plutôt que de le garantir. Mais pour que ce système soit efficace, le filigrane doit être réappliqué à une photo après chaque modification pour éviter qu’elle ne soit facilement effacée. Une balise de métadonnées plus claire, pouvant être lue hors appareil, serait également bénéfique. Espérons que c’est quelque chose que Samsung pourra régler avant ou peu de temps après le lancement commercial du Galaxy S24 le 31 janvier.