Les préoccupations des utilisateurs concernant la fonction de retouche photo générative de l’IA du Samsung Galaxy S24 ont été répondues par un cadre supérieur de Samsung, qui affirme que les craintes concernant l’utilisation de l’IA par le téléphone sont infondées.
Patrick Chomet, responsable de l’expérience client de Samsung, s’adressant à TechRadara expliqué pourquoi la fonction Generative Edit du Galaxy S24 est une extension naturelle de ce dont les smartphones étaient déjà capables.
Pour le contexte, Generative Edit permet aux utilisateurs de Galaxy de modifier facilement des images en permettant à l’utilisateur de modifier, supprimer et ajouter de manière transparente des éléments à une image ou une vidéo. Ce processus d’édition transparent rend certaines personnes nerveuses en raison de la facilité avec laquelle il serait possible de créer de fausses images crédibles.
« Il n’y a pas de véritable image. Vous pouvez essayer de définir une image réelle en disant : « J’ai pris cette photo », mais si vous avez utilisé l’IA pour optimiser le zoom, l’autofocus, la scène, est-ce réel ? Ou c’est tous des filtres ? Il n’y a pas de véritable image, point final », a déclaré Chomet en réponse.
Une chose importante à noter est que l’utilisation de l’IA pour éditer une photo devrait entraîner des modifications des métadonnées de la photo, ainsi qu’un filigrane spécifique pour rendre les images de ce type identifiables. Mais cela ne veut pas dire que tous les utilisateurs seront en mesure de repérer facilement les modifications apportées par l’IA, ce qui déclenche des signaux d’alarme concernant la propagation de fausses informations.
« L’une de nos intentions est de vouloir capturer l’instant présent, de prendre une photo aussi précise et complète que possible. Pour ce faire, nous utilisons beaucoup de filtrage, de modification et d’optimisation de l’IA pour effacer les ombres, les reflets, etc. Mais nous sommes fidèles à l’intention de l’utilisateur, qui était de capturer ce moment. »
Les domaines juridiques autour de l’IA sont quelque peu confus à l’heure actuelle, alors que les législateurs acceptent la nouvelle technologie et ce qu’elle peut faire. L’UE s’est récemment mise d’accord sur la version finale de la loi de l’Union européenne sur l’intelligence artificielle, mais celle-ci n’a pas encore été adoptée.
Les exigences de cette législation diffèrent en fonction du niveau de risque posé par un système d’IA particulier. Par exemple, certains systèmes d’IA devraient présenter les sources de leurs modèles génératifs, tandis que d’autres n’auraient qu’à informer les utilisateurs que les sujets sont générés par l’IA.
Samsung est apparemment d’accord avec cette approche. Chomet a également déclaré dans l’interview de TR que l’entreprise « est très alignée sur la réglementation européenne en matière d’IA ». Il a souligné que les pays avaient raison d’exprimer leurs premières inquiétudes quant aux implications potentielles d’une utilisation généralisée de l’IA, et a mentionné que Samsung s’engageait à être responsable et à réfléchir en profondeur à la réglementation de l’IA.
L’IA fait partie de nos vies et nous commençons à voir de quoi elle est capable, ainsi que ses répercussions juridiques. Il est encourageant de voir que Samsung en est conscient et est prêt à travailler avec les gouvernements et les législateurs pour protéger le grand public de toute menace potentielle que le logiciel pourrait créer.