Netflix a été accusé d’avoir utilisé des images manipulées par l’IA dans un véritable documentaire policier. Ce que Jennifer a fait, Futurisme a signalé. Plusieurs photos montrent des signes typiques de supercherie de l’IA, notamment des mains mutilées, d’étranges artefacts et bien plus encore. S’il est exact, le rapport soulève de sérieuses questions sur l’utilisation de telles images dans des documentaires, d’autant plus que la personne représentée est actuellement en prison en attente d’un nouveau procès.
Sur une image flagrante, la main gauche du sujet du documentaire, Jennifer Pan, est particulièrement mutilée, tandis qu’une autre image montre une étrange lacune dans sa joue. Netflix n’a pas encore reconnu le rapport, mais les images montrent des signes évidents de manipulation et n’ont jamais été étiquetées comme générées par l’IA.
L’IA peut générer des images basées sur de vraies photos de Pan, comme PétaPixel suggéré. Cependant, le résultat obtenu peut être interprété comme étant préjudiciable au lieu de présenter les faits de l’affaire sans parti pris.
Une cour d’appel canadienne a ordonné un nouveau procès contre Pan parce que le juge du procès n’avait pas présenté suffisamment d’options au jury. Radio-Canada signalé.
Une critique, la journaliste Karen K. HO, a déclaré que le documentaire de Netflix est un exemple du « véritable complexe industriel du crime » répondant à un appétit « dévorant et sans fin » pour les contenus violents. L’utilisation potentielle par Netflix d’images manipulées par l’IA comme outil de narration pourrait renforcer cet argument.
Les régulateurs aux États-Unis, en Europe et ailleurs ont promulgué des lois sur l’utilisation de l’IA, mais jusqu’à présent, il ne semble pas y avoir de lois spécifiques régissant l’utilisation d’images ou de vidéos d’IA dans des documentaires ou d’autres contenus.
Cet article contient des liens d’affiliation ; si vous cliquez sur un tel lien et effectuez un achat, nous pouvons gagner une commission.