Le documentaire « Dirty Pop: The Boy Band Scam » de Netflix n’est pas le premier à relater les crimes de l’escroc et manager musical Louis Pearlman, qui a financé des boys bands ultra-populaires des années 90 comme les Backstreet Boys et NSYNC. Avant que l’escroquerie de longue date de Pearlman ne soit dévoilée, il était considéré comme un homme d’affaires ambitieux qui menait l’industrie des boys bands vers de nouveaux sommets – jusqu’à ce que, bien sûr, les murs de la tromperie s’effondrent. Il n’est pas surprenant que Netflix publie un documentaire sur un escroc notoire qui a accumulé des dettes de plus de 300 millions de dollars. Cependant, il est étrange que les créateurs de la série aient choisi d’utiliser l’IA pour reproduire la voix et l’image du défunt Pearlman afin de créer des images manipulées, qui ont été coincées entre des preuves d’archives appuyées par des recherches et des entretiens riches en contexte parsemés tout au long du documentaire.
L’utilisation de l’IA pour créer les images modifiées est révélée dès le départ. En fait, le premier épisode s’ouvre sur de véritables images d’archives de Pearlman assis à son bureau, mais on l’entend bientôt parler et s’adresser à la caméra. C’est à ce moment-là que le documentaire révèle que les images « ont été modifiées numériquement pour générer sa voix et synchroniser ses lèvres », les mots prononcés étant tirés directement du livre de Pearlman « Bands, Brands, & Billions ». Pearlman continue de « parler » via ces images modifiées par l’IA pendant trois épisodes, évoquant un effet de vallée étrange qui ne semble pas du tout justifié.
Cela n’a pas empêché la série documentaire de se classer en tête du classement des 10 meilleures séries télévisées américaines de Netflix. Cependant, les implications de l’utilisation de l’IA – divulguées ou non – dans un média narratif qui repose sur une vérification objective des faits et des preuves corroborées créent un précédent dangereux qui ne doit pas être ignoré. Voyons ce que les producteurs de « Dirty Pop: The Boy Band Scam » ont à dire sur le sujet.
Comment Dirty Pop: The Boy Band Scam a utilisé des images modifiées par l’IA
Michael Johnson, l’un des co-producteurs exécutifs de la série documentaire, s’est entretenu avec Netflix TUDUM pour expliquer comment les showrunners étaient « ravis de repousser les limites des nouvelles technologies » pour raconter cette histoire importante « de la manière la plus éthique possible » :
« Nous voulions avant tout utiliser cette nouvelle technologie de la manière la plus éthique possible, comme un outil de narration complémentaire, et non comme un outil de remplacement. Nous avons protégé les droits de vie de Lou ; nous avons uniquement utilisé des mots écrits par Lou lui-même ; nous avons engagé un acteur pour prononcer ces mots ; nous avons utilisé de vraies images de Lou afin de capturer ses véritables manières et son langage corporel ; et nous avons engagé des experts en IA du MIT Media Lab, de Pinscreen et de Resemble AI pour concrétiser notre vision. »
Johnson a ensuite déclaré que les images modifiées par l’IA ont aidé à établir la réalité subjective de Pearlman, ce qui a évoqué un contraste avec ce que ses victimes ont vécu, qualifiant cette juxtaposition d’« essentielle pour comprendre Lou en tant qu’être humain ainsi qu’en tant qu’escroc sournois ». Bien que l’intention ici semble assez sincère, l’introduction d’une IA générative pour modifier des images existantes et simuler une conversation – qui aurait pu être facilement transmise via une narration citée ou une reconstitution dramatisée – semble être un faux pas majeur.
De plus, ce n’est pas la première fois qu’une série documentaire Netflix sur des faits divers utilise l’IA pour susciter l’effet escompté, créant ainsi une tendance inquiétante qui met en péril l’éthique de la crédibilité tout en créant une image déformée de la vérité dans un média qui a toujours cherché à la distiller. La subjectivité de la vérité ne peut être transmutée en verdicts objectifs qu’avec des preuves vérifiées et des témoignages corroborés, et la présence d’une IA générative crée une pente glissante sur laquelle une pratique cinématographique inquiétante pourrait s’enraciner.