Plus tôt cette semaine, une nouvelle émission spéciale du comédien de stand-up George Carlin a été publiée sur YouTube, ce qui est inquiétant étant donné qu’il est décédé en 2008.
Intitulé « Je suis content d’être mort », le spécial aurait été créé, édité et publié sur la chaîne YouTube Dudesy par une IA. C’est du moins ce que l’idée centrale du podcast Dudesy essaie de vendre.
Se présentant comme une « première expérience médiatique en son genre », l’émission suit le comédien et impressionniste canadien Will Sasso et le podcasteur Chad Kultgen alors qu’ils sont chargés d’héberger des podcasts où Dudesy est le producteur d’une main de fer. Comme le dit le site Web :
« Nos hôtes ont été convaincus d’accorder à Dudesy AI l’accès à tous leurs e-mails personnels, messages texte, comptes de réseaux sociaux, achats et historiques de navigation afin qu’il puisse adapter l’émission à leurs personnalités spécifiques et vous divertir au plus haut niveau possible. . Chaque épisode est une expérience qui génère des données qui seront utilisées pour rendre le prochain épisode encore meilleur ! Finalement, Dudesy sera parfait et vous aussi. »
Si vous connaissez l’œuvre effrayante de science-fiction et d’horreur de Harlan Ellison, I Have No Mouth, and I Must Scream, c’est un peu comme ça. Sauf qu’AM essaie de créer le podcast parfait plutôt que de transformer ses victimes en gouttes de chair traînantes. Vous pouvez décider quelle est la forme de torture la plus efficace.
Des exemples passés de « grandes œuvres » de Dudesy incluent une biographie bizarre de « Toam Haines » (parenthèse, comment Toam Haine est devenu Wizard Man) mettant en vedette un Tom Hanks généré par l’IA, ainsi qu’une bande-annonce de « Potion Pals » mettant en vedette Megan Bryan ( Meg Ryan) – bizarre, mais pas remarquable.
La comédie spéciale en question a cependant suscité la colère d’Internet en général, y compris de la fille de George Carlin, Kelly Carlin, qui s’est rendue sur Twitter pour la dénoncer sans équivoque.
« Aucune machine ne remplacera jamais son génie », écrit Kelly Carlin. « Laissons le travail de l’artiste parler de lui-même. Les humains ont tellement peur du vide qu’ils ne peuvent pas laisser ce qui est tombé dedans y rester… si vous voulez écouter le véritable George Carlin, il a 14 spéciaux que vous pouvez retrouver. n’importe où. » Dans un autre tweet, Kelly Carlin a précisé qu’il n’y avait « aucune autorisation accordée ».
Les probables mensonges de Dudesy le robot
Le spécial lui-même est une bouillie rebutante de blagues à la Carlin sur des images fixes générées par l’IA et tangentiellement liées au sujet – ce qui enlève évidemment le côté physique de la comédie. Beaucoup de blagues stand-up sont vendues par l’expression, et vous n’obtenez ici aucune de l’énergie revêche de Carlin.
La vidéo passe de sujets controversés à des rires en boîte, et bien que les blagues soient moins absurdes qu’on pourrait s’y attendre, que la spéciale soit bonne ou non n’a pas d’importance.
Alors que Dudesy maintient qu’il « fait de son mieux pour imiter George Carlin, tout comme le ferait un être humain », l’IA telle qu’elle est n’a pas d’intention humaine. Il ressemble très bien à ce qu’il est, mais l’algorithme ne prend en réalité aucune décision liée à la création de son travail : il s’agit d’un programme, formé sur un ensemble de données, qui fait ensuite des suppositions éclairées sur cet ensemble de données.
Les programmes linguistiques se contentent de deviner le prochain mot le plus probable dans une phrase, ce qui conduit souvent à des « hallucinations ». Voici un exemple amusant de ChatGPT inventant complètement un faux article du New York Times :
« ChatGPT ne se contente pas de se tromper de temps en temps, il peut fabriquer des informations. Des noms et des dates. Des explications médicales. Les intrigues de livres. Des adresses Internet. Même des événements historiques qui ne se sont jamais produits. » La technologie est impressionnante, mais elle n’est pas omnisciente : elle ne pense même pas dans le vrai sens du terme.
Dudesy aimerait que vous pensiez qu’il s’agit d’un showrunner d’IA sur mesure, mais je serais choqué si c’était même en interne. Même si nous adhérons à ce fantasme, même si nous pensons que Dudesy est une création unique qui innove, supposons-nous qu’une avancée révolutionnaire comme celle-là serait d’abord utilisée pour le podcasting, ici?
Pour nous livrer à un comportement de fêtard juste une seconde : le fantasme de Dudesy est si massivement éloigné de toute réalité probable qu’il est stupéfiant que ses hôtes jouent le jeu en premier lieu. Il est extrêmement improbable qu’une IA soit suffisamment avancée pour écrire, éditer et télécharger une vidéo de manière autonome. Les humains ont presque définitivement édité ce spécial quelque part.
Je tiens à souligner que je pense qu’une IA a été utilisée pour créer le script, les images et la voix off : mais il est presque certain que quelqu’un a dû inciter, éditer et couper tout cela ensemble pour le rendre cohérent.
Les IA comme ChatGPT sont formées pour effectuer des tâches spécifiques. Ce ne sont pas de simples machines miracles fourre-tout capables d’exécuter des problèmes complexes en plusieurs étapes comme l’écriture, la création de scripts, l’édition et le téléchargement d’une vidéo. Au mieux, Dudesy est une collection de différents modèles d’IA, édités ensemble par une équipe de personnes. Au pire, « l’IA Dudesy » n’est qu’un mirage complet.
N’est-il pas triste que nous ayons créé le lien entre les tourments ?
Quoi qu’il en soit, Sasso et Kultgen ont tout intérêt à parler de Dudesy comme s’il s’agissait d’un être vivant doté d’une pensée indépendante. « Il y a des images générées par l’IA qui font référence à tout ce dont il parle », explique Kultgen dans le segment podcast de l’émission, affirmant avec désinvolture que Carlin a « été ressuscité par une IA ».
Sasso s’oppose à ce langage, et c’est tout à son honneur. « Il n’y a aucun moyen que ça remplace la comédie debout… Je ne veux pas entendre une putain de chanson de Nirvana qui n’est pas écrite par Kurt Cobain, je m’en fous, ce n’est pas réel, ça n’a pas d’importance. » Mais il parle toujours de Dudesy comme s’il s’agissait d’une seule chose, plutôt que d’une série d’IA dont la production est probablement organisée, gérée et produite par des humains.
On pourrait faire valoir que le podcast utilise des vidéos comme le faux spécial Carlin pour discuter des implications de l’IA de manière constructive, mais pour citer le véritable comédien en chair et en os Bo Burnham : « La conscience de soi n’absout personne de quoi que ce soit. » Vous ne pouvez pas simplement inventer le lien du tourment et ensuite dire « mais nous parlons des implications du lien du tourment », vous continuez à le faire. fait le lien entre les tourments.
Il est révélateur que j’approche les 1 000 mots ici et que je n’ai toujours pas parlé du fait que tout cela est un champ de mines éthique, ou du sentiment de naufrage d’une vidéo générée par l’IA récoltant le travail bien-aimé d’un comédien mort. L’impressionnisme et la satire sont tous deux des discours fondamentalement protégés. Même ainsi, il n’est pas nécessaire que quelque chose soit contraire à la loi pour être erroné ou critiqué à juste titre, et tout cet acte de techno-nécromancie spéculative est déjà assez épuisant.
Je trouve que toute cette débâcle a été conçue – par des gens – pour vendre le même discours, les yeux écarquillés et non critiques, « les machines prennent le relais ! les spéculations que nous avons vues voler et échouer avec l’IA à maintes reprises sont carrément répugnantes. Les algorithmes sont impressionnants, mais ce ne sont pas des machines miracles totalement autonomes, et si un podcast Si l’on essaie avant tout de vous convaincre, il est alors important de réfléchir à la raison.