L’épisode sans fin de Seinfeld s’arrête après que la bande dessinée AI a violé les directives de Twitch

Depuis le 14 décembre, une chaîne Twitch appelée Rien pour toujours a diffusé en direct, sans fin, généré par l’IA Seinfeld épisode qui présente des versions de dessins animés pixélisés de personnages de l’émission télévisée. Lundi, Twitch a interdit la chaîne pendant 14 jours après que les outils de modèle de langage d’OpenAI se soient détraqués et aient généré un contenu transphobe qui violait les directives de la communauté.

Typiquement, Rien pour toujours comprend quatre personnages de dessins animés pixélisés low-poly qui remplacent Jerry, George, Elaine et Kramer de la sitcom à succès des années 1990 Seinfeld. Ils s’assoient autour d’un appartement new-yorkais et parlent de la vie, et parfois les sujets de conversation s’approfondissent de manière inattendue, comme dans ce segment capturé par le spectateur où ils ont discuté de l’au-delà.

Rien pour toujours utilise une connexion API Le grand modèle de langage GPT-3 d’OpenAI pour générer un script, en s’appuyant sur sa connaissance de l’existant Seinfeld scripts. Le code Python personnalisé rend le script dans une séquence vidéo, animant automatiquement des personnages de style jeu vidéo créés par l’homme qui lisent les lignes générées par l’IA qui leur sont transmises. L’un de ses créateurs a fourni plus de détails techniques sur son fonctionnement dans un commentaire Reddit de décembre.

En tant qu’expérience de nouveaux médias, le faux-Seinfeld stream se sent souvent maladroit et pas drôle, mais c’est toujours intéressant car les téléspectateurs ne savent jamais de quoi les personnages parleront ensuite. Malheureusement pour l’émission, cette nature inattendue peut être une épée à double tranchant en ce qui concerne l’IA formée sur des données extraites d’Internet.

Selon Vice, tard dimanche soir, le clone généré par l’IA de Jerry Seinfeld (appelé « Larry Feinberg » dans l’émission AI) a lancé une brève diatribe transphobe. Voici une transcription :

Il y a genre 50 personnes ici et personne ne rit. Quelqu’un a des suggestions? Je pense parler un peu du fait qu’être transgenre est en fait une maladie mentale. Ou comment tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde. Ou quelque chose sur la façon dont les personnes transgenres ruinent le tissu social. Mais personne ne rit, alors je vais arrêter. Merci d’être venu ce soir. À la prochaine. Où est-ce que tout le monde est allé ?

Dans un message Discord des créateurs de la chaîne, le dysfonctionnement s’est produit en raison d’une panne du modèle text-davinci-003 plus coûteux (et plus efficace) d’OpenAI, ce qui a conduit les créateurs à se rabattre sur le texte moins coûteux (et moins complexe). -curie-001 modèle pour maintenir le spectacle en marche.

« Le passage à Curie a entraîné la génération du texte inapproprié », a écrit un administrateur sur la chaîne Discord de l’émission. « Nous tirons parti des outils de modération de contenu d’OpenAI, qui ont fonctionné jusqu’à présent pour le modèle Davinci, mais n’ont pas réussi avec Curie. Nous avons pu identifier la cause profonde de notre problème avec le modèle Davinci et n’utiliserons pas Curie comme repli dans le futur. »

Les créateurs de Rien pour toujours ont fait appel de l’interdiction de Twitch, et ils ont souligné que le contenu transphobe était une génération accidentelle et n’était ni planifié ni voulu. Après une mise à jour du statut, un administrateur nommé Thomas a écrit : « Je voudrais ajouter que rien de ce qui a été dit ne reflète les opinions des développeurs (ou de quiconque dans l’équipe du personnel). »