Rien pour toujoursun outil alimenté par l’IA Seinfeld émission parodie sur Twitch, devenait rapidement la prochaine grande chose sur la plate-forme. Pendant le stream permanent, un casting de Seinfeld-les personnages adjacents ont eu des conversations déconcertantes, ont fait des blagues étranges et se sont déplacés dans un monde de graphismes bruts et en blocs, le tout soutenu par une piste de rire et dirigé par l’IA.
Mais ensuite, il a été suspendu pendant deux semaines après que le personnage ressemblant à Jerry Seinfeld ait fait des remarques transphobes. Cette suspension devrait être levée lundi, et bien que ses créateurs chez Mismatch Media aient travaillé pour s’assurer que les commentaires transphobes ne se reproduisent plus, ils ne peuvent pas le garantir.
Les remarques transphobes se sont produites après que Mismatch ait modifié les modèles d’IA qui sous-tendent le flux. « Nous avons commencé à avoir une panne en utilisant le modèle GPT-3 Davinci d’OpenAI, ce qui a amené l’émission à afficher des comportements errants », selon une annonce dans le Rien pour toujours Discorde. « OpenAI a un modèle moins sophistiqué, Curie, qui était le prédécesseur de Davinci. Lorsque Davinci a commencé à échouer, nous sommes passés à Curie pour essayer de maintenir le spectacle sans aucun temps d’arrêt. Le passage à Curie a entraîné la génération du texte inapproprié.
Dans un article ultérieur, Mismatch a ajouté que « nous pensions à tort que nous utilisions le système de modération de contenu d’OpenAI pour leurs modèles de génération de texte » et qu’il fonctionnerait pour implémenter l’API de modération de contenu d’OpenAI avant que l’émission ne soit à nouveau diffusée.
« Bien sûr, avec les logiciels, il y a toujours de la variabilité »
Depuis lors, Mismatch effectue des tests de stabilité par rapport à cette implémentation et s’assure qu’il n’y a pas de faux négatifs, a déclaré le co-fondateur de Mismatch, Skyler Hartle, dans une interview avec Le bord. « Jusqu’à présent, ça a l’air vraiment bien », a-t-il déclaré. Mais ensuite, il a hésité en disant que « bien sûr, avec les logiciels, il y a toujours de la variabilité ». J’ai demandé à Hartle comment Mismatch s’assure que ses garde-corps fonctionnent. « Je pense que dans l’espace de l’IA générative et des médias génératifs, il y a une incertitude inhérente. »
Il a fait référence à de nombreuses choses folles que les gens ont déjà pu faire dire à ChatGPT et au nouveau chatbot Bing AI: « Je pense que tout le monde dans cet espace doit s’inquiéter et réfléchir à cela. » Mismatch Media s’attaque à ce problème en créant une « équipe de slash du conseil de sécurité » de l’IA, a déclaré Hartle, qui tente de trouver des stratégies d’atténuation afin que les mesures de sécurité de l’IA puissent évoluer parallèlement aux pièces d’IA génératives. « Nous sommes convaincus qu’il est de notre devoir en tant que personnes dans l’espace génératif de le faire de la manière la plus sûre possible. »
En plus de tirer parti de l’API officielle de modération de contenu OpenAI, Mismatch souhaite également utiliser OpenAI pour aider dans le processus de modération. « Nous travaillons à créer des garde-fous qui tirent réellement parti d’OpenAI pour leur transmettre notre contenu et poser une série de questions et d’invites », a déclaré Hartle. Mismatch consiste à « trouver les bonnes façons d’avoir OpenAI et ces grands modèles de langage aident à modérer ce processus. Ces modèles sont la meilleure chose pour analyser le langage naturel en ce moment, il est donc très logique d’essayer également de les utiliser comme système secondaire.
Hartle ne s’attend pas au ton de Rien pour toujours à changer avec les systèmes de modération de contenu supplémentaires. Cela signifie probablement que nous continuerons à voir le spectacle continuer à créer des moments plus bizarres et irrévérencieux, mais j’espère que cette fois, il n’y aura pas de transphobie.
Hartle veut introduire un système d’interaction avec le public
Hartle a également déclaré que Mismatch souhaitait introduire un système d’interaction avec le public qu’il avait précédemment construit mais avait décidé de ne pas lancer avec Rien pour toujours. Le système « permet aux fans d’interagir en toute sécurité avec le spectacle et potentiellement de masser la direction dans laquelle le spectacle se dirige tout en conservant son esprit génératif », selon Hartle. Mismatch espère lancer le système parallèlement à la levée de la suspension Twitch, mais il ne « veut rien promettre à ce stade ».
Je suis personnellement sceptique quant à un outil d’interaction avec le public dans une application comme celle-ci. Bien qu’il puisse être utilisé dans un grand moment d’unité Internet comme l’apogée de TwitchPlaysPokemon, je crains que cela ne se transforme en quelque chose comme le fiasco Tay.
Au-delà Rien pour toujours, Mismatch Media souhaite créer une plate-forme permettant aux créateurs de créer leurs propres émissions. « Il y a beaucoup de choses qui entrent dans cela, et beaucoup de choses que nous découvrons et réitérons, mais le plan est de donner les moyens, comme la prochaine génération de personnes, de faire ce genre de choses », a déclaré Hartle. L’objectif est de rendre cette plate-forme opérationnelle dans les six à douze prochains mois.
J’ai aussi demandé à Hartle quelque chose que je me demandais depuis que j’ai regardé la série pour la première fois : est-ce que le plan est vraiment de la faire durer éternellement ? « Notre espoir est de faire tourner le spectacle aussi longtemps que possible, tant que cela a du sens sur le plan économique, car cela coûte très cher », a déclaré Hartle. «Mais cela dit, nous construisons cela comme une plate-forme technologique. Et nous voulons faire plus de spectacles. Si nous y parvenons et que nous sommes capables de créer une entreprise autour de nous, je ne vois pas pourquoi Rien pour toujours ne devrait pas fonctionner tant que les fans et la communauté veulent qu’il fonctionne.