Giacomo Miceli / Ars Technica
Cette semaine, un artiste et programmeur italien nommé Giacomo Miceli a lancé le site Web The Infinite Conversation, un chat ininterrompu alimenté par l’IA entre des versions artificielles du réalisateur allemand Werner Herzog et du philosophe slovène Slavoj Žižek, avec des voix réalistes.
En visitant le site, qui n’est affilié à aucune des deux personnes, vous verrez des portraits au fusain générés par l’IA des deux hommes de profil. Entre eux, une transcription du texte généré par l’IA est surlignée en jaune alors que des voix générées par l’IA simulant celles de Herzog ou de Žižek le lisent. La conversation va et vient entre eux, avec des accents distincts, et vous pouvez sauter entre chaque segment en cliquant sur les flèches sous les portraits.
Son créateur positionne le site comme un commentaire social sur les deepfakes audio et les technologies à venir qui pourraient saper la confiance dans les médias dans un proche avenir. « Ce projet vise à sensibiliser à la facilité d’utilisation des outils de synthèse d’une vraie voix », écrit Miceli sur le site. « En ce moment, n’importe quel imbécile motivé peut le faire avec un ordinateur portable dans sa chambre. »
Giacomo Miceli
Herzog et Žižek semblent être des cibles particulièrement mûres pour l’usurpation d’identité de l’IA, car les auditeurs pourraient être prédisposés à croire que le directeur philosophique et philosophe pourrait dire des choses profondes et difficiles à comprendre. En conséquence, lorsque le grand modèle de langage de style GPT-3 derrière The Infinite Conversation crache des absurdités philosophiques, cela ressemble presque à la réalité. Voici un exemple de quelque chose que le faux Herzog a dit sur le site :
D’une certaine manière, Freud a aussi quelque chose à voir avec la littérature.
Il était, après tout, un écrivain.
Oui, c’était un scientifique, il voulait
être un scientifique, mais il était aussi un écrivain
qui a écrit ces histoires étranges.
Il y a quelque chose qui semble contradictoire chez Freud.
D’une part, il avait une telle
vision anthropologique forte, que je trouve très attrayante
d’autre part, il était limité dans sa compréhension de l’histoire culturelle.
Il était très antiquaire, pour lui l’antiquité était
l’époque la plus importante car elle a clairement révélé les pulsions
alors que le Moyen Âge était juste méchant.
Ce n’est que vers la fin de sa vie que
il ne voit rien de bon au Moyen Age.
Le dialogue s’éternise apparemment. « Lorsque vous ouvrez ce site Web, vous êtes amené à un point aléatoire du dialogue », écrit Miceli. « Chaque jour, un nouveau segment de la conversation est ajouté. De nouveaux segments peuvent être générés à une vitesse plus rapide que ce qu’il faut pour les écouter. En théorie, cette conversation pourrait continuer jusqu’à la fin des temps. »
Miceli aurait créé le site en utilisant « des outils open source accessibles à tous », refusant de donner des détails techniques, bien qu’il ait écrit sur Hacker News qu’il pourrait créer un article explicatif dans la semaine prochaine. « La génération du script lui-même se fait à l’aide d’un modèle de langage populaire qui a été affiné sur les interviews et le contenu rédigé par chacun des deux orateurs », écrit-il dans la FAQ du site.
Sur Ars, nous avons déjà couvert la technologie qui peut manipuler votre voix à l’aide de l’IA ou même permettre à quelqu’un de se faire passer pour quelqu’un d’autre de manière audible. Et en octobre, nous avons vu un podcast qui présentait une technologie de synthèse vocale similaire pour alimenter une fausse interview entre Steve Jobs et Joe Rogan.
Peu de gens doutent que nous sommes à l’avant-garde d’une nouvelle ère dans les médias synthétiques, mais quand les machines parleront, auront-elles un sens ? Sur The Infinite Conversation, ce n’est pas encore tout à fait le cas. « Tout ce que vous entendez est entièrement généré par une machine », écrit Miceli. « Les opinions et les croyances exprimées ne représentent personne. Ce sont les hallucinations d’une dalle de silicium. »