Nous pourrions bientôt entrer dans un monde où les PNJ ne se contentent pas de parcourir des lignes de code, mais forment des relations complexes avec d’autres PNJ même lorsque nous sommes absents, ou semblons, du moins.
Jusqu’à présent, nous avons été soumis à des systèmes d’IA NPC assez rudimentaires. Les ennemis et les suiveurs réagiront à leur environnement en temps réel, prenant des décisions en fonction de votre style de jeu, etc., mais un article récent (s’ouvre dans un nouvel onglet) (PDF) par des chercheurs de l’Université de Stanford et de Google Research décrit une impressionnante « architecture pour agents génératifs » dans des environnements de monde ouvert.
L’article s’intitule « Agents génératifs : simulacres interactifs du comportement humain » et décrit la manière intelligente dont ils ont fait en sorte que les PNJ se comportent de manière crédible et spontanée.
Pour tester la capacité d’un cadre génératif qu’ils avaient conçu, les chercheurs ont construit un petit monde ouvert similaire à « Les Sims », comme ils disent, bien que les graphismes ressemblent davantage à une Stardew Valley. Après avoir ajouté une pincée de personnalité aux données de départ des PNJ, ils ont laissé tomber les petits agents dans le monde et les ont regardés interagir de manière incroyablement complexe.
« L’intention » d’un PNJ était de planifier une fête de la Saint-Valentin, et elle l’a fait. Elle a couru partout en invitant ses amis PNJ et a passé la veille de la fête à décorer le lieu avec sa meilleure amie. Cette amie, dont la trame de fond incluait un béguin secret pour un autre personnage, a invité son béguin à la fête.
Les comportements sociaux consistant à passer le mot, à décorer, à se demander, à arriver à la fête et à interagir les uns avec les autres à la fête ont été initiés par l’architecture de l’agent.
« Les comportements sociaux consistant à passer le mot, à décorer, à se demander, à arriver à la fête et à interagir les uns avec les autres à la fête ont été initiés par l’architecture de l’agent », lit-on dans l’article.
Non seulement l’architecture générative permet aux PNJ de « percevoir » l’environnement qui les entoure, mais également de développer une compréhension crédible de leur monde avec un « enregistrement complet des expériences de l’agent appelé flux de mémoire ». En réfléchissant sur leurs souvenirs récupérés et en planifiant leurs actions en conséquence, ils peuvent former des relations complexes et coordonner de grands groupes.
En dessous de tout cela, le système utilise un grand modèle de langage – pensez à ChatGPT – pour générer les comportements. Comme l’observe l’article, « les grands modèles de langage codent un large éventail de comportements humains représentés dans leurs données d’entraînement » qui peuvent être utilisés pour raconter des actions et des conversations crédibles. Et la crédibilité était l’objectif spécifique des chercheurs ; ils ne disent pas que ce sont littéralement des agents sensibles, juste des personnages qui semblent souvent réels. Dans un sens, les personnages expriment leur réalité dans l’existence et sont susceptibles de certaines erreurs, comme faire des embellissements.
C’est tout un papier ! Il a donné des motivations et de la mémoire à 25 agents de l’IA, et les a placés dans une ville simulée. Non seulement ils se sont livrés à des comportements complexes (y compris organiser une fête de la Saint-Valentin), mais les actions ont été jugées plus humaines que les jeux de rôle humains. https://t.co/G7oJW1S3na pic.twitter.com/d7Gp4sXp4V10 avril 2023
L’une des principales préoccupations éthiques que l’article note à propos de ces « proxies crédibles du comportement humain » est la possibilité que les gens tombent amoureux des PNJ. Ou comme ils l’appellent : « former des relations parasociales avec des agents générateurs même lorsque de telles relations peuvent ne pas être appropriées ».
« Bien qu’ils soient conscients que les agents génératifs sont des entités informatiques, les utilisateurs peuvent les anthropomorphiser ou leur attacher des émotions humaines », prévient l’article.
La façon dont les chercheurs proposent de s’attaquer au problème est de s’assurer que les PNJ « divulguent explicitement leur nature en tant qu’entités informatiques » et que les développeurs s’assurent que leurs conceptions sont « alignées sur les valeurs afin qu’ils ne s’engagent pas dans des comportements qui seraient inappropriés compte tenu du contexte. , par exemple, pour rendre la pareille aux confessions d’amour. »
Les humains se lieront littéralement avec n’importe quoi, qu’il s’agisse d’une IA qui divulgue explicitement sa non-humanité ou d’un objet inanimé avec une collection de rainures en forme de visage, de sorte que ces mesures peuvent ne pas aider. (Et croyez-le ou non, cela a déjà été un problème.)
Je dis amenez les relations homme-IA, mais c’est une conversation pour un autre jour.
Si les choses continuent comme elles sont, il semble que la « dynamique sociale émergente » ne soit pas trop loin pour les PNJ du jeu. Un jour, vous rentrerez dans un village que vous avez saccagé pour trouver des mères en deuil organisant des funérailles pour leurs proches. Vous pouvez parier qu’ils s’accrocheront à toutes ces fois où vous avez crié « FUS » à leurs poulets, et qu’ils auront même la capacité de se venger de leurs compatriotes aviaires lésés.
En attendant, vous pouvez visionner le replay de la simulation (s’ouvre dans un nouvel onglet) démo qui accompagne le papier.