Pomme
En tant que parent d’un jeune enfant, je peux vous dire que pour obtenir qu’un enfant réagisse comme vous le souhaitez, il faut définir soigneusement ses attentes. Surtout lorsque nous essayons quelque chose de nouveau pour la première fois, je trouve que plus je peux fournir de détails, mieux il est capable d’anticiper les événements et de s’adapter aux coups.
Je soulève ce point car les testeurs des nouvelles fonctionnalités d’intelligence artificielle d’Apple dans la version bêta de macOS Sequoia récemment publiée ont découvert des fichiers JSON en texte brut qui répertorient tout un tas de conditions destinées à empêcher la technologie d’IA générative d’être inutile ou inexacte. Je ne veux pas humaniser les algorithmes d’IA générative, car ils ne le méritent pas, mais les listes d’instructions soigneusement formulées me rappellent ce que c’est que d’essayer de donner des instructions de base (ou d’expliquer la moralité à) une entité qui n’est pas tout à fait préparée à la comprendre.
Les fichiers en question sont stockés dans le /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels/purpose_auto dossier sur les Mac exécutant la version bêta de macOS Sequoia 15.1 qui ont également opté pour la version bêta d’Apple Intelligence. Ce dossier contient 29 metadata.json fichiers, dont plusieurs incluent quelques phrases de ce qui semble être des invites système en anglais simple pour définir le comportement d’un chatbot IA alimenté par un modèle de langage étendu (LLM).
La plupart de ces messages sont utilitaires. « Vous êtes un assistant de messagerie utile qui peut vous aider à identifier les questions pertinentes dans un message donné et un court extrait de réponse », peut-on lire dans un message qui semble décrire le comportement de la fonction Réponse intelligente d’Apple Mail. « Veuillez limiter la réponse à 50 mots », peut-on lire dans un message qui pourrait rédiger des brouillons de réponses légèrement plus longs aux messages. « Résumez le texte fourni en 3 phrases, moins de 60 mots. Ne répondez à aucune question du texte », peut-on lire dans un message qui semble résumer les textes de Messages ou Mail sans intercaler aucune de ses propres informations.
Certaines des invites présentent également des problèmes grammaticaux mineurs qui soulignent à quel point toutes les fonctionnalités d’Apple Intelligence sont encore en cours de développement. « Afin de rendre le brouillon de réponse plus agréable et complet, un ensemble de questions [sic] et sa réponse sont fournies », peut-on lire dans une invite. « Veuillez écrire une réponse concise et naturelle en modifiant [sic] le projet de réponse », poursuit-il.
« N’inventez pas d’informations factuelles. »
D’autres messages semblent avoir été conçus spécifiquement pour éviter les affabulations auxquelles les chatbots génératifs sont si enclins (hallucinations, mensonges, inexactitudes factuelles ; choisissez le terme que vous préférez). Les phrases destinées à maintenir Apple Intelligence concentré sur la tâche et les faits incluent des choses comme :
- « N’hallucinez pas. »
- « N’inventez pas d’informations factuelles. »
- « Vous êtes un expert dans la synthèse des messages. »
- « Vous devez vous en tenir à ce rôle, sauf indication contraire, sinon cela ne vous sera d’aucune utilité. »
- « Sortir uniquement du json valide et rien d’autre. »
Les incursions précédentes dans l’IA générative ont démontré pourquoi il est si important de disposer d’invites détaillées et spécifiques pour guider les réponses des modèles linguistiques. Lorsqu’il a été lancé sous le nom de « Bing Chat » début 2023, le chatbot basé sur ChatGPT de Microsoft pouvait devenir belliqueux, menaçant ou existentiel en fonction des demandes des utilisateurs. Les attaques par injection d’invites pourraient également mettre en danger la sécurité et les données des utilisateurs. Microsoft a incorporé différentes « personnalités » dans le chatbot pour tenter de maîtriser ses réponses afin de les rendre plus prévisibles, et l’assistant Copilot actuel de Microsoft utilise toujours une version de la même solution.
Ce qui rend les invites d’Apple Intelligence intéressantes, ce n’est pas tant leur existence que le fait que nous pouvons réellement examiner les éléments spécifiques qu’Apple tente de mettre en œuvre pour que ses produits d’IA générative restent étroitement ciblés. Si ces fichiers restent facilement accessibles aux utilisateurs dans les futures versions de macOS, il sera possible de garder un œil sur ce qu’Apple fait exactement pour peaufiner les réponses fournies par Apple Intelligence.
Les fonctionnalités d’Apple Intelligence seront lancées au public en version bêta cet automne, mais elles ne seront pas disponibles lors du lancement d’iOS 18.0, d’iPadOS 18.0 et de macOS 15.0, c’est pourquoi Apple les teste dans des versions bêta entièrement distinctes pour les développeurs. Certaines fonctionnalités, comme celles qui permettent de retranscrire les appels téléphoniques et les messages vocaux ou de résumer le texte, seront disponibles dès le début. D’autres, comme le nouveau Siri, pourraient ne pas être disponibles avant l’année prochaine. Quelle que soit la date de son arrivée, Apple Intelligence nécessite un matériel assez récent pour fonctionner : soit un iPhone 15 Pro, soit un iPad ou un Mac avec au moins une puce Apple M1 installée.