Palantir vend déjà ses services de surveillance intérieure aux services de l’immigration et des douanes des États-Unis. Il n’est donc pas surprenant que la société fondée par le milliardaire Peter Thiel s’efforce également de pénétrer le Pentagone. Mardi, la société a publié une vidéo de démonstration de sa dernière offre, la plateforme d’intelligence artificielle Palantir (AIP). Alors que le système lui-même est simplement conçu pour intégrer de grands modèles de langage (LLM) comme le GPT-4 d’OpenAI ou le BERT de Google dans des réseaux privés, la toute première chose qu’ils ont faite a été de l’appliquer au champ de bataille moderne.
Dans la démo vidéo ci-dessus, un opérateur militaire chargé de surveiller le théâtre d’Europe de l’Est découvre des forces ennemies massées près de la frontière et répond en demandant à un assistant numérique de type ChatGPT de l’aider à déployer des drones de reconnaissance, à égrener des réponses tactiques à l’agression perçue et même organiser le brouillage des communications ennemies. L’AIP est montré aidant à estimer la composition et les capacités de l’ennemi en lançant un drone Reaper lors d’une mission de reconnaissance en réponse à la demande de l’opérateur pour de meilleures images, et en suggérant des réponses appropriées compte tenu de la découverte d’un élément blindé.
« Les LLM et les algorithmes doivent être contrôlés dans ce contexte hautement réglementé et sensible pour garantir qu’ils sont utilisés de manière légale et éthique », commence la vidéo. Pour ce faire, le fonctionnement d’AIP repose sur trois « piliers clés », le premier étant qu’AIP se déploiera sur un système classifié, capable d’analyser en temps réel les données classifiées et non classifiées, de manière éthique et légale. L’entreprise n’a pas précisé comment cela fonctionnerait. Le deuxième pilier est que les utilisateurs pourront basculer la portée et les actions de chaque LLM et actif sur le réseau. L’AIP lui-même générera un enregistrement numérique sécurisé de l’ensemble de l’opération, « crucial pour atténuer les risques juridiques, réglementaires et éthiques importants dans les environnements sensibles et classifiés », selon la démo. Le troisième pilier est constitué des « garde-corps à la pointe de l’industrie » d’AIP pour empêcher le système de prendre des mesures non autorisées.
Un « humain dans la boucle » pour empêcher de telles actions existe dans le scénario de Palantir, bien que d’après la vidéo, « l’opérateur » semble faire un peu plus que hocher la tête avec tout ce que l’AIP suggère. La démo n’a pas non plus précisé les mesures prises pour empêcher les LLM sur lesquels le système s’appuie d' »halluciner » des faits et des détails pertinents.