Protéger les applications génératives basées sur l’IA contre les attaques incitatives, en veillant à ce qu’elles ne divulguent pas de données sensibles ou ne créent pas de sorties ou de résultats malveillants susceptibles de violer les réglementations en matière de confidentialité, devient une véritable entreprise. Nous avons déjà vu quelques startups dans ce domaine et aujourd’hui, Aim Security, basée à Tel Aviv, se joint à la mêlée avec une nouvelle plate-forme de sécurité GenAI et un cycle de financement de démarrage de 10 millions de dollars. Ce cycle a été mené par YL Ventures, avec la participation du Cyber Club London et d’un groupe d’investisseurs providentiels comprenant les fondateurs de WIZ.
Comme tant de startups de sécurité israéliennes, les fondateurs d’Aim Security, Matan Getz (PDG) et Adir Gruss (CTO), ont suivi une formation en cybersécurité pendant leur séjour dans l’armée israélienne. Getz a passé du temps avec l’unité 8200 et est devenu RSSI adjoint de Tsahal, tandis que Gruss était le commandant de ce que Getz a décrit comme un « programme d’éducation d’élite en matière de cybersécurité ». Après son passage dans l’armée, Gruss est devenu le CTO de Laminar.
Crédits images : Viser la sécurité
« Nous nous sommes associés pour mes projets internes [at the IDF] et puis quand GenAI est devenu à la mode et pas seulement pour les geeks, nous avons rapidement compris la puissance de GenAI. C’est exactement à ce moment-là que nous avons décidé de nous associer et de fonder Aim Security », m’a expliqué Getz.
Getz a expliqué que l’entreprise souhaite examiner de manière globale les implications de sécurité de GenAI, dont la plupart tournent autour de la prévention des fuites de données et de la garantie de l’utilisation de GenAI – à la fois par les employés qui utilisent des produits GenAI publics comme ChatGPT et par les développeurs qui peuvent créer les leurs. applications internes ou publiques – ne divulgue pas de données privées.
« Les applications grand public disponibles sont très faciles à utiliser. C’est comme l’appeler [Data Loss Prevention] sous stéroïdes, car vous avez désormais intérêt à télécharger des données sensibles et les applications ont tout intérêt à entraîner leurs modèles sur ces données », a déclaré Getz. Pendant ce temps, de nombreuses grandes entreprises ont commencé à connecter leurs données internes à des copilotes (principalement de Microsoft), ce qui rend difficile l’application de leurs règles d’autorisation existantes, tandis que les développeurs internes cherchent à créer leurs propres applications maison.
La plate-forme de l’entreprise s’intègre à de nombreuses solutions de sécurité existantes, mais elle propose également une extension de navigateur légère. De cette façon, l’entreprise se situe toujours entre le grand modèle de langage et l’utilisateur (ou l’application) et sait exactement quels outils GenAI les employés d’une entreprise utilisent et quelles données ils leur fournissent.
Getz a noté que l’entreprise connaît déjà beaucoup de succès dans un certain nombre de secteurs. Avec des investisseurs profondément enracinés aux États-Unis et en Europe, la société a désormais pour objectif de se développer sur ces marchés.