Les effets néfastes de la technologie de l’intelligence artificielle (IA) entre les mains des criminels, permettant la création de deep fakes et de logiciels malveillants, ont accru l’urgence d’agir.
OpenAI, le créateur de ChatGPT et Dall-e, a annoncé un programme de subventions de cybersécurité d’un million de dollars pour améliorer et mesurer l’impact des technologies de cybersécurité basées sur l’IA.
La société d’IA a toujours souligné l’importance de la réglementation de l’IA pour contrecarrer les applications potentiellement malveillantes. Dans une course aux armements numériques en cours, OpenAI semble prendre des mesures proactives pour s’assurer que les forces positives ne restent pas à la traîne.
OpenAI a présenté une gamme variée de concepts de projets, notamment la création de pots de miel pour piéger les attaquants, l’aide aux développeurs dans la conception de logiciels sécurisés et l’amélioration des procédures de gestion des correctifs pour une efficacité optimale.
Les objectifs du programme sont évidents, comme l’indique OpenAI dans son article de blog officiel : « Notre objectif est de favoriser l’avancement des capacités de cybersécurité basées sur l’IA pour les défenseurs par le biais de subventions et d’une assistance supplémentaire. » L’accent est mis sur l’évaluation de l’efficacité des modèles d’IA. et déterminer des méthodes pour améliorer leurs capacités de cybersécurité.
Cette initiative novatrice vise à atteindre trois objectifs clés. Premièrement, il cherche à « responsabiliser les défenseurs » en tirant parti des capacités de l’IA et des efforts de collaboration pour modifier l’équilibre en faveur de ceux qui se consacrent à l’amélioration de la sûreté et de la sécurité globales.
Un autre objectif de l’initiative est de « mesurer les capacités ». OpenAI vise à soutenir les projets axés sur le développement de méthodes de quantification pour évaluer l’efficacité des modèles d’IA dans le domaine de la cybersécurité. De plus, OpenAI entend « élever le discours » en favorisant des discussions approfondies sur la relation complexe entre l’IA et la cybersécurité.
En rapport: OpenAI reçoit un avertissement des régulateurs japonais sur la collecte de données
Cette initiative bouscule la perspective conventionnelle sur la cybersécurité. OpenAI souligne l’importance de la phrase communément entendue selon laquelle les défenseurs doivent toujours avoir raison, tandis que les attaquants n’ont besoin de réussir qu’une seule fois. Cependant, l’entreprise reconnaît le pouvoir de la collaboration vers l’objectif commun d’assurer la sécurité des personnes. Il est déterminé à démontrer qu’avec l’aide de l’IA, les défenseurs peuvent changer la dynamique et prendre le dessus.
Magazine: 25 000 traders parient sur les sélections d’actions de ChatGPT, l’IA est nul aux lancers de dés, et plus encore