OpenAI et le NASK polonais s’allient pour faire progresser la sûreté et la sécurité de l’IA
OpenAI et l’institut national de recherche polonais NASK ont signé un accord pour explorer une collaboration en matière de sûreté, de sécurité et de recherche technique sur l’IA. Ce partenariat réunira l’expertise des deux organisations pour mieux comprendre les risques émergents, renforcer les mesures de protection et explorer comment l’IA avancée peut contribuer à un écosystème numérique plus sûr et plus résilient.
À mesure que les systèmes d’IA gagnent en capacités, la collaboration internationale entre les développeurs et les organismes publics de recherche sera essentielle pour comprendre leurs risques et renforcer les mesures de protection. Les travaux qu’OpenAI mène déjà avec le Centre américain pour l’avancement des normes et de l’innovation en matière de superintelligence (CAISSI), l’Institut britannique de sécurité de l’IA (AISI) et d’autres organismes publics de recherche à travers le monde ont permis de renforcer les mesures de protection, de repérer et de corriger des failles de sécurité dans les agents d’IA, et de faire progresser la sûreté de l’IA de pointe.
Dans le cadre de cet accord, le Centre de recherche sur la sûreté de l’IA du NASK, qui fait office d’Institut polonais de sûreté de l’intelligence artificielle (AISI), et OpenAI collaboreront à la recherche sur la sûreté de l’IA. Ils exploreront des moyens d’évaluer des systèmes d’IA toujours plus performants, de repérer les vulnérabilités potentielles et de renforcer les mesures de protection.
OpenAI a appelé les États-Unis à travailler avec les pays du monde entier sur des normes techniques internationales pour l’IA de pointe, en s’appuyant sur l’expertise des instituts de sûreté de l’IA et des organismes de normalisation. Des approches communes pour évaluer les capacités et les risques, tester les mesures de protection et signaler les incidents peuvent aider les pays à comparer les données probantes et à répondre aux risques transfrontaliers. La collaboration avec le NASK illustre l’intérêt d’intégrer l’expertise nationale à cet effort plus large.
Dans le cas du NASK, cette expertise repose sur des recherches approfondies en matière de sûreté de l’IA, directement appliquées à la protection des services publics et de l’écosystème d’information numérique polonais. Sans partenaires nationaux comme le NASK, les normes mondiales de sûreté de l’IA risquent de rester déconnectées des réalités de son utilisation.
L’accord s’appuie également sur les travaux qu’OpenAI mène déjà avec les acteurs de la cyberdéfense en Pologne. En juillet, CERT Polska, qui fait partie du NASK, a obtenu l’accès(ouverture dans une nouvelle fenêtre) aux modèles d’OpenAI dotés de capacités en cybersécurité par l’intermédiaire de Daybreak. L’équipe s’est appuyée sur les modèles d’OpenAI pour découvrir six vulnérabilités dans MikroTik RouterOS, dont des failles qui, combinées, pouvaient permettre de prendre le contrôle des appareils concernés sans authentification. L’éditeur a publié des correctifs, et CERT Polska a confirmé qu’ils empêchaient les attaques observées.
