OpenAI et NASK, en Pologne, s’allient pour renforcer la sûreté et la sécurité de l’IA
OpenAI et l’Institut national de recherche NASK de Pologne ont signé une entente pour explorer une collaboration en matière de sûreté, de sécurité et de recherche technique en IA. Ce partenariat réunira l’expertise des deux organisations pour mieux comprendre les risques émergents, renforcer les mesures de protection et explorer comment l’IA avancée peut contribuer à un écosystème numérique plus sûr et plus résilient.
À mesure que les systèmes d’IA deviennent plus performants, la collaboration internationale entre les développeurs et les établissements publics de recherche sera essentielle pour comprendre leurs risques et renforcer les mesures de protection. Les travaux qu’OpenAI mène déjà avec le Centre pour l’avancement des normes et de l’innovation en superintelligence (CAISSI) des États-Unis, l’Institut de sécurité de l’IA (AISI) du Royaume-Uni et d’autres établissements publics de recherche dans le monde ont contribué à renforcer les mesures de protection, à repérer et à corriger des vulnérabilités de sécurité dans les agents d’IA, et à faire progresser la sûreté de l’IA de pointe.
Dans le cadre de cette entente, le Centre de recherche sur la sûreté de l’IA de NASK — qui fait office d’Institut polonais de sûreté de l’intelligence artificielle (AISI) — et OpenAI collaboreront à la recherche sur la sûreté de l’IA, en explorant des moyens d’évaluer des systèmes d’IA de plus en plus performants, de repérer les vulnérabilités potentielles et de renforcer les mesures de protection.
OpenAI a appelé les États-Unis à travailler avec des pays du monde entier sur des normes techniques internationales pour l’IA de pointe, en s’appuyant sur l’expertise des instituts de sûreté de l’IA et des organismes de normalisation. Des approches communes pour évaluer les capacités et les risques, tester les mesures de protection et signaler les incidents peuvent aider les pays à comparer les données probantes et à répondre aux risques qui dépassent les frontières. La collaboration avec NASK témoigne de l’importance d’intégrer l’expertise nationale à cet effort plus vaste.
Dans le cas de NASK, cette expertise repose sur des recherches approfondies en sûreté de l’IA, appliquées directement à la protection des services publics et de l’écosystème d’information numérique de la Pologne. Sans partenaires nationaux comme NASK, les normes mondiales de sûreté de l’IA risquent de rester déconnectées des réalités de son utilisation.
L’entente s’appuie également sur les travaux qu’OpenAI mène déjà avec des spécialistes de la cyberdéfense en Pologne. En juillet, CERT Polska, qui fait partie de NASK, a obtenu l’accès(s'ouvre dans une nouvelle fenêtre) aux modèles d’OpenAI dotés de capacités en cybersécurité par l’intermédiaire de Daybreak. L’équipe s’est servie des modèles d’OpenAI pour l’aider à découvrir six vulnérabilités dans MikroTik RouterOS, dont des failles qui pouvaient être combinées pour prendre le contrôle des appareils touchés sans authentification. Le fournisseur a publié des correctifs, et CERT Polska a confirmé qu’ils empêchaient les attaques observées.
