Gouvernance démocratique de l’IA de pointe, partie II : Outiller les cyberdéfenseurs
L’IA transforme la vitesse, l’échelle et l’économie de la cybersécurité. Elle peut aider les cyberdéfenseurs à repérer et à corriger les vulnérabilités, à détecter les intrusions et à répondre aux attaques. Mais ces mêmes capacités peuvent servir des acteurs malveillants et créer de nouveaux risques lorsque les systèmes d’IA agissent au-delà des limites prévues. Une fenêtre d’opportunité s’ouvre aux cyberdéfenseurs : nous disposons d’un temps limité pour mettre l’IA avancée entre leurs mains et renforcer les protections avant que les capacités de cyberattaque avancées ne deviennent largement accessibles.
Aujourd’hui, nous publions une feuille de route pour outiller les cyberdéfenseurs, dans le prolongement de notre précédent plan d’action pour la cybersécurité et de notre feuille de route pour la sûreté de l’IA de pointe(ouverture dans une nouvelle fenêtre). Notre expérience des défauts d’alignement et des incidents de sécurité impliquant nos propres modèles souligne la nécessité de renforcer les garde-fous et la responsabilité dans l’ensemble du secteur. Forte de ces enseignements, cette feuille de route avance des propositions concrètes à l’intention des pouvoirs publics et du secteur dans trois domaines :
Renforcer la sûreté et la sécurité de l’IA avancée : Définir plus clairement les responsabilités en matière de sécurisation des modèles et agents de pointe, de détection des comportements dangereux et de maintien de mécanismes d’arrêt fiables pour les opérations sous le contrôle de chaque organisation.
Moderniser la cybersécurité à l’ère de l’intelligence : Fournir aux cyberdéfenseurs des outils avancés, des formations et un soutien technique ; remédier aux faiblesses persistantes de la cybersécurité ; et investir dans la sécurisation des services essentiels et le remplacement des systèmes obsolètes.
Bâtir des institutions publiques résilientes et adaptatives : Renforcer les évaluations menées par les pouvoirs publics et les expertises techniques indépendantes, harmoniser les obligations de signalement des incidents et améliorer la coordination des interventions et du rétablissement.
Les laboratoires d’IA ont la responsabilité de traiter les risques engendrés par leurs systèmes et de contribuer à renforcer les défenses de la société. Les pouvoirs publics doivent également disposer de l’expertise, des ressources et de l’autorité nécessaires pour protéger la population à mesure que les capacités progressent. Nous encourageons les responsables politiques à agir dès maintenant : mettre en place des garde-fous, tirer les leçons de l’expérience et renforcer les exigences à mesure que la technologie évolue.
Lisez la feuille de route complète ici(ouverture dans une nouvelle fenêtre).
