Gouvernance démocratique de l’IA de pointe, partie II : outiller les cyberdéfenseurs
L’IA transforme la vitesse, l’échelle et les aspects économiques de la cybersécurité. Elle peut aider les cyberdéfenseurs à repérer et à corriger les vulnérabilités, à détecter les intrusions et à répondre aux attaques. Mais ces mêmes capacités peuvent servir des acteurs malveillants et créer de nouveaux risques lorsque les systèmes d’IA dépassent les limites prévues. Nous disposons d’une fenêtre d’action pour la cyberdéfense : une occasion limitée de mettre l’IA avancée entre les mains des cyberdéfenseurs et de renforcer les protections avant que les capacités cyberoffensives avancées ne deviennent largement accessibles.
Aujourd’hui, nous publions un plan directeur pour outiller les cyberdéfenseurs, dans le prolongement de notre précédent plan d’action en cybersécurité et de notre plan directeur pour la sûreté de l’IA de pointe(s'ouvre dans une nouvelle fenêtre). Notre expérience des problèmes d’alignement et des incidents de sécurité impliquant nos propres modèles souligne la nécessité de renforcer les mesures de protection et la responsabilisation dans l’ensemble du secteur. S’appuyant sur ces leçons, le plan directeur présente des propositions concrètes aux gouvernements et au secteur dans trois domaines :
Renforcer la sûreté et la sécurité de l’IA avancée : Définir plus clairement les responsabilités en matière de sécurisation des modèles et des agents de pointe, de détection des comportements dangereux et de maintien de mécanismes d’arrêt fiables pour les opérations sous le contrôle de chaque organisation.
Moderniser la cybersécurité à l’ère de l’intelligence : Fournir aux cyberdéfenseurs des outils avancés, de la formation et du soutien technique; remédier aux faiblesses de longue date en cybersécurité; et investir dans la sécurisation des services essentiels et le remplacement des systèmes désuets.
Bâtir des institutions publiques résilientes et adaptatives : Renforcer les évaluations gouvernementales et les évaluations techniques indépendantes, établir des exigences uniformes de signalement des incidents et améliorer la coordination des interventions et du rétablissement.
Les laboratoires d’IA ont la responsabilité de gérer les risques créés par leurs systèmes et de contribuer à renforcer les défenses de la société. Les gouvernements doivent aussi disposer de l’expertise, des ressources et des pouvoirs nécessaires pour protéger le public à mesure que les capacités progressent. Nous encourageons les responsables des politiques à agir dès maintenant : établir des mesures de protection, tirer des leçons de l’expérience et renforcer les exigences à mesure que la technologie évolue.
Lisez le plan directeur complet ici(s'ouvre dans une nouvelle fenêtre).
