Préparer notre prochain sprint de sécurité pour renforcer OpenAI

Nous préparons notre prochain sprint de sécurité interne chez OpenAI, qui réunira de nouveaux chercheurs et partenaires en sécurité avec nos propres équipes pour tester et renforcer nos systèmes à l’aide de nos modèles. Nous collaborons avec Cathedral, dont les chercheurs utiliseront les modèles d’OpenAI aux côtés de nos équipes pour mettre nos défenses à l’épreuve. Ils apporteront une expertise et des approches distinctives pour repérer les faiblesses et nous aider à protéger nos plateformes.

Nous apportons aussi des améliorations à notre programme de primes aux bogues de sécurité, notamment en multipliant par plus de quatre les primes offertes pour le signalement de vulnérabilités critiques. Nous voulons que les chercheurs remettent en question nos hypothèses et contribuent à renforcer nos systèmes ainsi que les méthodes que nous utilisons pour les défendre.

Cette démarche s’inscrit dans nos efforts continus visant à utiliser l’IA pour repérer et corriger en permanence les faiblesses de nos systèmes. Notre dernier sprint a montré ce que cette approche peut accomplir. Nous avons affecté 25 % de nos ingénieurs de produits à la recherche et à la correction des faiblesses de nos systèmes. À l’aide de Codex, les ingénieurs ont examiné les problèmes détectés, reproduit les vulnérabilités dans des environnements isolés et préparé des correctifs à soumettre à un examen.

Nous poursuivons ce travail, car les cyberdéfenses traditionnelles ne suffisent plus à elles seules. Des incidents récents dans l’ensemble du secteur montrent à quelle vitesse les menaces peuvent émerger et combien il est important de mettre en place des cycles de défense continus pour repérer et corriger les faiblesses avant que les attaquants ne les exploitent.

Pour garder ouverte la fenêtre d’action des défenseurs, les organisations doivent utiliser des capacités de cybersécurité de pointe afin de renforcer leurs systèmes. Nous utilisons nos modèles les plus performants pour renforcer nos propres défenses et les mettons à la disposition des clients de Daybreak. Nous nous sommes engagés à fournir 1 milliard de dollars en accès subventionné sur six mois aux défenseurs de première ligne qui protègent les services essentiels et les infrastructures numériques. Nous partageons également notre architecture et les leçons tirées⁠ du dernier sprint, ainsi que notre plan d’action pour outiller les cyberdéfenseurs dans l’industrie et les administrations publiques.

Nous continuerons à faire progresser nos modèles, à les utiliser pour renforcer nos propres systèmes et à en élargir l’accès aux défenseurs de confiance. Garder ouverte la fenêtre d’action des défenseurs exigera une mobilisation de tout le secteur, et ce travail doit commencer dès maintenant.