Preparar nuestro próximo sprint de seguridad para reforzar OpenAI

Estamos preparando nuestro próximo sprint interno de seguridad en OpenAI, que reunirá a nuevos investigadores y socios de seguridad con nuestros equipos para usar nuestros modelos a fin de poner a prueba y reforzar nuestros sistemas. Estamos colaborando con Cathedral, cuyos investigadores usarán los modelos de OpenAI junto con nuestros equipos para poner a prueba nuestras defensas. Aportarán conocimientos y enfoques distintivos para encontrar debilidades y ayudarnos a proteger nuestras plataformas.

También estamos implementando mejoras en nuestro programa de recompensas por errores de seguridad, entre ellas, aumentar a más del cuádruple las recompensas por hallazgos críticos. Queremos que los investigadores cuestionen nuestros supuestos y ayuden a reforzar tanto nuestros sistemas como los métodos que usamos para defenderlos.

Esto forma parte de nuestro esfuerzo constante por usar la IA para encontrar y corregir debilidades en nuestros sistemas de manera continua. Nuestro último sprint demostró los resultados que puede ofrecer este enfoque. Asignamos al 25 % de nuestros ingenieros de producto a encontrar y corregir debilidades en nuestros sistemas. Con Codex, los ingenieros investigaron los hallazgos, reprodujeron vulnerabilidades en entornos aislados y prepararon parches para su revisión.

Estamos dando continuidad a ese trabajo porque las defensas tradicionales de ciberseguridad ya no bastan por sí solas. Los incidentes recientes en el sector muestran lo rápido que pueden surgir las amenazas y lo importante que es establecer ciclos continuos de defensa para encontrar y corregir debilidades antes de que los atacantes las aprovechen.

Mantener abierta la ventana de oportunidad de los defensores exige que las organizaciones usen capacidades de ciberseguridad de vanguardia para reforzar sus sistemas. Estamos usando nuestros modelos más capaces para reforzar nuestras propias defensas y poniéndolos a disposición de los clientes de Daybreak. Nos comprometimos a destinar 1000 millones de dólares a subsidiar el acceso durante seis meses para los defensores de primera línea que protegen los servicios esenciales y la infraestructura digital. También estamos compartiendo nuestra arquitectura y las lecciones aprendidas⁠ del último sprint, junto con nuestro plan para potenciar a los defensores de la ciberseguridad en la industria y el gobierno.

Seguiremos mejorando nuestros modelos, usándolos para reforzar nuestros propios sistemas y ampliando el acceso para los defensores de confianza. Mantener abierta la ventana de oportunidad de los defensores requerirá acciones de todo el sector, y ese trabajo debe comenzar ahora.