A preparar o nosso próximo sprint de segurança para reforçar a OpenAI
Estamos a preparar o nosso próximo sprint interno de segurança na OpenAI, reunindo novos investigadores e parceiros de segurança com as nossas equipas para usar os nossos modelos para testar e reforçar os nossos sistemas. Estamos a colaborar com a Cathedral, cujos investigadores usarão os modelos da OpenAI em conjunto com as nossas equipas para pôr à prova as nossas defesas, trazendo conhecimentos especializados e abordagens distintas para identificar pontos fracos e ajudar-nos a proteger as nossas plataformas.
Também estamos a introduzir melhorias no nosso programa de recompensas por vulnerabilidades de segurança, incluindo aumentar para mais do quádruplo as recompensas pela descoberta de vulnerabilidades críticas. Queremos que os investigadores questionem os nossos pressupostos e ajudem a reforçar tanto os nossos sistemas como os métodos que usamos para os defender.
Isto faz parte do nosso esforço contínuo para usar a IA para identificar e corrigir pontos fracos nos nossos sistemas. O nosso último sprint demonstrou os resultados que esta abordagem pode trazer. Afetámos 25% dos nossos engenheiros de produto à identificação e correção de pontos fracos nos nossos sistemas. Com o Codex, os engenheiros investigaram os problemas detetados, reproduziram vulnerabilidades em ambientes isolados e prepararam correções para revisão.
Estamos a dar continuidade a esse trabalho porque as defesas cibernéticas tradicionais, por si só, já não são suficientes. Os incidentes recentes no setor mostram a rapidez com que podem surgir ameaças e a importância de criar ciclos contínuos de defesa para identificar e corrigir pontos fracos antes de os atacantes os descobrirem.
Manter aberta a janela de oportunidade dos defensores exige que as organizações usem capacidades de cibersegurança de fronteira para reforçar os seus sistemas. Estamos a usar os nossos modelos mais capazes para reforçar as nossas próprias defesas e a disponibilizá-los aos clientes do Daybreak. Comprometemo-nos a disponibilizar mil milhões de dólares em acesso subsidiado ao longo de seis meses para os defensores na linha da frente da proteção de serviços essenciais e infraestruturas digitais. Também estamos a partilhar a nossa arquitetura e as lições aprendidas no último sprint, juntamente com o nosso plano para capacitar os profissionais de ciberdefesa no setor privado e na administração pública.
Continuaremos a melhorar os nossos modelos, a usá-los para reforçar os nossos próprios sistemas e a alargar o acesso a defensores de confiança. Manter aberta a janela de oportunidade dos defensores exigirá a mobilização de todo o setor, e esse trabalho tem de começar agora.
