Governança democrática da IA de ponta, parte II: Capacitando defensores cibernéticos
A IA está mudando a velocidade, a escala e a dinâmica econômica da cibersegurança. Ela pode ajudar os defensores a encontrar e corrigir vulnerabilidades, detectar invasões e responder a ataques. Mas essas mesmas capacidades podem favorecer agentes mal-intencionados e criar novos riscos quando os sistemas de IA atuam além dos limites previstos. Estamos em uma janela de oportunidade para os defensores: um período limitado para colocar a IA avançada em suas mãos e reforçar as proteções antes que capacidades avançadas de ataque cibernético se tornem amplamente disponíveis.
Hoje, estamos publicando um plano para capacitar defensores cibernéticos, dando continuidade ao nosso plano de ação anterior para cibersegurança e ao nosso plano de segurança para modelos de fronteira(abre em uma nova janela). Nossa experiência com desalinhamento e incidentes de segurança envolvendo nossos próprios modelos reforça a necessidade de salvaguardas mais robustas e de responsabilização em todo o setor. Com base nessas lições, o plano apresenta propostas concretas para governos e para o setor em três áreas:
Reforçar a segurança e a proteção da IA avançada: Estabelecer responsabilidades mais claras pela proteção de modelos e agentes de fronteira, pela detecção de comportamentos perigosos e pela manutenção de controles confiáveis de desligamento para operações sob o controle de cada organização.
Modernizar a cibersegurança para a era da inteligência: Oferecer aos defensores ferramentas avançadas, treinamento e suporte técnico; corrigir fragilidades antigas de cibersegurança; e investir na proteção de serviços essenciais e na substituição de sistemas obsoletos.
Construir instituições públicas resilientes e adaptáveis: Reforçar as avaliações governamentais e as análises técnicas independentes, estabelecer requisitos consistentes de notificação de incidentes e aprimorar a coordenação das ações de resposta e recuperação.
Os laboratórios de IA têm a responsabilidade de lidar com os riscos que seus sistemas criam e ajudar a fortalecer as defesas da sociedade. Os governos também precisam ter conhecimento técnico, recursos e autoridade para proteger a população à medida que as capacidades avançam. Incentivamos os formuladores de políticas públicas a agir agora: estabelecer salvaguardas, aprender com a experiência e reforçar as exigências à medida que a tecnologia evolui.
Leia o plano completo aqui(abre em uma nova janela).
