Governação democrática da IA de fronteira, parte II: Capacitar as equipas de ciberdefesa
A IA está a transformar a velocidade, a escala e os custos da cibersegurança. Pode ajudar as equipas de ciberdefesa a encontrar e corrigir vulnerabilidades, detetar intrusões e responder a ataques. No entanto, essas mesmas capacidades podem facilitar a atuação de agentes maliciosos e criar novos riscos quando os sistemas de IA ultrapassam os limites previstos. Estamos numa janela de oportunidade para a ciberdefesa: um período limitado para colocar IA avançada nas mãos das equipas de defesa e reforçar as proteções antes de as capacidades avançadas de ciberataque se tornarem amplamente acessíveis.
Hoje, publicamos um plano para capacitar as equipas de ciberdefesa, dando continuidade ao nosso anterior plano de ação para a cibersegurança e ao plano de segurança da IA de fronteira(abre numa nova janela). A nossa experiência com casos de desalinhamento e incidentes de segurança que envolveram os nossos próprios modelos evidencia a necessidade de salvaguardas mais robustas e de maior responsabilização em todo o setor. Com base nessas lições, o plano apresenta propostas concretas para os governos e o setor em três áreas:
Reforçar a segurança e a proteção da IA avançada: Definir responsabilidades mais claras na proteção de modelos e agentes de fronteira, na deteção de comportamentos perigosos e na manutenção de mecanismos fiáveis para interromper as operações sob o controlo de cada organização.
Modernizar a cibersegurança para a era da inteligência: Dotar as equipas de ciberdefesa de ferramentas avançadas, formação e apoio técnico; resolver fragilidades persistentes na cibersegurança; e investir na proteção dos serviços essenciais e na substituição de sistemas obsoletos.
Criar instituições públicas resilientes e adaptáveis: Reforçar as avaliações governamentais e as avaliações técnicas independentes, estabelecer requisitos coerentes de comunicação de incidentes e melhorar a coordenação da resposta e da recuperação.
Os laboratórios de IA têm a responsabilidade de fazer face aos riscos criados pelos seus sistemas e de ajudar a reforçar as defesas da sociedade. Os governos também devem dispor dos conhecimentos especializados, dos recursos e da autoridade necessários para proteger a população à medida que as capacidades avançam. Apelamos aos decisores políticos para que ajam já, estabelecendo salvaguardas, aprendendo com a experiência e reforçando os requisitos à medida que a tecnologia evolui.
Leia o plano completo aqui(abre numa nova janela).
