OpenAI e NASK da Polónia unem-se para reforçar a segurança e a proteção da IA
A OpenAI e o Instituto Nacional de Investigação NASK, da Polónia, assinaram um acordo para explorar a colaboração nas áreas da segurança, da proteção e da investigação técnica em IA. A parceria reunirá os conhecimentos especializados de ambas as organizações para compreender melhor os riscos emergentes, reforçar as salvaguardas e explorar de que forma a IA avançada pode contribuir para um ecossistema digital mais seguro e resiliente.
À medida que os sistemas de IA se tornam mais capazes, a colaboração internacional entre quem os desenvolve e as instituições públicas de investigação será essencial para compreender os seus riscos e criar salvaguardas mais robustas. O trabalho que a OpenAI já desenvolve com o Centro para o Avanço de Normas e Inovação em Superinteligência (CAISSI) dos EUA, o Instituto de Segurança da IA (AISI) do Reino Unido e outras instituições públicas de investigação em todo o mundo já ajudou a reforçar salvaguardas, a identificar e corrigir vulnerabilidades de segurança em agentes de IA e a promover a segurança da IA de fronteira.
Ao abrigo do acordo, o Centro de Investigação em Segurança da IA do NASK — que desempenha as funções de Instituto Polaco de Segurança da Inteligência Artificial (AISI) — e a OpenAI colaborarão na investigação sobre segurança da IA, explorando formas de avaliar sistemas de IA cada vez mais capazes, identificar potenciais vulnerabilidades e reforçar as salvaguardas.
A OpenAI tem apelado aos EUA para que colaborem com países de todo o mundo na definição de normas técnicas internacionais para a IA de fronteira, recorrendo aos conhecimentos especializados dos institutos de segurança da IA e dos organismos de normalização. Abordagens comuns à avaliação de capacidades e riscos, aos testes de salvaguardas e à comunicação de incidentes podem ajudar os países a comparar dados e a responder a riscos que ultrapassam fronteiras. A colaboração com o NASK reflete o valor de integrar conhecimentos especializados nacionais neste esforço mais alargado.
No caso do NASK, estes conhecimentos assentam numa vasta investigação em segurança da IA, aplicada diretamente à proteção dos serviços públicos e do ecossistema de informação digital da Polónia. Sem parceiros nacionais como o NASK, as normas globais de segurança da IA podem continuar desligadas das realidades em que a IA é efetivamente utilizada.
O acordo dá também continuidade ao trabalho que a OpenAI já desenvolve com profissionais de ciberdefesa na Polónia. Em julho, a CERT Polska, que integra o NASK, obteve acesso(abre numa nova janela) aos modelos da OpenAI com capacidades de cibersegurança através do Daybreak. A equipa utilizou modelos da OpenAI para ajudar a descobrir seis vulnerabilidades no MikroTik RouterOS, incluindo falhas que podiam ser combinadas para assumir o controlo dos dispositivos afetados sem autenticação. O fornecedor disponibilizou correções, e a CERT Polska confirmou que estas impediam os ataques que tinha observado.
