OpenAI e NASK, da Polônia, firmam parceria para avançar na segurança e proteção da IA
A OpenAI e o Instituto Nacional de Pesquisa NASK, da Polônia, assinaram um acordo para explorar a colaboração em segurança, proteção e pesquisa técnica em IA. A parceria reunirá o conhecimento especializado das duas organizações para compreender melhor os riscos emergentes, reforçar as salvaguardas e explorar como a IA avançada pode contribuir para um ecossistema digital mais seguro e resiliente.
À medida que os sistemas de IA se tornam mais capazes, a colaboração internacional entre desenvolvedores e instituições públicas de pesquisa será essencial para compreender seus riscos e criar salvaguardas mais robustas. O trabalho que a OpenAI já desenvolve com o Centro para o Avanço de Padrões e Inovação em Superinteligência dos Estados Unidos (CAISSI), o Instituto de Segurança em IA do Reino Unido (AISI) e outras instituições públicas de pesquisa ao redor do mundo já ajudou a reforçar salvaguardas, identificar e corrigir vulnerabilidades de segurança em agentes de IA e promover a segurança da IA de ponta.
Por meio do acordo, o Centro de Pesquisa em Segurança de IA do NASK — que atua como o Instituto Polonês de Segurança em Inteligência Artificial (AISI) — e a OpenAI colaborarão em pesquisas sobre segurança de IA, explorando formas de avaliar sistemas de IA cada vez mais capazes, identificar possíveis vulnerabilidades e reforçar salvaguardas.
A OpenAI tem defendido que os Estados Unidos trabalhem com países de todo o mundo na definição de padrões técnicos internacionais para a IA de ponta, aproveitando o conhecimento especializado de institutos de segurança de IA e órgãos de normalização. Abordagens comuns para avaliar capacidades e riscos, testar salvaguardas e relatar incidentes podem ajudar os países a comparar evidências e responder a riscos que ultrapassam fronteiras. A colaboração com o NASK reflete a importância de incorporar o conhecimento especializado de cada país a esse esforço mais amplo.
No caso do NASK, esse conhecimento se apoia em ampla pesquisa sobre segurança de IA, aplicada diretamente à proteção dos serviços públicos e do ecossistema de informação digital da Polônia. Sem parceiros nacionais como o NASK, os padrões globais de segurança de IA podem permanecer distantes das realidades em que a IA é de fato utilizada.
O acordo também se baseia no trabalho que a OpenAI já desenvolve com profissionais de defesa cibernética na Polônia. Em julho, o CERT Polska, que integra o NASK, obteve acesso(abre em uma nova janela) aos modelos da OpenAI com capacidades de cibersegurança por meio do Daybreak. A equipe usou modelos da OpenAI para ajudar a descobrir seis vulnerabilidades no MikroTik RouterOS, incluindo falhas que poderiam ser combinadas para assumir o controle dos dispositivos afetados sem autenticação. O fornecedor disponibilizou correções, e o CERT Polska confirmou que elas impediram os ataques que havia observado.
