OpenAI y NASK de Polonia se unen para mejorar la seguridad y la protección de la IA
OpenAI y el Instituto Nacional de Investigación NASK de Polonia han firmado un acuerdo para explorar vías de colaboración en materia de seguridad y protección de la IA e investigación técnica. Esta alianza reunirá los conocimientos de ambas organizaciones para comprender mejor los riesgos emergentes, reforzar las salvaguardas y explorar cómo la IA avanzada puede contribuir a un ecosistema digital más seguro y resiliente.
A medida que aumenten las capacidades de los sistemas de IA, la colaboración internacional entre desarrolladores e instituciones públicas de investigación será esencial para comprender sus riesgos y establecer salvaguardas más sólidas. La colaboración de OpenAI con el Centro para el Avance de los Estándares y la Innovación en Superinteligencia de Estados Unidos (CAISSI), el Instituto de Seguridad de la IA del Reino Unido (AISI) y otras instituciones públicas de investigación de todo el mundo ya ha contribuido a reforzar las salvaguardas, identificar y corregir vulnerabilidades de seguridad en agentes de IA e impulsar la seguridad de la IA de vanguardia.
En virtud del acuerdo, el Centro de Investigación sobre Seguridad de la IA de NASK —que actúa como Instituto Polaco de Seguridad de la Inteligencia Artificial (AISI)— y OpenAI colaborarán en la investigación sobre seguridad de la IA. Explorarán formas de evaluar sistemas de IA cada vez más capaces, identificar posibles vulnerabilidades y reforzar las salvaguardas.
OpenAI ha pedido que Estados Unidos colabore con países de todo el mundo para establecer normas técnicas internacionales para la IA de vanguardia, aprovechando los conocimientos de los institutos de seguridad de la IA y los organismos de normalización. Adoptar enfoques comunes para evaluar capacidades y riesgos, poner a prueba las salvaguardas y notificar incidentes puede ayudar a los países a contrastar los datos disponibles y responder a riesgos que trascienden las fronteras. La colaboración con NASK refleja el valor de incorporar los conocimientos especializados de cada país a este esfuerzo más amplio.
En el caso de NASK, estos conocimientos se sustentan en una amplia labor de investigación sobre seguridad de la IA, aplicada directamente a la protección de los servicios públicos y del ecosistema de información digital de Polonia. Sin socios nacionales como NASK, las normas mundiales de seguridad de la IA pueden quedar desconectadas de los contextos en los que realmente se utiliza esta tecnología.
El acuerdo también se apoya en la colaboración que OpenAI ya mantiene con equipos de ciberdefensa en Polonia. En julio, CERT Polska, que forma parte de NASK, obtuvo acceso(se abre en una ventana nueva) a los modelos de OpenAI con capacidades de ciberseguridad a través de Daybreak. El equipo utilizó modelos de OpenAI para ayudar a descubrir seis vulnerabilidades en MikroTik RouterOS, entre ellas fallos que podían combinarse para tomar el control de los dispositivos afectados sin autenticación. El proveedor publicó correcciones y CERT Polska confirmó que impedían los ataques que había observado.
