OpenAI y NASK de Polonia se alían para mejorar la seguridad y protección de la IA
OpenAI y el Instituto Nacional de Investigación NASK de Polonia firmaron un acuerdo para explorar oportunidades de colaboración en seguridad y protección de la IA e investigación técnica. La alianza reunirá los conocimientos de ambas organizaciones para comprender mejor los riesgos emergentes, reforzar las medidas de protección y explorar cómo la IA avanzada puede contribuir a un ecosistema digital más seguro y resiliente.
A medida que aumenten las capacidades de los sistemas de IA, la colaboración internacional entre desarrolladores e instituciones públicas de investigación será esencial para comprender sus riesgos y crear medidas de protección más sólidas. El trabajo que OpenAI ya realiza con el Centro para el Avance de los Estándares y la Innovación en Superinteligencia de Estados Unidos (CAISSI), el Instituto de Seguridad de la IA del Reino Unido (AISI) y otras instituciones públicas de investigación de todo el mundo ha contribuido a reforzar las medidas de protección, identificar y corregir vulnerabilidades de seguridad en agentes de IA y mejorar la seguridad de la IA de vanguardia.
En el marco del acuerdo, el Centro de Investigación sobre Seguridad de la IA de NASK —que actúa como el Instituto Polaco de Seguridad de la Inteligencia Artificial (AISI)— y OpenAI colaborarán en investigaciones sobre seguridad de la IA. Explorarán formas de evaluar sistemas de IA con capacidades cada vez mayores, identificar posibles vulnerabilidades y reforzar las medidas de protección.
OpenAI ha pedido que Estados Unidos trabaje con países de todo el mundo en estándares técnicos internacionales para la IA de vanguardia, aprovechando la experiencia de los institutos de seguridad de la IA y los organismos de normalización. Contar con enfoques comunes para evaluar capacidades y riesgos, probar medidas de protección y reportar incidentes puede ayudar a los países a comparar la evidencia y responder a riesgos que trascienden las fronteras. La colaboración con NASK refleja el valor de incorporar los conocimientos especializados de cada país a este esfuerzo más amplio.
En el caso de NASK, estos conocimientos se basan en una amplia labor de investigación sobre seguridad de la IA, aplicada directamente a la protección de los servicios públicos y del ecosistema de información digital de Polonia. Sin socios nacionales como NASK, los estándares globales de seguridad de la IA podrían seguir desconectados de las realidades en las que se usa esta tecnología.
El acuerdo también se apoya en el trabajo que OpenAI ya realiza con especialistas en ciberdefensa de Polonia. En julio, CERT Polska, que forma parte de NASK, obtuvo acceso(se abre en una nueva ventana) a los modelos de OpenAI con capacidades de ciberseguridad a través de Daybreak. El equipo utilizó modelos de OpenAI como apoyo para descubrir seis vulnerabilidades en MikroTik RouterOS, incluidas fallas que podían combinarse para tomar el control de los dispositivos afectados sin autenticación. El proveedor publicó correcciones, y CERT Polska confirmó que estas impedían los ataques que había observado.
