Gobernanza democrática de la IA de vanguardia, parte II: empoderar a los ciberdefensores
La IA está transformando la velocidad, la escala y los costes de la ciberseguridad. Puede ayudar a los defensores a encontrar y corregir vulnerabilidades, detectar intrusiones y responder a los ataques. Sin embargo, esas mismas capacidades pueden facilitar la actividad de actores maliciosos y generar nuevos riesgos cuando los sistemas de IA actúan más allá de los límites previstos. Estamos ante una oportunidad para los defensores: un periodo limitado para poner la IA avanzada en sus manos y reforzar las protecciones antes de que las capacidades avanzadas de ciberataque estén ampliamente disponibles.
Hoy publicamos un plan para reforzar las capacidades de los ciberdefensores, basado en nuestro anterior plan de acción sobre ciberseguridad y en nuestro plan de seguridad para la IA de vanguardia(se abre en una ventana nueva). Nuestra experiencia con los problemas de alineación y los incidentes de seguridad relacionados con nuestros propios modelos pone de relieve la necesidad de reforzar las salvaguardas y la rendición de cuentas en todo el sector. A partir de esas lecciones, el plan plantea propuestas concretas para los gobiernos y el sector en tres ámbitos:
Reforzar la seguridad y la protección de la IA avanzada: establecer responsabilidades más claras para proteger los modelos y agentes de vanguardia, detectar comportamientos peligrosos y mantener controles fiables de desconexión para las operaciones bajo el control de cada organización.
Modernizar la ciberseguridad para la era de la inteligencia: dotar a los defensores de herramientas avanzadas, formación y asistencia técnica; abordar las deficiencias de ciberseguridad que persisten desde hace tiempo; e invertir en la protección de los servicios esenciales y la sustitución de sistemas obsoletos.
Crear instituciones públicas resilientes y adaptables: reforzar las evaluaciones gubernamentales y los análisis técnicos independientes, establecer requisitos uniformes de notificación de incidentes y mejorar la coordinación de la respuesta y la recuperación.
Los laboratorios de IA tienen la responsabilidad de abordar los riesgos que generan sus sistemas y ayudar a reforzar las defensas de la sociedad. Los gobiernos también deben contar con los conocimientos especializados, los recursos y la autoridad necesarios para proteger a la población a medida que avanzan las capacidades. Animamos a los responsables políticos a actuar ahora: establecer salvaguardas, aprender de la experiencia y reforzar los requisitos a medida que evoluciona la tecnología.
Lee el plan completo aquí(se abre en una ventana nueva).
