Gobernanza democrática de la IA de vanguardia, parte II: fortalecer a los ciberdefensores
La IA está transformando la velocidad, la escala y los costos de la ciberseguridad. Puede ayudar a los ciberdefensores a encontrar y corregir vulnerabilidades, detectar intrusiones y responder a ataques. Sin embargo, esas mismas capacidades pueden facilitar la actividad de actores maliciosos y generar nuevos riesgos cuando los sistemas de IA actúan fuera de los límites previstos. Estamos ante una ventana de oportunidad para la ciberdefensa: un plazo limitado para poner la IA avanzada en manos de los ciberdefensores y reforzar las protecciones antes de que las capacidades avanzadas de ciberataque estén ampliamente disponibles.
Hoy publicamos un plan para fortalecer a los ciberdefensores, basado en nuestro anterior plan de acción en ciberseguridad y en nuestro plan de seguridad para la IA de vanguardia(se abre en una nueva ventana). Nuestra experiencia con problemas de alineación e incidentes de seguridad relacionados con nuestros propios modelos pone de relieve la necesidad de reforzar las salvaguardas y la rendición de cuentas en toda la industria. A partir de esas lecciones, el plan presenta propuestas concretas para los gobiernos y la industria en tres áreas:
Reforzar la seguridad y la protección de la IA avanzada: establecer responsabilidades más claras para proteger los modelos y agentes de vanguardia, detectar comportamientos peligrosos y mantener mecanismos confiables de apagado para las operaciones bajo el control de cada organización.
Modernizar la ciberseguridad para la era de la inteligencia: proporcionar a los ciberdefensores herramientas avanzadas, capacitación y asistencia técnica; abordar debilidades de larga data en ciberseguridad; e invertir en proteger los servicios esenciales y reemplazar los sistemas obsoletos.
Construir instituciones públicas resilientes y adaptables: reforzar las evaluaciones gubernamentales y los análisis técnicos independientes, establecer requisitos uniformes para reportar incidentes y mejorar la coordinación de la respuesta y la recuperación.
Los laboratorios de IA tienen la responsabilidad de abordar los riesgos que generan sus sistemas y contribuir a fortalecer las defensas de la sociedad. Los gobiernos también deben contar con los conocimientos especializados, los recursos y las facultades necesarios para proteger a la población a medida que avanzan las capacidades. Instamos a los responsables de las políticas públicas a actuar ahora: establecer salvaguardas, aprender de la experiencia y reforzar los requisitos a medida que evoluciona la tecnología.
Lee el plan completo aquí(se abre en una nueva ventana).
