Quản trị dân chủ đối với AI tiên phong, phần II: Nâng cao năng lực cho lực lượng phòng thủ mạng
AI đang thay đổi tốc độ, quy mô và các yếu tố kinh tế trong lĩnh vực an ninh mạng. AI có thể giúp lực lượng phòng thủ mạng tìm và khắc phục lỗ hổng, phát hiện xâm nhập và ứng phó với các cuộc tấn công. Tuy nhiên, chính những năng lực này cũng có thể tiếp tay cho các đối tượng có ý đồ xấu và tạo ra rủi ro mới khi hệ thống AI hoạt động vượt ra ngoài giới hạn dự kiến. Chúng ta đang có một cơ hội ngắn ngủi để tạo lợi thế cho bên phòng thủ: đưa AI tiên tiến vào tay lực lượng phòng thủ mạng và tăng cường các biện pháp bảo vệ trước khi năng lực tấn công mạng tiên tiến trở nên phổ biến.
Hôm nay, chúng tôi công bố kế hoạch tổng thể nhằm nâng cao năng lực cho lực lượng phòng thủ mạng, dựa trên kế hoạch hành động về an ninh mạng trước đây và kế hoạch tổng thể về an toàn AI tiên phong(mở trong cửa sổ mới) của chúng tôi. Kinh nghiệm của chúng tôi với tình trạng sai lệch và các sự cố bảo mật liên quan đến chính các mô hình của mình cho thấy toàn ngành cần có những biện pháp bảo vệ mạnh mẽ hơn và trách nhiệm giải trình cao hơn. Từ những bài học đó, kế hoạch tổng thể đưa ra các đề xuất cụ thể cho chính phủ và ngành trong ba lĩnh vực:
Tăng cường an toàn và bảo mật cho AI tiên tiến: Quy định rõ hơn trách nhiệm bảo mật các mô hình và tác nhân AI tiên phong, phát hiện hành vi nguy hiểm và duy trì cơ chế dừng hoạt động đáng tin cậy đối với các hoạt động thuộc quyền kiểm soát của mỗi tổ chức.
Hiện đại hóa an ninh mạng cho kỷ nguyên trí tuệ: Cung cấp cho lực lượng phòng thủ các công cụ tiên tiến, hoạt động đào tạo và hỗ trợ kỹ thuật; khắc phục những điểm yếu tồn tại lâu nay về an ninh mạng; đồng thời đầu tư bảo vệ các dịch vụ thiết yếu và thay thế các hệ thống lỗi thời.
Xây dựng các cơ quan công quyền có khả năng chống chịu và thích ứng: Tăng cường hoạt động đánh giá của chính phủ và đánh giá kỹ thuật độc lập, thiết lập các yêu cầu nhất quán về báo cáo sự cố, đồng thời cải thiện khả năng phối hợp ứng phó và khôi phục.
Các phòng nghiên cứu AI có trách nhiệm xử lý những rủi ro do hệ thống của mình tạo ra và góp phần củng cố khả năng phòng vệ của xã hội. Các chính phủ cũng phải có chuyên môn, nguồn lực và thẩm quyền để bảo vệ người dân khi năng lực AI ngày càng phát triển. Chúng tôi khuyến khích các nhà hoạch định chính sách hành động ngay: thiết lập các biện pháp bảo vệ, rút kinh nghiệm từ thực tiễn và nâng cao các yêu cầu khi công nghệ phát triển.
Đọc toàn bộ kế hoạch tổng thể tại đây(mở trong cửa sổ mới).
