OpenAI và NASK của Ba Lan hợp tác thúc đẩy an toàn và bảo mật AI
OpenAI và Viện Nghiên cứu Quốc gia NASK của Ba Lan đã ký thỏa thuận nhằm tìm hiểu cơ hội hợp tác về an toàn, bảo mật và nghiên cứu kỹ thuật AI. Quan hệ hợp tác này sẽ kết hợp chuyên môn của cả hai tổ chức để hiểu rõ hơn các rủi ro mới nổi, củng cố các biện pháp bảo vệ và tìm hiểu cách AI tiên tiến có thể góp phần xây dựng một hệ sinh thái số an toàn hơn, có khả năng chống chịu tốt hơn.
Khi các hệ thống AI ngày càng mạnh mẽ, hợp tác quốc tế giữa các nhà phát triển và các tổ chức nghiên cứu công lập sẽ đóng vai trò thiết yếu trong việc hiểu rõ rủi ro của những hệ thống này và xây dựng các biện pháp bảo vệ vững chắc hơn. Hoạt động hợp tác hiện nay của OpenAI với Trung tâm Thúc đẩy Tiêu chuẩn và Đổi mới về Siêu trí tuệ của Hoa Kỳ (CAISSI), Viện Bảo mật AI của Vương quốc Anh (AISI) và các tổ chức nghiên cứu công lập khác trên thế giới đã góp phần củng cố các biện pháp bảo vệ, phát hiện và khắc phục lỗ hổng bảo mật trong các tác nhân AI, đồng thời thúc đẩy an toàn cho AI tiên phong.
Theo thỏa thuận, Trung tâm Nghiên cứu An toàn AI của NASK – đảm nhiệm vai trò Viện An toàn Trí tuệ Nhân tạo Ba Lan (AISI) – và OpenAI sẽ hợp tác nghiên cứu về an toàn AI, tìm hiểu các cách đánh giá những hệ thống AI ngày càng mạnh mẽ, phát hiện lỗ hổng tiềm ẩn và củng cố các biện pháp bảo vệ.
OpenAI đã kêu gọi Hoa Kỳ hợp tác với các quốc gia trên thế giới về các tiêu chuẩn kỹ thuật quốc tế cho AI tiên phong, dựa trên chuyên môn của các viện an toàn AI và các cơ quan tiêu chuẩn hóa. Các phương pháp chung để đánh giá năng lực, đánh giá rủi ro, kiểm thử biện pháp bảo vệ và báo cáo sự cố có thể giúp các quốc gia đối chiếu bằng chứng và ứng phó với những rủi ro xuyên biên giới. Sự hợp tác với NASK cho thấy giá trị của việc đóng góp chuyên môn từ từng quốc gia vào nỗ lực chung này.
Với NASK, chuyên môn này được xây dựng trên nền tảng nghiên cứu sâu rộng về an toàn AI, được ứng dụng trực tiếp để bảo vệ các dịch vụ công và hệ sinh thái thông tin số của Ba Lan. Nếu thiếu các đối tác cấp quốc gia như NASK, các tiêu chuẩn an toàn AI toàn cầu có thể vẫn xa rời thực tiễn sử dụng AI.
Thỏa thuận này cũng tiếp nối hoạt động hợp tác hiện có của OpenAI với các lực lượng phòng thủ mạng tại Ba Lan. Vào tháng 7, CERT Polska, đơn vị trực thuộc NASK, đã được cấp quyền truy cập(mở trong cửa sổ mới) các mô hình có năng lực an ninh mạng của OpenAI thông qua Daybreak. Nhóm đã sử dụng các mô hình của OpenAI để hỗ trợ phát hiện sáu lỗ hổng trong MikroTik RouterOS, trong đó có những lỗ hổng có thể bị khai thác kết hợp để chiếm quyền kiểm soát các thiết bị bị ảnh hưởng mà không cần xác thực. Nhà cung cấp đã phát hành các bản vá, và CERT Polska xác nhận rằng các bản vá này đã ngăn chặn được những cuộc tấn công mà họ quan sát thấy.
