AI 正在改變網路安全的運作速度、規模與成本效益。AI 能協助防禦者找出並修補漏洞、偵測入侵及應對攻擊；但同樣的能力也可能被惡意行為者利用，而當 AI 系統的行為超出預定範圍時，也會帶來新的風險。我們正處於防禦者的機會之窗：在先進的網路攻擊能力普及之前，還有一段有限的時間，能讓防禦者掌握先進 AI，並強化防護。
今天，我們在先前的網路安全行動計畫與前沿 AI 安全藍圖(在新視窗中開啟)的基礎上，發布一份提升網路防禦者能力的藍圖。我們自身模型曾出現對齊偏差，並涉及資安事件。這些經驗凸顯出，整個產業都需要更強健的防護措施與問責機制。這份藍圖汲取了上述經驗教訓，針對以下三個面向，向政府與業界提出具體建議：
強化先進 AI 的安全性與資安防護：明確界定各組織的責任，包括保護前沿模型與代理、偵測危險行為，以及確保其管轄的運作具備可靠的關閉控制機制。
推動網路安全現代化，迎接智慧時代：為防禦者提供先進工具、訓練與技術支援；解決長期存在的網路安全弱點；並投入資源保護關鍵服務、汰換老舊系統。
建立具韌性與應變能力的公共機構：強化政府評估與獨立技術評鑑，制定一致的事件通報要求，並改善協同應變與復原工作。
AI 實驗室有責任處理自身系統帶來的風險，並協助強化社會的防禦能力。隨著 AI 能力持續提升，政府也必須具備保護大眾所需的專業知識、資源與權限。我們鼓勵政策制定者立即採取行動：建立防護措施、汲取實務經驗，並隨著技術演進提高相關要求。
請在此(在新視窗中開啟)閱讀完整藍圖。
作者
OpenAI
