AI 正在改變網絡安全工作的速度、規模及成本結構。AI 能協助防禦人員找出並修補漏洞、偵測入侵及應對攻擊，但同樣的能力也可能被惡意行為者利用；當 AI 系統超出原定界限運作時，更可能帶來新的風險。目前正是防禦人員把握先機的窗口期：在先進網絡攻擊能力廣泛普及之前，我們仍有一段有限的時間，讓防禦人員用上先進 AI，並加強防護。
今天，我們在早前的網絡安全行動計劃及前沿 AI 安全藍圖（在新視窗中開啟）的基礎上，發佈一份旨在增強網絡防禦人員能力的藍圖。我們曾遇到自身模型偏離對齊目標的情況，以及涉及這些模型的安全事故。這些經驗突顯出，整個行業都需要加強防護措施和問責機制。藍圖汲取這些經驗，從三個方面向政府及業界提出具體建議：
加強先進 AI 的安全性與防護：更清楚界定各方在保護前沿模型與智能代理、偵測危險行為，以及維持可靠的停止運作控制機制等方面的責任；這些機制適用於各機構控制範圍內的運作。
推動網絡安全現代化，迎接智能時代：為防禦人員提供先進工具、培訓及技術支援；解決長期存在的網絡安全弱點；並投入資源，保障不可或缺的服務的安全及更換過時系統。
建立具備韌性及適應能力的公共機構：加強政府進行的評估及獨立技術評估，訂立一致的事故通報要求，並加強應對及復原工作的協調。
AI 實驗室有責任處理其系統帶來的風險，並協助增強社會的防禦能力。隨着 AI 能力不斷提升，政府也必須具備相應的專業知識、資源及權限，以保障公眾安全。我們鼓勵政策制定者立即採取行動，建立防護措施、汲取實踐經驗，並隨着技術發展逐步提高要求。
請按此（在新視窗中開啟）閱讀完整藍圖。
作者
OpenAI
