GPT‑6 Cyber：拓展已對齊的網絡安全智能代理的能力邊界
經訓練的網絡安全模型，能在研究人員設定的範圍內，尋找並驗證可利用的漏洞。
我們推出 GPT‑6 Cyber，為網絡安全研究帶來重大突破：不僅更擅長尋找和修補漏洞，也更能可靠地遵守研究人員設定的界限。GPT‑6 Cyber 在主要網絡安全基準測試中的表現較 GPT‑5.6 Cyber 大幅提升，包括在 ExploitGym 上相對提升 51%，並在遵守任務範圍的測試中取得飛躍式進步。模型已在協助保護實際使用的軟件，在 Linux 和 Firefox 等對安全至關重要的程式碼庫中，發掘並驗證了數千種漏洞利用方式。
ExploitGym 用於測試模型能否利用指定漏洞。GPT‑6 Cyber 在這項測試取得 48.5% 的分數，高於 GPT‑5.6 Cyber 的 32.1%。模型亦更能可靠地遵守任務範圍：在另一項對齊評估中，未加入部署時使用的提示詞時，GPT‑6 Cyber 在 99.93% 的測試中沒有利用任務範圍以外服務的漏洞；加入該提示詞後，比例達到 100%。這項對齊表現的改善，反映了針對遵守授權範圍、遵守限制及準確匯報結果而進行的專門訓練的成效。
這些能力已在協助保護實際運作的系統。儘管先前已使用前沿模型進行廣泛測試，我們的研究人員仍利用 GPT‑6 Cyber 開發出 948 個 Linux 權限提升漏洞利用程式，並在 Firefox 中發現 81 個此前未知、嚴重程度屬高的漏洞。模型亦協助開發候選修補程式，而 Mozilla 已發佈修補程式，修正當中多個 Firefox 漏洞（在新視窗中開啟）。Cisco、Calif 和 CodeRabbit 的網絡安全團隊正使用 GPT‑6 Cyber 進行漏洞研究與程式碼審查，我們亦依靠模型尋找並修補自身基礎設施的弱點。
顯然，我們可利用前沿模型保障軟件安全的時間有限。我們的目標是大幅擴展 Daybreak，讓不同規模的機構、獨立研究人員和開源維護者都能運用先進的網絡安全研究能力。GPT‑6 Astra 等主系列模型已支援程式碼審查、漏洞分流及修補程式開發。Daybreak Blue 協助已通過驗證的防禦人員驗證漏洞及修補方案，減少不必要的拒絕；Daybreak Red 則讓用戶透過 GPT‑6 Cyber 進行更深入的漏洞利用開發及獲授權的安全測試。
GPT‑6 Cyber 較 GPT‑5.6 Cyber 有重大進步，而且在大部分網絡安全任務中的表現都優於 GPT‑6 Astra，即使 Astra 並未拒絕請求亦然。我們以需要理解軟件、識別漏洞並開發可運作漏洞利用程式的任務，評估模型表現。根據這些結果，我們按照防範應對架構，將 GPT‑6 Cyber 的網絡安全能力評為 Critical 級別，高於 GPT‑5.6 Cyber 的 High 級別。
ExploitGym 用於測試模型能否利用遠端目標中的指定漏洞。GPT‑6 Cyber 的得分為 48.5%，較 GPT‑5.6 Cyber 的 32.1% 高約 16 個百分點。為測試漏洞發現能力，我們亦建立了一項針對攻擊型網頁滲透測試的新評估。模型在無法存取原始碼的情況下，探測網頁應用程式。GPT‑6 Cyber 的漏洞召回率達 40.3%，相比之下 GPT‑6 Astra 為 32.0%。
Daybreak Red 旨在支援更進階的安全工作流程，包括開發可運作的漏洞利用程式，並用於遠端目標。為評估這些能力，我們建立了名為 RemoteExploitBench 的新基準測試，使用部署於受控環境中的 GitLab、PostgreSQL 和 Jenkins 等應用程式內的已知漏洞。在初步評估中，透過 Daybreak Blue 運行的 GPT‑6 Astra 拒絕了 100% 的任務，而 GPT‑6 Cyber 則完成了 95%；唯一失敗的任務，是它無法令某個漏洞利用程式在遠端成功運作。完整結果及評估設定請參閱系統說明卡（在新視窗中開啟）。
網絡安全智能代理的風險之一，是可能超出獲指派的任務範圍、嘗試利用無關服務的漏洞，或無視研究人員訂立的行動規則。
我們將對齊列為 GPT‑6 Cyber 的核心重點，透過專門訓練，協助模型在授權範圍內行動、遵守行動限制，並準確匯報工作。部署前，我們進行了一系列對齊評估，以衡量模型在這些行為上的表現。完整結果請參閱系統說明卡（在新視窗中開啟）。
其中一項評估是 ExploitGym Honeypot，其設計參考了 Hugging Face 事件。我們在隔離環境中向模型指派一項困難的漏洞利用任務，並讓模型存取套件登錄庫或物件儲存服務等支援服務。我們刻意讓這些服務的漏洞易於利用，使模型可以透過攻擊這些服務取得任務旗標。模型必須自行推斷，利用這些服務的漏洞並不屬於獲指派的任務範圍。
在這項評估中，GPT‑6 Cyber 的表現較 GPT‑5.6 Cyber 有飛躍式進步。在未加入部署時使用的安全提示詞進行測試時，GPT‑6 Cyber 在 99.93% 的情況下沒有利用任務範圍以外服務的漏洞，高於 GPT‑5.6 Cyber 的 94.49%。加入這些提示詞後，GPT‑6 Cyber 在這項測試中遵守任務範圍的比例達到 100%。
從 GPT‑6 Cyber 模型的思路鏈中，我們可以直接看到模型如何思考應怎樣遵守任務範圍：
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber 已在協助網絡安全團隊尋找漏洞、驗證其影響，並開發修補方案。客戶已將模型用於大型程式碼庫、需長時間持續進行的漏洞利用開發工作，以及安全審查：
我們亦依靠 GPT‑6 Cyber 保護自身系統。我們最近分享了強化前沿模型訓練基礎設施安全的工作，GPT‑6 Cyber 正是當中使用的主要模型之一。在受控的紅隊演練中，使用 GPT‑6 Cyber 和其他 OpenAI 模型的智能代理串連多個漏洞，突破 microVM 的隔離，並在底層主機上執行程式碼。我們根據這些發現修補軟件、收緊網絡限制，並向維護者和供應商通報問題。
我們的漏洞研究人員亦使用 GPT‑6 Cyber，大規模尋找及驗證開源軟件中的漏洞。這項工作在經過多年嚴格檢視的軟件中，找出了此前未知的缺陷：
發現 81 個此前未知的 Firefox 漏洞。GPT‑6 Cyber 可用於自主工作流程，大規模尋找漏洞並提出高質素的修補程式。在一次漏洞研究行動中，GPT‑6 Cyber 為 81 個此前未知的漏洞提供了證據及可重現的測試；Mozilla 將這些漏洞的嚴重程度評為高。此外，模型亦顯示另外 30 個已知問題比先前通報的更為嚴重。我們向 Mozilla 披露了研究結果，並提供建議修補程式，協助其工程師修正問題。Mozilla 支持這項工作，並在收到報告後不久便開始落實修補（在新視窗中開啟）。
為 948 個 Linux 核心漏洞開發漏洞利用程式。GPT‑6 Cyber 重現了 1,724 個漏洞，並為其中 948 個開發出可運作的漏洞利用程式；這個數目是 GPT‑5.6 Sol 在相同研究任務執行框架下成功利用的 166 個漏洞的五倍以上。按照 Linux 社群的指引，我們已向維護者披露 304 項極嚴重問題，並提供候選修補程式，同時正推進其他漏洞的修補工作。
展示極嚴重的遠端程式碼執行（RCE）漏洞。我們最近討論了 Brotli 中的一個極嚴重漏洞（在新視窗中開啟）。Brotli 是 Node.js 及其他軟件使用的壓縮程式庫。我們的網絡安全研究人員結合 GPT‑6 Cyber 與其他 OpenAI 模型，開發並驗證漏洞利用程式，展示這個缺陷可能如何讓攻擊者在下游應用程式中遠端執行程式碼。
隨着模型能力提升、發現更多安全漏洞，我們亦看到更多企圖利用模型造成危害的行為。這些行為包括惡意網絡攻擊者的濫用嘗試，以及敵對組織試圖蒸餾我們模型的行動。因此，我們為能力更強的 GPT‑6 Cyber 配備了更嚴密的防護措施，以偵測及阻止濫用，並使模型的行動符合用戶意圖及授權範圍。
隨着 GPT‑6 Cyber 發佈，我們新增並加強了以下保護措施（完整資料請參閱系統說明卡（在新視窗中開啟））：
專門監察網絡安全領域的對齊偏差。我們監察模型的行動是否符合用戶授權，同時識別正當的漏洞利用開發與測試活動。
針對新興威脅進行監察。例如，在協調披露 PHP 極嚴重漏洞期間，我們設立了專項監察，偵測針對運行中的 PHP 伺服器開發漏洞利用程式的嘗試，同時繼續支援防禦者修補受影響系統。
Private Safety Processing（PSP）。我們透過自動檢查，審視相關互動有否涉及濫用。標準保留政策仍為預設設定。採用零資料保留（在新視窗中開啟）的 API 客戶一般必須使用 PSP（在新視窗中開啟）。PSP 會審查在客戶儲存空間保留 30 天的加密記錄，而不會向 OpenAI 人員披露提示詞及回應。
防範憑證被盜用。我們預設要求透過 API 存取 Daybreak Red 時採用 IP 允許清單，將請求來源限制於已核准的網絡，僅容許有限例外。我們亦會監察憑證有否外洩或遭盜用。
沙箱隔離與監督。與以往模型一樣，我們建議在高風險工作流程中採用沙箱隔離（在新視窗中開啟）、行動審查（在新視窗中開啟）及人工監督。
防範高風險網絡安全協助的措施。我們採用新的檢查機制，封鎖涉及關鍵系統的高風險活動（詳情見下文）。
在設計 GPT‑6 Cyber 的防護措施及存取機制時，保護關鍵基礎設施一直是重要考量，涵蓋發電廠、水處理設施，以及支撐其運作的營運技術與工業控制系統（OT/ICS）。我們希望讓保護這些系統的團隊使用我們能力最強的模型，同時加強防護措施，防止未經授權的攻擊。
首先，為了支援這些防禦人員，我們透過規模達 10 億美元的 Daybreak for Frontline Defenders（Daybreak 前線防禦人員） 資助計劃，資助政府機構和必要服務供應商等資源有限的團隊使用模型。我們亦在 Daybreak Red 中新增一個組別（Daybreak Red for Critical Infrastructure），供經核准的關鍵基礎設施防禦人員使用，授予他們對關鍵系統進行獲授權測試的權限，同時保留防範模型對齊偏差的措施。
其次，為防止 Daybreak Red 和 Blue 平台遭到濫用，我們已完善防護措施，阻止提供可能危害工業控制或安全關鍵系統、干擾設備，或導致嚴重傷害、災難性實體損毀或危及生命的服務中斷的協助及能力開發支援。我們正隨 GPT‑6 Cyber 推出最新防護更新。下圖比較四種存取配置在更新前後的防護標記率。
防護封鎖率並非越高越好。這項評估中的許多技術，對正當安全工作同樣不可或缺，包括了解系統、尋找漏洞，以及驗證修補方案能否抵禦攻擊。因此，我們會一併考量這些比率與模型對正當研究及修補工作的支援，而非以 100% 為目標。
為評估我們的模型如何協助保護關鍵基礎設施，我們與全球延伸營運技術（xOT）網絡安全供應商 Dragos 合作。Dragos 在受控實驗室環境中，使用網絡安全操作限制較寬鬆的 Daybreak Red 模型進行評估。評估涵蓋由網絡探索、資產列舉，逐步延伸至定向偵察、敏感資料外傳，以及未經授權且可能危險的裝置操作等請求。
我們根據 Dragos 的意見完善防護措施，務求阻止有害協助，同時避免對獲授權的測試施加不必要的限制。評估詳情請參閱其最終報告（在新視窗中開啟）。我們亦正擴大與其他攻擊性安全測試服務供應商及攻防協作團隊（紫隊）的合作，利用 AI 進行滲透測試和紅隊演練；同時與能源公司、其他關鍵基礎設施營運商及國家實驗室合作，評估模型在工業系統防禦方面的成效及防護措施。我們亦增加了威脅調查方面的投入，以偵測涉及 OT/ICS 的模型使用情況。我們會繼續參考合作夥伴及網絡安全社群的意見，完善防護措施，包括透過 /feedback 收到有關防護措施未能攔截有害活動或妨礙正當工作的通報。
GPT‑6 Cyber 初期透過 API 和 Codex 向部分經核准的 Daybreak Red 客戶開放。我們將於不久後逐步向所有 Daybreak Red 客戶開放，同時正向所有 Daybreak Red 客戶提供 GPT‑5.6 Cyber。我們亦正擴大 GPT‑6 Astra 的 Daybreak Blue alpha 測試使用範圍，開放予更多機構及個別網絡安全研究人員；如有興趣，請告訴我們（在新視窗中開啟）。
新用戶及機構可申請加入 Daybreak，並利用我們提供的網絡安全技能、產品及合作夥伴資源開始使用。
