社群安全報告及青少年新保障措施
ChatGPT 是全球使用最廣泛的 AI 產品之一。我們已投入資源，建立一些業界最先進的系統，用於偵測潛在危害、審查值得關注的活動，以及將有可信依據的威脅上報處理。為進一步推進這方面的工作，我們宣佈兩項消息：推出全新的《社群保障措施報告》，並進一步限制向未成年人提供槍械相關內容。
維護社群安全一直是 OpenAI 的首要任務之一。我們的工作包括向執法機構通報迫在眉睫的暴力威脅。2026 年第 3 季，我們向執法機構轉介了超過 200 宗個案。這些轉介在阻止暴力陰謀方面發揮正面（在新視窗中開啟）作用（在新視窗中開啟）；我們亦繼續倚重精神健康及行為專家，協助評估棘手個案。
我們明白，AI 公司與執法機構、家人、精神健康專業人士和政策制定者並肩合作，當中有自身獨特的角色。這些人士和機構具備關鍵的權限、對具體情況的了解，以及在現實世界中發揮影響的能力。我們致力充分發揮自身角色，持續強化系統、分享所得經驗，並與最有條件在現實世界中採取行動的人士和機構直接合作。
我們不斷加強保護個人和社群的措施。這既要建立完善的保障措施，也要公開說明其成效，以及我們如何進一步改進。我們希望讓大家清楚了解我們的做法、模型如何識別和應對有害行為、實際觀察到的風險，以及我們採取甚麼措施應對。
我們承諾推出《社群安全報告》，涵蓋預防暴力、其他社群安全問題，以及保障措施的成效。報告會說明我們如何訓練系統，以偵測、調查和應對社群安全問題。我們會分享經匿名化處理的例子，說明與暴力相關的危害如何出現，以及我們從中學到甚麼；亦會重點介紹新的風險緩解措施和政策調整，並提供相關數據支持這些發現。
我們將於 2027 年初發佈首份報告，涵蓋 2026 年下半年的情況，其後每 6 個月更新一次。我們承諾分享有實質意義的發現，說明我們如何識別、審查和應對可能有害的內容。
我們已訓練模型，不提供有助他人策劃或實施暴力的指示。如今，我們進一步限制 ChatGPT 回應過往大規模襲擊及施襲者相關問題的方式，指示模型減少提供這方面的細節，即使有關資訊可從其他網上來源取得也一樣。用戶應能透過 ChatGPT 了解這些事件、受害者和社群受到的影響，以及學習如何識別警號和預防日後的暴力事件。不過，我們正收緊政策，限制重構過往大規模襲擊的經過，包括所用武器和裝備及其取得方式的細節，以及可能令施襲者惡名遠播的傷害規模詳細比較。無論用戶年齡或提問原因為何，這些限制均適用。
有時，單看某項請求似乎很平常，但結合較早前的對話來看，便可能有不同意思。5 月時，我們曾分享 ChatGPT 如何運用簡短、基於事實的摘要，記錄較早前出現的警號，從而在之後的對話中更審慎地回應。我們正在此基礎上進一步改進，讓 ChatGPT 在近期對話出現潛在暴力的警號時，對於可能遭濫用的資訊採取更保守的回應方式。我們也正努力將這些更嚴格的限制應用於預測為未滿 18 歲的用戶，即使他們的對話並未顯示任何暴力意圖。
我們會封鎖經判定違反我們暴力行為相關政策的帳戶。我們亦正與精神健康和暴力預防專家合作，研究更多及早介入的自動化方法。當對話顯示某人執着於暴力，或執着於嚴重傷害他人的念頭時，ChatGPT 將能自動結束對話，即時打斷這種模式。如果 ChatGPT 因此多次結束對話，我們可能會暫停該帳戶。這項工作會持續進行，我們會繼續投入資源，加強技術和實際應用層面的保障措施，包括如何可靠地識別警號，以及判斷何時、如何介入。
ChatGPT 青少年版為未滿 18 歲的用戶提供切合年齡的保障措施，透過更強的保護和額外限制，減少接觸敏感內容的機會。我們現正進一步限制青少年可取得的武器相關資訊，即使問題看來無害也一樣。
我們的政策已禁止協助任何人策劃或實施暴力，亦限制協助青少年尋找或取得武器。我們正擴大這些保障措施，限制提供可能被濫用來助長暴力的武器及保安系統實用資訊，即使沒有暴力意圖的跡象也一樣。青少年仍可使用 ChatGPT 協助預防暴力、緩和暴力局面、尋求支援，以及聯絡可信任的成年人。
我們去年推出了年齡預測功能，透過分析行為模式等多項訊號，估計用戶可能未滿還是超過 18 歲。我們已加強年齡預測系統，在用戶使用 ChatGPT 期間持續評估新訊號，並在適當時為青少年切換至未滿 18 歲的使用體驗。被錯誤歸入這種體驗的用戶，將一直有快捷且保障私隱的途徑，透過我們的年齡驗證合作夥伴 Persona 確認自己已成年，並解除額外的青少年保障措施。
我們的「家長控制」功能讓家長連結自己和青少年子女的 ChatGPT 帳戶，共同管理安全設定。已連結的帳戶設有安全通知功能。當受過專門培訓的審查人員發現嚴重的自我傷害風險，以及可能與飲食失調有關的行為時，便可能發送通知。7 月時，我們擴大了這類通知的適用範圍：如果青少年子女的帳戶因違反我們有關暴力的使用政策而被停用，便會通知家長。如上文所述，我們亦正開發另一項通知功能，當我們因青少年反覆討論暴力而暫停其帳戶時通知家長。
現實中的暴力事件令人痛心，成因複雜，涉及多種因素。這些事件亦再次警醒我們，必須持續設計和改進系統，充分考慮人類行為本身錯綜複雜的現實。要為 AI 系統建立有效的暴力防範措施，便須解決識別風險和作出適當回應方面的新難題。我們會繼續投入資源、反覆改進，並分享 如何以最佳方式落實這些保障措施的經驗。本文介紹的保障措施將於未來幾星期開始陸續推出，我們亦會持續改進。我們會繼續致力減低 ChatGPT 中的危害風險，加強多層保障、監察濫用情況、執行規則，並在有需要時引入現實世界的支援和介入措施。
