社区安全报告与青少年保护新措施

ChatGPT 是全球使用最广泛的 AI 产品之一。我们投入资源，构建了多套业内领先的系统，用于识别潜在危害、审核可疑活动，并对有可信依据的威胁加以升级处理。为进一步推进这方面的工作，我们在此宣布两项新举措：推出社区安全保障报告，并进一步限制向未成年人提供枪支相关内容。

维护社区安全⁠一直是 OpenAI 的首要任务之一。我们的工作包括向执法部门报告迫在眉睫的暴力威胁。2026 年第三季度，我们向执法部门进行了 200 多次通报。这些通报在挫败暴力图谋方面正发挥积极⁠（在新窗口中打开）作用⁠（在新窗口中打开）。我们也继续依靠心理健康和行为领域的专家，协助评估复杂案例。

我们认识到，在与执法部门、家庭成员、心理健康专业人士和政策制定者共同开展这项工作时，AI 公司有其独特的作用。其他各方则能提供关键的职权支持、对具体情况的了解，以及在现实社会中的影响力。我们将持续强化系统、分享经验，并与最有条件在现实中采取行动的各方直接合作，充分发挥自身作用。

我们不断加强保护个人与社区的措施。这既包括建立有力的安全保障，也包括公开说明这些措施的实际效果，以及我们正在如何改进。我们希望让大家清楚了解我们采取的方法、模型如何识别和应对有害行为、我们在实践中发现的风险，以及为应对这些风险所采取的措施。

我们承诺发布社区安全报告，介绍暴力预防及其他社区安全问题，以及我们安全保障措施的成效。报告将说明我们如何训练系统，使其能够识别、调查和应对社区安全问题。我们将通过匿名化案例，展示暴力相关危害的具体表现，并分享从中获得的认识；重点介绍新的风险缓解措施和政策调整，同时提供相关数据来支持这些发现。

我们将于 2027 年初发布首份报告，涵盖 2026 年下半年的情况，此后每六个月更新一次。我们承诺分享有价值的发现，帮助大家了解我们如何识别、审核和应对潜在有害内容。

我们通过训练，要求模型不提供有助于策划或实施暴力的指导。现在，我们正进一步限制 ChatGPT 在回答有关过往大规模袭击事件及其实施者的问题时所提供的信息细节，即使这些信息可以从其他网络来源获取。人们应当能够借助 ChatGPT 了解这些事件及其对受害者和社区的影响，并学习如何识别预警信号、预防未来的暴力事件。与此同时，我们正在收紧政策，限制对过往大规模袭击事件的详细还原，包括所用武器、装备及其获取方式的细节，以及可能助长袭击者恶名的伤害规模详细比较。无论用户的年龄或提问原因如何，这些限制都适用。

有时，一个请求单独看似乎很普通，结合此前的对话，却可能有不同的含义。5 月，我们介绍了 ChatGPT 如何利用简短、基于事实的摘要⁠，概括此前出现的预警信号，从而在后续对话中更谨慎地进行回应。我们正在此基础上继续改进：当近期对话中出现可能发生暴力行为的预警信号时，ChatGPT 将更加审慎地提供可能被滥用的信息。我们也在推进相关工作，以便在预测用户未满 18 岁时，即使其对话中没有暴力意图的迹象，也适用这些更严格的限制。

对于经我们认定违反暴力活动相关政策⁠的账户，我们会予以封禁。我们还在与心理健康和暴力预防专家合作，探索更多自动化方式，以便更早介入。当对话中出现迹象，表明有人对暴力或严重伤害他人的想法产生执念时，ChatGPT 将能够自动结束对话，及时打断这一行为模式。如果 ChatGPT 因此多次结束对话，我们可能会暂时停用该账户。这项工作仍在持续推进。我们将继续投入资源，完善技术和实际应用层面的保护措施，包括如何可靠地识别预警信号，以及判断何时、以何种方式介入。

ChatGPT 青少年版⁠为未满 18 岁的用户提供适龄安全保障，通过更有力的保护措施和额外限制，减少他们接触敏感内容的机会。现在，即使青少年的问题看似无害，我们也会进一步限制他们可获取的武器相关信息。

我们的政策已禁止协助任何人策划或实施暴力，并限制协助青少年寻找或获取武器。我们正在扩大这些保护措施的范围，限制提供有关武器和安防系统、可能被滥用于实施暴力的实用信息。即使没有迹象表明存在暴力意图，系统也会实施这些限制。青少年仍可借助 ChatGPT 预防暴力、缓解暴力局势、寻求支持，并与值得信赖的成年人取得联系。

我们去年推出了年龄预测⁠功能，通过分析行为模式等多种信号，估测用户是否已满 18 岁。我们已强化年龄预测系统，使其能够在用户使用 ChatGPT 的过程中持续评估新信号，并在适当情况下为青少年切换至面向未满 18 岁用户的使用体验。如果用户被误判并切换至这一体验，他们始终可以通过我们的年龄验证合作伙伴 Persona，以快捷且保护隐私的方式确认自己已成年，从而解除额外的青少年保护措施。

通过我们的家长控制⁠功能，家长可以将自己的 ChatGPT 账户与青少年子女的账户关联，共同管理安全设置。关联后的账户还提供安全提醒⁠功能：当经过专门培训的审核人员发现严重的自伤风险，以及可能与进食紊乱有关的行为时，系统可能会发送提醒。7 月，我们扩大了提醒范围：如果青少年的账户因违反我们的暴力相关使用政策而被停用，家长也会收到通知。我们还在开发新的家长通知功能，以便在因青少年反复讨论暴力而暂时停用其账户时通知家长，相关停用机制见上文。

现实中的暴力事件令人痛心，成因复杂，往往涉及多种因素。这些事件也警醒我们，必须持续设计和改进系统，充分考虑人类行为本身的复杂性。在 AI 系统中建立有效的暴力预防措施，需要解决风险识别和恰当应对方面的新问题。我们将持续投入资源、改进相关措施，并分享如何更好地落实这些保护措施的经验。本文介绍的安全保障措施将于未来几周开始陆续推出，我们也将继续完善这些措施。我们仍致力于降低使用 ChatGPT 过程中的伤害风险，强化多层防护，监测滥用行为，落实相关规则，并在必要时引入现实中的支持与干预。