Báo cáo về an toàn cộng đồng và các biện pháp bảo vệ mới dành cho thanh thiếu niên
ChatGPT là một trong những sản phẩm AI phổ biến nhất trên toàn cầu và chúng tôi đã đầu tư xây dựng các hệ thống tiên tiến bậc nhất trong ngành để phát hiện nguy cơ gây hại, rà soát các hoạt động đáng lo ngại và chuyển các mối đe dọa có cơ sở đến cấp xử lý cao hơn. Chúng tôi xin công bố hai thông tin mới nhằm tiếp tục củng cố nỗ lực này: Báo cáo về các biện pháp bảo vệ cộng đồng mới và các hạn chế bổ sung đối với nội dung liên quan đến súng dành cho trẻ vị thành niên.
Đảm bảo an toàn cho cộng đồng tiếp tục là một trong những ưu tiên hàng đầu của OpenAI. Trong đó, chúng tôi thông báo cho cơ quan thực thi pháp luật về các mối đe dọa bạo lực sắp xảy ra. Riêng trong quý 3 năm 2026, chúng tôi đã chuyển hơn 200 vụ việc đến cơ quan thực thi pháp luật. Những lần báo cáo thông tin này đang góp phần(mở trong cửa sổ mới) ngăn chặn(mở trong cửa sổ mới) các âm mưu bạo lực. Chúng tôi tiếp tục tham vấn các chuyên gia về lĩnh vực sức khỏe tâm thần và hành vi để giúp đánh giá những trường hợp phức tạp.
Chúng tôi nhận thức rằng các công ty AI có vai trò riêng bên cạnh cơ quan thực thi pháp luật, người thân, chuyên gia sức khỏe tâm thần và nhà hoạch định chính sách – những bên có thẩm quyền, hiểu rõ hoàn cảnh và có khả năng tác động ngoài đời thực. Chúng tôi cam kết phát huy tối đa vai trò đó bằng cách liên tục củng cố các hệ thống, chia sẻ những gì học được và phối hợp trực tiếp với những bên có điều kiện tốt nhất để can thiệp ngoài đời thực.
Chúng tôi không ngừng tăng cường các quy trình bảo vệ mọi người và cộng đồng, bao gồm xây dựng các biện pháp bảo vệ vững chắc, đồng thời minh bạch về hiệu quả của chúng và những gì chúng tôi đang thực hiện để cải thiện các biện pháp này. Chúng tôi muốn giúp mọi người hiểu rõ về cách các mô hình nhận diện và ứng phó với hành vi gây hại, những rủi ro ghi nhận được trong thực tế và các bước xử lý chúng.
Chúng tôi cam kết công bố Báo cáo về an toàn cộng đồng, trong đó đề cập đến công tác phòng ngừa bạo lực và các vấn đề khác liên quan đến an toàn cộng đồng, cũng như hiệu quả của các biện pháp chúng tôi triển khai. Báo cáo sẽ giải thích cách chúng tôi huấn luyện các hệ thống của mình để phát hiện, điều tra và ứng phó với các vấn đề về an toàn cộng đồng. Chúng tôi sẽ chia sẻ những ví dụ đã được ẩn danh để cho thấy tác hại liên quan đến bạo lực có thể xuất hiện dưới những hình thức nào và những gì chúng tôi đã học hỏi được, nêu bật các biện pháp giảm thiểu rủi ro mới và những thay đổi về chính sách, đồng thời đưa ra dữ liệu liên quan để củng cố những phát hiện này.
Chúng tôi sẽ công bố báo cáo đầu tiên vào đầu năm 2027, bao gồm giai đoạn nửa cuối năm 2026, và sau đó cập nhật sáu tháng một lần. Chúng tôi cam kết chia sẻ những phát hiện có giá trị về cách xác định, xem xét và ứng phó với nội dung có khả năng gây hại.
Các mô hình của chúng tôi được huấn luyện để không hướng dẫn ai đó lên kế hoạch hoặc thực hiện hành vi bạo lực. Chúng tôi đang bổ sung các hạn chế đối với cách ChatGPT trả lời câu hỏi về những vụ tấn công hàng loạt trong quá khứ và người thực hiện chúng, đồng thời định hướng mô hình cung cấp thông tin mang tính khái quát hơn về các chủ đề này, ngay cả khi thông tin đó có trên các nguồn trực tuyến khác. ChatGPT vẫn phải có khả năng giúp người dùng tìm hiểu về những sự kiện này, tác động của chúng đối với nạn nhân và cộng đồng, cũng như cách nhận biết các dấu hiệu cảnh báo và phòng ngừa bạo lực trong tương lai. Tuy nhiên, chúng tôi đang siết chặt chính sách để hạn chế việc tái hiện các vụ tấn công hàng loạt đã xảy ra, bao gồm chi tiết về vũ khí và thiết bị được sử dụng, cách có được chúng, những thông tin so sánh chi tiết về quy mô thiệt hại có thể làm kẻ tấn công được biết đến nhiều hơn. Những giới hạn này được áp dụng bất kể độ tuổi hay lý do đặt câu hỏi của người dùng.
Đôi khi, một yêu cầu có vẻ bình thường khi lại mang ý nghĩa khác nếu đặt trong bối cảnh cuộc trò chuyện trước đó. Vào tháng 5, chúng tôi đã chia sẻ cách ChatGPT có thể sử dụng các bản tóm tắt ngắn gọn, đúng sự thật về những dấu hiệu cảnh báo trước đó để trả lời thận trọng hơn trong các cuộc trò chuyện sau này. Chúng tôi đang phát triển theo hướng này để khi các cuộc trò chuyện gần đây có dấu hiệu nguy cơ bạo lực, ChatGPT sẽ dè dặt hơn khi chia sẻ thông tin có thể bị sử dụng sai mục đích. Chúng tôi cũng đang nỗ lực áp dụng những giới hạn nghiêm ngặt hơn đó khi dự đoán người dùng chưa đủ 18 tuổi, ngay cả khi các cuộc trò chuyện của họ không thể hiện ý định bạo lực.
Chúng tôi cấm các tài khoản được xác định là đã vi phạm chính sách về hoạt động bạo lực. Chúng tôi cũng đang phối hợp với các chuyên gia về lĩnh vực sức khỏe tâm thần và phòng ngừa bạo lực để phát triển thêm các biện pháp tự động nhằm can thiệp sớm hơn. Khi một cuộc trò chuyện có dấu hiệu rằng người dùng đang quá tập trung vào bạo lực hoặc ý tưởng gây tổn hại nghiêm trọng cho người khác, ChatGPT sẽ có thể tự động kết thúc cuộc trò chuyện để kết thúc chuỗi hành vi đó ngay lúc ấy. Nếu ChatGPT kết thúc nhiều cuộc trò chuyện vì lý do đó, chúng tôi có thể tạm ngưng tài khoản. Đây là nỗ lực liên tục và chúng tôi sẽ tiếp tục tăng cường, đầu tư vào các biện pháp bảo vệ về mặt kỹ thuật lẫn thực tiễn, bao gồm cách nhận diện đáng tin cậy các dấu hiệu cảnh báo và xác định thời điểm cũng như cách thức can thiệp.
ChatGPT dành cho thanh thiếu niên áp dụng các biện pháp bảo vệ phù hợp cho người dùng dưới 18 tuổi, với mức độ bảo vệ cao hơn và các giới hạn bổ sung nhằm giảm khả năng tiếp xúc với nội dung nhạy cảm. Hiện chúng tôi đang đặt thêm giới hạn đối với thông tin liên quan đến vũ khí mà thanh thiếu niên có thể tìm thấy, ngay cả khi câu hỏi có vẻ vô hại.
Các chính sách của chúng tôi hiện nghiêm cấm việc hỗ trợ bất kỳ ai lên kế hoạch hoặc thực hiện hành vi bạo lực, đồng thời hạn chế việc hỗ trợ thanh thiếu niên tìm kiếm hoặc có được vũ khí. Chúng tôi đang mở rộng các biện pháp bảo vệ này để hạn chế thông tin mang tính thực hành về vũ khí và hệ thống an ninh có thể bị sử dụng sai mục đích nhằm tạo điều kiện cho bạo lực, ngay cả khi không có dấu hiệu cho thấy ý định bạo lực. Thanh thiếu niên vẫn có thể sử dụng ChatGPT để giúp ngăn chặn và giảm leo thang bạo lực, tìm kiếm sự hỗ trợ và kết nối với người lớn đáng tin cậy.
Năm ngoái, chúng tôi đã ra mắt tính năng dự đoán độ tuổi, phân tích nhiều tín hiệu như các kiểu hành vi để ước đoán người dùng có thể dưới hay trên 18 tuổi. Chúng tôi đã củng cố hệ thống dự đoán độ tuổi của mình để liên tục đánh giá các dấu hiệu mới khi người dùng sử dụng ChatGPT và đưa thanh thiếu niên vào trải nghiệm dùng cho người dưới 18 tuổi khi phù hợp. Những người dùng bị xếp nhầm vào trải nghiệm dành cho người dưới 18 tuổi sẽ luôn có cách xác nhận mình là người lớn một cách nhanh chóng, bảo vệ quyền riêng tư, và gỡ bỏ các biện pháp bảo vệ bổ sung dành cho thanh thiếu niên thông qua Persona, đối tác xác minh độ tuổi của chúng tôi.
Tính năng kiểm soát của cha mẹ cho phép cha mẹ liên kết tài khoản ChatGPT của họ với tài khoản của con ở độ tuổi thanh thiếu niên và cùng quản lý các chế độ cài đặt an toàn. Các tài khoản được liên kết bao gồm các cảnh báo an toàn có thể được gửi khi đội ngũ nhân viên đánh giá đã qua đào tạo chuyên biệt phát hiện nguy cơ tự gây hại nghiêm trọng hoặc các hành vi có thể liên quan đến rối loạn ăn uống. Vào tháng 7, chúng tôi đã mở rộng các cảnh báo đó để thông báo cho cha mẹ nếu tài khoản của con ở độ tuổi thanh thiếu niên bị vô hiệu hóa do vi phạm chính sách sử dụng của chúng tôi về bạo lực. Chúng tôi đang triển khai tính năng thông báo cho cha mẹ nếu tạm ngưng tài khoản của con ở tuổi thanh thiếu niên vì liên tục thảo luận về bạo lực, như đã nêu chi tiết bên trên.
Những hành vi bạo lực ngoài đời thực vô cùng thương tâm và phức tạp, khởi phát từ nhiều yếu tố. Chúng cũng là lời nhắc nhở rõ ràng rằng chúng tôi phải tiếp tục thiết kế và cải tiến liên tục các hệ thống, có tính đến hành vi của con người vốn vô cùng phức tạp. Để phát triển các biện pháp bảo vệ hiệu quả đối với việc tìm kiếm về chủ đề bạo lực trong hệ thống AI, ta phải giải quyết những vấn đề mới trong việc nhận diện rủi ro và ứng phó phù hợp, và chúng tôi sẽ tiếp tục đầu tư, cải tiến liên tục và chia sẻ những bài học về cách áp dụng tốt nhất các biện pháp bảo vệ mà chúng tôi đang hướng đến. Các biện pháp bảo vệ được nêu chi tiết ở đây sẽ bắt đầu được triển khai trong vài tuần tới và chúng tôi sẽ tiếp tục hoàn thiện chúng. Chúng tôi tiếp tục cam kết giảm thiểu nguy cơ gây hại trong ChatGPT, củng cố biện pháp bảo vệ đa lớp, giám sát hành vi sử dụng sai mục đích, thực thi các quy tắc và huy động sự hỗ trợ, can thiệp ngoài đời thực khi cần.
