Laporan keselamatan masyarakat dan perlindungan baru bagi remaja
ChatGPT adalah salah satu produk AI yang paling banyak digunakan di dunia, dan kami telah berinvestasi untuk membangun beberapa sistem tercanggih di industri ini guna mendeteksi potensi bahaya, meninjau aktivitas yang mengkhawatirkan, dan menindaklanjuti ancaman yang kredibel. Kami mengumumkan dua hal berikut untuk melanjutkan upaya kami di bidang ini: Laporan Perlindungan Masyarakat yang baru dan pembatasan lebih lanjut terhadap konten terkait senjata api bagi anak di bawah umur.
Menjaga keselamatan masyarakat tetap menjadi prioritas utama OpenAI. Upaya kami mencakup pemberitahuan kepada penegak hukum tentang ancaman kekerasan yang akan segera terjadi, dan kami telah meneruskan lebih dari 200 laporan kepada penegak hukum pada Kuartal 3 2026. Laporan-laporan ini memberikan dampak(terbuka di jendela baru) positif(terbuka di jendela baru) dalam menggagalkan rencana kekerasan, dan kami terus mengandalkan para ahli kesehatan mental dan perilaku untuk membantu kami menilai kasus-kasus yang sulit.
Kami menyadari bahwa perusahaan AI memiliki peran khusus untuk dijalankan bersama dengan penegak hukum, anggota keluarga, profesional kesehatan mental, serta pembuat kebijakan—pihak-pihak yang memiliki wewenang, konteks, dan jangkauan dunia nyata yang krusial. Kami berkomitmen untuk mengoptimalkan peran tersebut dengan terus memperkuat sistem kami, berbagi pengetahuan yang kami peroleh, serta bekerja sama secara langsung dengan pihak-pihak yang berada dalam posisi terbaik untuk mengambil tindakan di dunia nyata.
Kami terus memperkuat langkah-langkah yang kami ambil untuk membantu melindungi individu dan masyarakat. Artinya, kami tidak hanya membangun langkah pengamanan yang kuat, tetapi juga bersikap transparan tentang efektivitasnya dan upaya kami untuk meningkatkannya. Kami ingin memberikan gambaran yang jelas kepada masyarakat tentang pendekatan kami, cara model kami mengidentifikasi dan merespons perilaku berbahaya, risiko yang kami temukan dalam praktik, serta langkah yang kami ambil untuk mengatasinya.
Kami berkomitmen untuk meluncurkan Laporan Keselamatan Masyarakat tentang pencegahan kekerasan dan isu-isu keselamatan masyarakat lainnya, serta efektivitas langkah-langkah perlindungan kami. Laporan ini akan menjelaskan cara kami melatih sistem untuk mendeteksi, menyelidiki, dan menanggapi isu-isu keselamatan masyarakat. Kami akan membagikan contoh anonim tentang bagaimana bentuk-bentuk bahaya terkait kekerasan dan hal-hal yang kami pelajari, menyoroti mitigasi baru dan perubahan kebijakan, serta menyertakan data yang relevan untuk mendukung temuan ini.
Kami akan menerbitkan laporan pertama kami pada awal 2027, yang mencakup paruh kedua 2026, dengan pembaruan setiap enam bulan setelahnya. Komitmen kami adalah membagikan temuan yang bermakna tentang bagaimana kami mengidentifikasi, meninjau, dan menanggapi konten yang berpotensi membahayakan.
Model kami dilatih untuk tidak memberikan instruksi yang dapat membantu seseorang merencanakan atau melakukan kekerasan. Kini kami menerapkan pembatasan tambahan pada cara ChatGPT merespons pertanyaan tentang serangan massal di masa lalu dan para pelakunya, dengan mengarahkan model untuk memberikan informasi yang kurang terperinci mengenai topik tersebut meskipun informasi itu tersedia di sumber daring lain. Pengguna seharusnya dapat meminta bantuan ChatGPT untuk memahami peristiwa-peristiwa ini, dampaknya terhadap korban dan masyarakat, serta mempelajari cara mengenali tanda-tanda peringatan dan mencegah kekerasan di masa mendatang. Namun, kami memperketat kebijakan untuk membatasi rekonstruksi serangan massal di masa lalu, termasuk detail tentang senjata dan peralatan yang digunakan serta cara memperolehnya, dan perbandingan terperinci mengenai skala bahaya yang dapat meningkatkan ketenaran penyerang. Pembatasan ini diterapkan tanpa memandang usia pengguna atau alasan mereka bertanya.
Terkadang, permintaan yang tampak biasa jika dilihat secara terpisah memiliki makna berbeda ketika dikaitkan dengan percakapan sebelumnya. Pada bulan Mei, kami menjelaskan bagaimana ChatGPT dapat menggunakan ringkasan singkat dan faktual tentang tanda-tanda peringatan sebelumnya agar dapat merespons dengan lebih hati-hati dalam percakapan berikutnya. Kami terus mengembangkan upaya tersebut agar, ketika percakapan terkini menunjukkan tanda-tanda potensi kekerasan, ChatGPT lebih membatasi responsnya saat membagikan informasi yang dapat disalahgunakan. Kami juga berupaya menerapkan pembatasan yang lebih ketat tersebut ketika kami memperkirakan seseorang berusia di bawah 18 tahun, meskipun percakapannya tidak menunjukkan tanda-tanda niat melakukan kekerasan.
Kami memblokir akun yang kami anggap telah melanggar kebijakan kami tentang aktivitas kekerasan. Kami juga bekerja sama dengan para ahli kesehatan mental dan pencegahan kekerasan untuk mengembangkan cara tambahan dan otomatis untuk melakukan intervensi lebih dini. Ketika sebuah percakapan menunjukkan tanda-tanda bahwa seseorang terus terpaku pada kekerasan atau gagasan untuk mencederai orang lain secara serius, ChatGPT akan dapat mengakhiri percakapan secara otomatis untuk memutus pola tersebut saat itu juga. Jika ChatGPT mengakhiri beberapa percakapan karena alasan tersebut, kami dapat menangguhkan akun untuk sementara. Upaya ini terus berlangsung, dan kami terus memperkuat serta berinvestasi dalam perlindungan teknis dan praktis, termasuk cara mengenali tanda-tanda peringatan dengan andal serta menentukan kapan dan bagaimana melakukan intervensi.
ChatGPT untuk Remaja menerapkan langkah pengamanan yang sesuai usia bagi pengguna di bawah 18 tahun, dengan perlindungan yang lebih kuat dan pembatasan tambahan untuk mengurangi paparan terhadap konten sensitif. Kini kami memberlakukan pembatasan lebih lanjut terhadap informasi terkait senjata yang dapat diterima remaja, bahkan ketika sebuah pertanyaan tampak tidak berbahaya.
Kebijakan kami sudah melarang membantu siapa pun merencanakan atau melakukan kekerasan dan membatasi bantuan kepada remaja untuk menemukan atau mendapatkan senjata. Kami memperluas perlindungan tersebut dengan membatasi informasi praktis tentang senjata dan sistem keamanan yang dapat disalahgunakan untuk memfasilitasi kekerasan, bahkan ketika tidak ada tanda-tanda niat melakukan kekerasan. Remaja tetap dapat menggunakan ChatGPT untuk membantu mencegah dan meredakan kekerasan, mencari dukungan, dan terhubung dengan orang dewasa tepercaya.
Tahun lalu, kami meluncurkan prediksi usia, yang menganalisis berbagai sinyal, seperti pola perilaku, untuk memperkirakan apakah pengguna kemungkinan berusia di bawah atau di atas 18 tahun. Kami memperkuat sistem prediksi usia kami agar terus menilai sinyal baru saat pengguna menggunakan ChatGPT dan mengalihkan remaja ke pengalaman untuk usia di bawah 18 tahun jika sesuai. Pengguna yang keliru ditempatkan dalam pengalaman untuk usia di bawah 18 tahun akan selalu memiliki cara yang cepat dan melindungi privasi untuk mengonfirmasi bahwa mereka sudah dewasa dan menghapus perlindungan tambahan bagi remaja melalui Persona, mitra verifikasi usia kami.
Fitur pengawasan orang tua kami memungkinkan orang tua menautkan akun ChatGPT mereka dengan akun anak remajanya dan mengelola pengaturan keamanan bersama. Akun yang ditautkan mencakup peringatan keselamatan yang dapat dikirim ketika peninjau yang terlatih khusus mengidentifikasi risiko serius terkait tindakan menyakiti diri serta perilaku yang mungkin berkaitan dengan pola makan bermasalah. Pada bulan Juli, kami memperluas cakupan peringatan tersebut untuk memberi tahu orang tua jika akun anak remajanya dinonaktifkan karena melanggar kebijakan penggunaan kami terkait kekerasan. Kami sedang berupaya menghadirkan notifikasi bagi orang tua jika kami menangguhkan akun anak remajanya karena berulang kali membahas kekerasan, sebagaimana dijelaskan di atas.
Tindakan kekerasan di dunia nyata sangat memilukan dan kompleks, dengan banyak faktor yang turut memicunya. Peristiwa-peristiwa tersebut juga menjadi pengingat tegas bahwa kami harus terus merancang dan menyempurnakan sistem kami dengan mempertimbangkan realitas perilaku manusia yang pada dasarnya rumit. Mengembangkan langkah-langkah pengamanan yang efektif terhadap kekerasan dalam sistem AI mengharuskan kita memecahkan tantangan baru dalam mengenali risiko dan merespons dengan tepat. Kami akan terus berinvestasi, melakukan penyempurnaan, dan berbagi pembelajaran tentang cara terbaik menerapkan perlindungan yang sedang kami upayakan. Langkah-langkah pengamanan yang dijelaskan di sini akan mulai diterapkan dalam beberapa minggu mendatang, dan kami akan terus menyempurnakannya. Kami tetap berkomitmen untuk mengurangi risiko bahaya di ChatGPT, memperkuat perlindungan berlapis, memantau penyalahgunaan, menegakkan aturan, serta melibatkan dukungan dan intervensi di dunia nyata ketika situasinya memerlukan.
