Laporan keselamatan komuniti dan perlindungan baharu untuk remaja

ChatGPT ialah antara produk AI yang paling banyak digunakan di dunia, dan kami telah melabur dalam pembangunan beberapa sistem paling canggih dalam industri untuk mengesan potensi kemudaratan, menyemak aktiviti yang membimbangkan dan merujuk ancaman yang berasas kepada pihak yang boleh mengambil tindakan. Kami membuat dua pengumuman bagi meneruskan usaha kami dalam bidang ini: Laporan Perlindungan Komuniti yang baharu dan sekatan tambahan terhadap kandungan berkaitan senjata api untuk golongan bawah umur.

Menjaga keselamatan komuniti⁠ terus menjadi keutamaan utama OpenAI. Usaha kami termasuk memaklumkan pihak penguat kuasa tentang ancaman keganasan yang hampir berlaku, dan kami membuat lebih 200 rujukan kepada pihak penguat kuasa pada suku ketiga 2026. Rujukan ini memberikan kesan⁠(dibuka dalam tetingkap baru) positif⁠(dibuka dalam tetingkap baru) dalam menggagalkan rancangan keganasan, dan kami terus bergantung pada pakar kesihatan mental dan tingkah laku untuk membantu kami menilai kes yang sukar.

Kami mengakui bahawa syarikat AI mempunyai peranan tersendiri di samping pihak penguatkuasa undang-undang, ahli keluarga, profesional kesihatan mental dan penggubal dasar, yang menyumbang kuasa, pemahaman konteks serta keupayaan bertindak di dunia sebenar yang amat penting. Kami komited untuk memanfaatkan peranan itu sepenuhnya dengan terus memperkukuh sistem kami, berkongsi perkara yang kami pelajari dan bekerjasama secara langsung dengan pihak yang paling berupaya bertindak di dunia sebenar.

Kami sentiasa memperkukuh langkah yang kami ambil untuk membantu melindungi orang ramai dan komuniti. Ini bermakna membangunkan langkah perlindungan yang kukuh, di samping bersikap telus tentang keberkesanannya dan usaha kami untuk mempertingkatkannya. Kami mahu memberikan gambaran yang jelas kepada orang ramai tentang pendekatan kami, cara model kami mengenal pasti dan bertindak balas terhadap tingkah laku berbahaya, risiko yang kami lihat dalam amalan serta langkah yang kami ambil untuk menanganinya.

Kami komited untuk melancarkan Laporan Keselamatan Komuniti tentang pencegahan keganasan dan isu keselamatan komuniti yang lain, serta keberkesanan langkah perlindungan kami. Laporan itu akan menerangkan cara kami melatih sistem kami untuk mengesan, menyiasat dan menangani isu keselamatan komuniti. Kami akan berkongsi contoh tanpa nama tentang cara kemudaratan berkaitan keganasan berlaku dan perkara yang kami pelajari, mengetengahkan langkah mitigasi dan perubahan dasar yang baharu, serta menyertakan data yang berkaitan untuk menyokong dapatan ini.

Kami akan menerbitkan laporan pertama kami pada awal 2027, yang merangkumi separuh kedua 2026, dengan kemas kini setiap enam bulan selepas itu. Komitmen kami adalah untuk berkongsi dapatan bermakna tentang cara kami mengenal pasti, menyemak dan bertindak balas terhadap kandungan yang berpotensi memudaratkan.

Model kami dilatih supaya tidak memberikan arahan yang boleh membantu seseorang merancang atau melakukan keganasan. Kini kami mengenakan sekatan tambahan terhadap cara ChatGPT menjawab soalan tentang serangan beramai-ramai yang pernah berlaku dan individu yang melakukannya, dengan mengarahkan model supaya memberikan maklumat yang kurang terperinci tentang perkara tersebut walaupun maklumat itu tersedia daripada sumber dalam talian lain. Orang ramai sepatutnya boleh meminta bantuan ChatGPT untuk memahami kejadian ini, kesannya terhadap mangsa dan komuniti, serta mempelajari cara mengenali tanda amaran dan mencegah keganasan pada masa hadapan. Namun, kami mengetatkan dasar kami untuk mengehadkan pembinaan semula serangan beramai-ramai yang pernah berlaku, termasuk butiran tentang senjata dan peralatan yang digunakan serta cara senjata dan peralatan itu diperoleh, dan perbandingan terperinci tentang skala kemudaratan yang boleh meningkatkan lagi kemasyhuran penyerang. Had ini terpakai tanpa mengira umur pengguna atau sebab mereka bertanya.

Kadangkala, permintaan yang kelihatan biasa apabila dilihat secara berasingan membawa makna yang berbeza apabila mengambil kira perbualan terdahulu. Pada bulan Mei, kami berkongsi cara ChatGPT boleh menggunakan ringkasan pendek berasaskan fakta⁠ tentang tanda amaran terdahulu untuk memberikan respons yang lebih berhati-hati dalam sembang seterusnya. Kami meneruskan usaha itu supaya apabila sembang terkini menunjukkan tanda amaran tentang kemungkinan berlakunya keganasan, ChatGPT akan lebih berhati-hati dalam berkongsi maklumat yang boleh disalahgunakan. Kami juga sedang berusaha menerapkan had yang lebih ketat itu apabila kami meramalkan seseorang berumur bawah 18 tahun, walaupun sembang mereka tidak menunjukkan tanda niat untuk melakukan keganasan.

Kami menyekat akaun yang kami dapati telah melanggar dasar kami tentang aktiviti keganasan⁠. Kami juga bekerjasama dengan pakar kesihatan mental dan pencegahan keganasan untuk mencari cara tambahan yang automatik bagi melakukan intervensi lebih awal. Apabila perbualan menunjukkan tanda bahawa seseorang terlalu tertumpu pada keganasan atau idea untuk mencederakan orang lain dengan serius, ChatGPT akan dapat menamatkan sembang secara automatik untuk menghentikan corak itu pada saat tersebut. Jika ChatGPT menamatkan berbilang sembang atas sebab itu, kami mungkin menggantung akaun tersebut buat sementara waktu. Ini merupakan usaha berterusan dan kami terus memperkukuh serta melabur dalam langkah perlindungan teknikal dan praktikal, termasuk cara mengenal pasti tanda amaran dengan andal serta menentukan masa dan cara untuk melakukan intervensi.

ChatGPT untuk Remaja⁠ menerapkan perlindungan yang sesuai dengan usia bagi pengguna bawah 18 tahun, dengan perlindungan yang lebih kukuh dan had tambahan untuk mengurangkan pendedahan kepada kandungan sensitif. Kini, kami mengenakan had tambahan terhadap maklumat berkaitan senjata yang boleh diterima oleh remaja, walaupun sesuatu soalan kelihatan tidak berbahaya. 

Dasar kami sudah melarang bantuan yang membolehkan sesiapa merancang atau melakukan keganasan, dan mengehadkan bantuan kepada remaja untuk mencari atau mendapatkan senjata. Kami memperluas perlindungan tersebut dengan mengehadkan maklumat praktikal tentang senjata dan sistem keselamatan yang boleh disalahgunakan untuk memudahkan keganasan, walaupun tiada tanda niat untuk melakukan keganasan. Remaja masih boleh menggunakan ChatGPT untuk membantu mencegah dan meredakan keganasan, mendapatkan sokongan, serta berhubung dengan orang dewasa yang dipercayai. 

Tahun lalu, kami melancarkan ramalan umur⁠, yang menganalisis pelbagai petunjuk seperti corak tingkah laku untuk menganggarkan sama ada seseorang pengguna mungkin berumur di bawah atau melebihi 18 tahun. Kami memperkukuh sistem ramalan umur kami untuk terus menilai petunjuk baharu semasa orang menggunakan ChatGPT dan memindahkan remaja ke pengalaman bawah 18 tahun apabila sesuai. Pengguna yang tersilap ditempatkan dalam pengalaman bawah 18 tahun akan sentiasa mempunyai cara yang pantas dan melindungi privasi untuk mengesahkan bahawa mereka dewasa serta menyingkirkan perlindungan tambahan untuk remaja melalui Persona, rakan kongsi pengesahan umur kami. 

Kawalan ibu bapa⁠ kami membolehkan ibu bapa memautkan akaun ChatGPT mereka dengan akaun anak remaja mereka dan mengurus tetapan keselamatan bersama-sama. Akaun yang dipautkan merangkumi makluman keselamatan⁠ yang mungkin dihantar apabila penyemak yang dilatih khas mengenal pasti kebimbangan serius tentang perbuatan mencederakan diri serta tingkah laku yang mungkin berkaitan dengan corak pemakanan bermasalah. Pada bulan Julai, kami memperluas skop makluman tersebut untuk memberitahu ibu bapa jika akaun anak remaja mereka telah dinyahaktifkan kerana melanggar dasar penggunaan kami berkaitan keganasan. Kami sedang berusaha untuk memperkenalkan makluman kepada ibu bapa jika kami menggantung sementara akaun anak remaja mereka kerana berulang kali membincangkan keganasan, seperti yang diperincikan di atas.

Tindakan keganasan di dunia sebenar amat menyedihkan dan kompleks, dengan banyak faktor penyumbang. Kejadian ini juga menjadi peringatan yang jelas bahawa kami mesti terus mereka bentuk dan menambah baik sistem kami dengan mengambil kira realiti tingkah laku manusia yang sememangnya rumit. Membangunkan perlindungan yang berkesan terhadap keganasan dalam sistem AI memerlukan penyelesaian kepada masalah baharu dalam mengenal pasti risiko dan memberikan tindak balas yang sewajarnya, dan kami akan terus melabur, melakukan iterasi dan berkongsi pembelajaran  tentang cara terbaik untuk melaksanakan perlindungan yang sedang kami usahakan. Perlindungan yang diperincikan di sini akan mula dilaksanakan dalam beberapa minggu akan datang dan kami akan terus memperhalusinya. Kami kekal komited untuk mengurangkan risiko kemudaratan dalam ChatGPT, memperkukuh perlindungan berlapis kami, memantau penyalahgunaan, menguatkuasakan peraturan kami serta melibatkan sokongan dan intervensi di dunia sebenar apabila keadaan memerlukannya.