Laporan keslametan masyarakat lan pengayoman anyar kanggo para remaja

ChatGPT kalebu produk AI sing paling akeh digunakake ing donya, lan kita wis nandur modal kanggo mbangun sawetara sistem paling canggih ing industri iki kanggo ndeteksi potensi bebaya, mriksa aktivitas sing gawe kuwatir, lan nerusake ancaman sing bisa dipercaya menyang pihak sing bisa nangani. Kita ngumumake rong prakara kanggo nerusake upaya ing bidang iki: Laporan pengayoman Masyarakat anyar lan watesan liyane tumrap konten senjata api kanggo bocah cilik.

Njaga keamanan masyarakat⁠ tetep dadi prioritas utama kanggo OpenAI. Pakaryan kita kalebu ngandhani aparat penegak hukum babagan ancaman kekerasan sing bakal kelakon, lan kita wis ngirim luwih saka 200 rujukan marang aparat penegak hukum ing Q3 2026. Rujukan iki mbantu ngganggu rencana kekerasan lan menehi pengaruh⁠(mbukak ing jendhela anyar) positif⁠(mbukak ing jendhela anyar), lan kita terus ngandelake para ahli kesehatan mental lan prilaku kanggo mbantu kita netepake kasus-kasus sing angel.

Kita ngerti manawa perusahaan AI duwe peran mligi bebarengan karo aparat penegak hukum, anggota kulawarga, tenaga profesional kesehatan mental, lan panyusun kebijakan, sing nduweni wewenang, pangerten kahanan, lan jangkauan ing donya nyata sing penting banget. Kita setya ngoptimalake peran kasebut kanthi terus nguwatake sistem, nuduhake apa sing kita sinaoni, lan kerja langsung karo pihak sing paling bisa tumindak ing donya nyata.

Kita terus nguwatake langkah-langkah kanggo mbantu nglindhungi wong lan masyarakat. Iki tegese mbangun pengayoman sing kuwat, uga transparan babagan sepira efektif pengayoman kasebut lan apa sing kita tindakake kanggo nguwatake. Kita pengin menehi gambaran sing cetha marang masyarakat babagan pendekatan kita, cara model kita ngenali lan nanggapi prilaku sing mbebayani, risiko sing kita temokake ing praktik, lan langkah-langkah sing kita tindakake kanggo ngatasi.

Kita duwe komitmen kanggo nerbitake Laporan keslametan Masyarakat ngenani pencegahan kekerasan lan prakara keslametan masyarakat liyane, sarta efektifitas langkah-langkah pengayoman kita. Laporan iki bakal njlentrehake carane kita nglatih sistem kita kanggo ndeteksi, nyelidiki, lan nanggapi prakara keslametan masyarakat. Kita bakal nuduhake tuladha sing wis dianonimake ngenani kepriye cilaka sing gegayutan karo kekerasan bisa manifest lan apa sing kita sinaoni, nyorot langkah-langkah mitigasi anyar lan owah-owahan kebijakan, sarta nyakup data sing relevan kanggo nyengkuyung temuan kasebut.

Kita bakal nerbitake laporan pisanan ing awal taun 2027, sing nyakup paruh kapindho taun 2026, kanthi nganyari saben nem wulan sawise iku. Komitmen kita yaiku nuduhake temuan sing migunani babagan cara kita ngenali, nliti, lan nanggapi konten sing mbebayani.

Model kita wis dilatih supaya ora menehi pandhuan sing bakal mbantu wong ngrancang utawa nindakake kekerasan. Saiki kita menehi watesan tambahan babagan carane ChatGPT nanggapi pitakonan babagan serangan massal ing jaman kepungkur lan wong-wong sing nindakake, ngarahake model kasebut kanggo menehi informasi sing kurang rinci ing wilayah kasebut sanajan kasedhiya saka sumber online liyane. Wong-wong kudune bisa njaluk ChatGPT kanggo mbantu dheweke ngerti kedadeyan kasebut, kepiye korban lan komunitas kena pengaruh, lan sinau babagan ngenali tandha-tandha peringatan lan nyegah kekerasan ing mangsa ngarep. Nanging kita lagi ngencengi kabijakan kanggo mbatesi rekonstruksi serangan massal ing jaman kepungkur, kalebu rincian babagan senjata lan peralatan sing digunakake lan kepiye cara dipikolehi, lan perbandingan rinci babagan skala cilaka sing bisa nambah ketenaran penyerang. Watesan iki ditrapake tanpa preduli saka umur pangguna utawa alesan kanggo takon.

Kadhang kala, panjaluk sing katon lumrah yen dideleng dhewe bisa nduweni teges liya yen digandhengake karo pacelathon sadurunge. Ing wulan Mei, kita nuduhake kepriye ChatGPT bisa nggunakake ringkesan cekak adhedhasar fakta⁠ babagan pratandha bebaya sadurunge supaya bisa nanggapi kanthi luwih ngati-ati ing obrolan sabanjure. Kita nerusake upaya kasebut supaya nalika obrolan anyar nuduhake pratandha potensi kekerasan, ChatGPT bakal luwih ngati-ati nalika menehi informasi sing bisa disalahgunakake. Kita uga ngupaya ngetrapake watesan sing luwih ketat kasebut nalika ngira yen umure pengguna durung 18 taun, sanajan obrolane ora nuduhake pratandha niat tumindak kasar.

Kita mblokir akun sing kita temtokake wis nglanggar kebijakan babagan tumindak kekerasan⁠. Kita uga kerja bareng karo ahli kesehatan mental lan pencegahan kekerasan kanggo ngupayakake cara tambahan kanthi otomatis supaya bisa nindakake intervensi luwih awal. Nalika pacelathon nuduhake pratandha yen ana wong sing terus-terusan mikir babagan kekerasan utawa gagasan nglarani wong liya kanthi abot, ChatGPT bakal bisa mungkasi obrolan kanthi otomatis kanggo medhot pola kasebut ing wektu iku uga. Yen ChatGPT mungkasi sawetara obrolan amarga alesan kasebut, kita bisa ngendhegake akun kasebut sauntara. Upaya iki terus ditindakake, lan kita terus nguwatake lan nandur modal kanggo pengayoman teknis lan praktis, kalebu cara ngenali pratandha bebaya kanthi andal lan nemtokake kapan lan kepiye nindakake intervensi.

ChatGPT kanggo Remaja⁠ ngetrapake pengayoman sing cocog karo umur kanggo pengguna sing umure kurang saka 18 taun, kanthi pengayoman luwih kuwat lan watesan tambahan kanggo nyuda paparan marang konten sensitif. Saiki, kita ngetrapake watesan luwih akeh marang informasi babagan gaman sing bisa ditampa para remaja, sanajan pitakonan katon ora mbebayani. 

Kebijakan kita wis nglarang mbantu sapa wae ngrancang utawa nindakake kekerasan lan mbatesi mbantu remaja nemokake utawa entuk senjata. Kita ngembangake perlindungan kasebut kanggo mbatesi informasi praktis babagan senjata lan sistem keamanan sing bisa disalahgunakake kanggo nggampangake kekerasan, sanajan ora ana tandha-tandha niat kekerasan. Remaja isih bisa nggunakake ChatGPT kanggo mbantu nyegah lan nyuda kekerasan, nggoleki dhukungan, lan nyambung karo wong diwasa sing dipercaya. 

Taun kepungkur kita ngluncurake prakiraan umur⁠, sing nganalisis maneka pratandha kayata pola tumindak kanggo ngira apa pengguna umure ing sangisore utawa sadhuwure 18 taun. Kita nguwatake sistem prakiraan umur supaya terus-terusan netepake pratandha anyar nalika wong nggunakake ChatGPT lan mindhah para remaja menyang pengalaman kanggo umur sangisore 18 taun nalika prelu. pengguna sing kliru dilebokake ing pengalaman kanggo umur sangisore 18 taun mesthi duwe cara cepet sing nglindhungi privasi kanggo mbuktekake yen dheweke wis diwasa lan mbusak pengayoman tambahan kanggo remaja liwat Persona, mitra verifikasi umur kita. 

Kontrol wong tuwa⁠ kita ngidini wong tuwa ngubungake akun ChatGPT karo akun anak remajane lan ngatur setelan keslametan bebarengan. Akun sing digandhengake kalebu tandha bebaya⁠ sing bisa dikirim nalika paninjau sing dilatih khusus nemokake risiko serius tumindak nglarani awake dhewe lan prilaku sing bisa ana gandhengane karo pola mangan sing ora sehat. Ing wulan Juli, kita nggedhekake cakupan tandha bebaya kasebut kanggo menehi kabar marang wong tuwa yen akun anak remajane wis dipateni amarga nglanggar kebijakan penggunaan kita babagan kekerasan. Kita lagi ngupayakake supaya bisa menehi kabar marang wong tuwa yen kita ngendhegake akun anak remajane sauntara amarga bola-bali ngrembug kekerasan, kaya sing dijlentrehake ing ndhuwur.

Tumindak kekerasan ing donya nyata gawe trenyuh lan ruwet, kanthi akeh faktor sing melu nyebabake. Kedadeyan kasebut uga dadi pangeling sing cetha yen kita kudu terus ngrancang lan nyempurnakake sistem kanthi nggatekake kasunyatan prilaku manungsa sing pancen ruwet. Ngembangake pengayoman sing efektif tumrap kekerasan ing sistem AI mbutuhake ngrampungake masalah anyar kanggo ngenali risiko lan nanggapi kanthi trep, lan kita bakal terus nandur modal, nyempurnakake, lan nuduhake piwulang  babagan cara paling apik kanggo ngetrapake pengayoman sing lagi kita upayakake. pengayoman sing dijlentrehake ing kene bakal wiwit diluncurake sajrone sawetara minggu sabanjure, lan kita bakal terus nyempurnakake. Kita tetep setya nyuda risiko bebaya ing ChatGPT, nguwatake pengayoman sing dilapisi, ngawasi penggunaan sing ora samesthine, ngetrapake aturan, lan nglibatake dhukungan sarta intervensi ing donya nyata yen kahanan mbutuhake.