Ulat sa kaligtasan ng komunidad at mga bagong proteksyon para sa mga kabataan

Ang ChatGPT ay isa sa mga pinakaginagamit na AI na produkto sa mundo. Namuhunan kami sa pagbuo ng ilan sa mga pinaka-advanced na system sa industriya para sa pagtukoy ng posibleng pinsala, pagsusuri ng nakakabahalang aktibidad, at lumalalang tunay na banta. May dalawa kaming anunsyo upang higit pang isulong ang aming gawain sa larangang ito: isang bagong Ulat sa mga Pananggalang para sa Komunidad at higit pang mga paghihigpit sa content tungkol sa mga baril para sa mga menor de edad.

Ang pagpapanatili ng kaligtasan ng mga komunidad⁠ ay patuloy na pangunahing priyoridad ng OpenAI. Kabilang sa aming gawain ang pagpapaalam sa mga awtoridad na nagpapatupad ng batas tungkol sa mga napipintong banta ng karahasan, at nagsagawa kami ng mahigit 200 pagsangguni sa mga awtoridad noong Q3 2026. Nagdudulot ang mga pagsangguni na ito ng positibong⁠(magbubukas sa bagong window) pagbabago⁠(magbubukas sa bagong window) sa pagpigil sa mararahas na plano, at patuloy kaming umaasa sa mga eksperto sa kalusugang pangkaisipan at pag-uugali upang tulungan kaming masuri ang mahihirap na kaso.

Kinikilala namin na may natatanging papel na ginagampanan ang mga kumpanya ng AI kasama ng mga tagapagpatupad ng batas, mga miyembro ng pamilya, mga propesyonal sa kalusugang pangkaisipan, at mga tagagawa ng patakaran na nagtataglay ng mahalagang awtoridad, pag-unawa sa konteksto, at kakayahang kumilos sa totoong buhay. Nakatuon kami sa lubos na pagtupad sa papel na iyon sa pamamagitan ng patuloy na pagpapatatag ng aming mga system, pagbabahagi ng aming natututuhan, at direktang pakikipagtulungan sa mga nasa pinakamainam na posisyon para kumilos sa totoong buhay.

Patuloy naming pinatitibay ang mga hakbang na ginagawa namin para makatulong na protektahan ang mga tao at komunidad. Nangangahulugan ito ng pagbuo ng matitibay na pananggalang at pagiging bukas tungkol sa bisa ng mga ito at sa ginagawa namin para higit pang mapahusay ang mga ito. Gusto naming magbigay sa mga tao ng malinaw na larawan ng aming diskarte, kung paano tinutukoy at tinutugunan ng aming mga modelo ang nakakapinsalang pag-uugali, kung anong mga panganib ang nakikita namin sa aktwal na paggamit, at kung anong mga hakbang ang ginagawa namin para matugunan ang mga ito.

Nakatalaga kami sa paglulunsad ng Ulat sa Kaligtasan ng Komunidad tungkol sa pagpigil sa karahasan at iba pang usapin sa kaligtasan ng komunidad, at sa bisa ng aming mga pananggalang. Ipapaliwanag ng ulat kung paano namin sinasanay ang aming mga system na tukuyin, siyasatin, at tugunan ang mga usapin sa kaligtasan ng komunidad. Magbabahagi kami ng mga halimbawang walang pagkakakilanlan, na nagpapakita kung paano lumilitaw ang pinsalang nauugnay sa karahasan at kung ano ang aming natututuhan, itatampok namin ang mga bagong hakbang sa pagpapagaan ng panganib at mga pagbabago sa patakaran, at magsasama kami ng kaugnay na datos upang suportahan ang mga natuklasang ito.

Ilalathala namin ang aming unang ulat sa unang bahagi ng 2027, na sasaklaw sa ikalawang bahagi ng 2026, at susundan ito ng mga update kada anim na buwan. Pangako naming ibahagi ang makabuluhang mga natuklasan tungkol sa kung paano namin tinutukoy, sinusuri, at tinutugunan ang nilalamang posibleng makapinsala.

Sinasanay ang aming mga modelo na huwag magbigay ng mga tagubiling makakatulong sa sinuman na magplano o magsagawa ng karahasan. Naglalagay kami ngayon ng mga dagdag na paghihigpit sa paraan ng pagtugon ng ChatGPT sa mga tanong tungkol sa mga nakaraang pag-atake sa maraming tao at sa mga taong gumawa nito, at inaatasan ang modelo na magbigay ng hindi gaanong detalyadong impormasyon tungkol sa mga paksang iyon, kahit makukuha ang impormasyon sa iba pang online na mapagkukunan Dapat makahingi ang mga tao ng tulong sa ChatGPT para maunawaan ang mga pangyayaring ito at ang naging epekto sa mga biktima at komunidad, at para matutunan kung paano makikilala ang mga nagbababalang senyales at maiiwasan ang karahasan sa hinaharap. Pero hinihigpitan namin ang aming mga patakaran para limitahan ang pagbubuo ulit ng mga nakaraang pag-atake sa maraming tao, kabilang ang mga detalye tungkol sa mga armas at kagamitang ginamit at kung paano nakuha ang mga ito, at ang mga detalyadong paghahambing sa lawak ng pinsala na maaaring lalong magpatanyag sa isang umatake. Nalalapat ang mga limitasyong ito anuman ang edad ng user o dahilan niya sa pagtatanong.

Kung minsan, ang isang kahilingan na mukhang ordinaryo lang kung titingnan nang hiwalay ay nagkakaroon ng ibang kahulugan kapag isinasaalang-alang ang naunang pag-uusap. Noong Mayo, ibinahagi namin kung paano magagamit ng ChatGPT ang maiikling buod na batay sa katotohanan⁠ tungkol sa mga naunang nagbababalang senyales para mas maingat na tumugon sa susunod na chat. Pinapalawak namin ang gawaing iyon para kapag may mga nagbababalang senyales ng posibleng karahasan sa mga kamakailang chat, mas konserbatibong tutugon ang ChatGPT sa pagbabahagi ng impormasyong maaaring magamit sa maling paraan. Nagsisikap din kaming ilapat ang mga mas mahihigpit na limitasyong iyon kapag nahulaan naming wala pang 18 taong gulang ang isang tao, kahit walang senyales ng layuning manakit sa kaniyang mga chat.

Bina-ban namin ang mga account na natukoy naming lumabag sa aming mga patakaran sa marahas na aktibidad⁠. Nakikipagtulungan din kami sa mga eksperto sa kalusugang pangkaisipan at pag-iwas sa karahasan para makahanap ng mga karagdagang awtomatikong paraan para mas maagang mamagitan. Kapag may mga senyales sa pag-uusap na labis na nakatuon ang isang tao sa karahasan o sa ideya ng matinding pananakit sa iba, magagawa ng ChatGPT na awtomatikong tapusin ang chat para agad na maputol ang pagkiling na ito sa sandaling iyon. Kung tatapusin ng ChatGPT ang maraming chat sa dahilang iyon, maaari naming pansamantalang ihinto ang paggamit sa account. Patuloy ang pagsisikap na ito, at patuloy naming pinatitibay at pinaglalaanan ng mga mapagkukunan ang mga teknikal at praktikal na proteksyon, kabilang ang kung paano mapagkakatiwalaang matukoy ang mga nagbababalang senyales at mapagpasyahan kung kailan at paano mamamagitan.

ChatGPT for Teens⁠ ay naglalapat ng mga pananggalang na angkop sa edad para sa mga user na wala pang 18 taong gulang, na may mas matitibay na proteksyon at mga karagdagang limitasyon upang mabawasan ang pagkakalantad sa sensitibong content. Naglalagay na rin kami ngayon ng mga karagdagang limitasyon sa impormasyong may kaugnayan sa mga armas na matatanggap ng mga tinedyer, kahit na mukhang hindi nakapipinsala ang isang tanong. 

Ipinagbabawal na ng aming mga patakaran ang pagtulong sa sinuman na magplano o magsagawa ng karahasan, at nililimitahan din ng mga ito ang pagtulong sa mga kabataan na makahanap o makakuha ng mga armas. Pinalalawak namin ang mga proteksyong ito upang limitahan ang pagbibigay ng praktikal na impormasyon tungkol sa mga armas at sistema ng seguridad na maaaring magamit sa maling paraan upang mapadali ang karahasan, kahit walang palatandaan ng layuning gumawa ng karahasan. Maaari pa ring gamitin ng mga kabataan ang ChatGPT upang makatulong na maiwasan at mapahupa ang karahasan, humingi ng suporta, at makipag-ugnayan sa isang pinagkakatiwalaang nakatatanda. 

Inilunsad namin noong nakaraang taon ang paghula sa edad⁠, na nag-aanalisa sa iba’t ibang palatandaan, gaya ng mga takbo ng pag-uugali, para tantiyahin kung ang isang user ay wala pang 18 taong gulang o lampas na sa 18. Pinatatag namin ang aming sistema sa panghuhula ng edad para patuloy na suriin ang mga bagong palatandaan habang ginagamit ng mga tao ang ChatGPT at ilipat ang mga tinedyer sa karanasan ng mga wala pang 18 taong gulang sa tuwing naaangkop. Ang mga user na maling nailagay sa karanasan ng mga wala pang 18 taong gulang ay palaging magkakaroon ng mabilis na paraan na pumoprotekta sa pribasiya para kumpirmahin na sila'y nasa hustong gulang na para maalis ang mga dagdag na proteksyon para sa tinedyer sa pamamagitan ng Persona, ang aming katuwang sa pagbeberipika ng edad. 

Sa aming mga kontrol ng magulang⁠, maaaring i-link ng mga magulang ang kanilang mga ChatGPT account sa mga account ng kanilang mga anak na tinedyer at magkasamang pamahalaan ang mga setting ng kaligtasan. Kasama sa mga naka-link na account ang mga alerto sa kaligtasan⁠ na maaaring ipadala kapag natukoy ng mga espesyal na sinanay na tagasuri ang seryosong panganib ng pananakit sa sarili at mga pag-uugali na maaaring kaugnay ng di-normal na gawi sa pagkain Noong Hulyo, pinalawak namin ang mga alerto na iyon para abisuhan ang mga magulang kung na-deactivate ang account ng kanilang anak na tinedyer dahil sa paglabag sa aming mga patakaran sa paggamit kaugnay ng karahasan. Nagsusumikap kaming magpakilala ng mga abiso para sa mga magulang kung ihihinto namin ang account ng kanilang anak na teenager dahil sa paulit-ulit na pagtalakay sa karahasan, gaya ng nakadetalye sa itaas.

Ang mga aktwal na insidente ng karahasan ay nakakapanlumo at masalimuot, at maraming salik ang nag-aambag sa mga ito. Malinaw ding paalala ang mga ito na kailangan naming patuloy na idisenyo at pahusayin ang aming mga system para isaalang-alang ang likas na masalimuot na realidad ng pag-uugali ng tao. Ang pagbuo ng mga epektibong pananggalang laban sa karahasan sa mga AI system ay nangangailangan ng naaangkop na paglutas sa mga bagong problema sa pagkilala sa panganib at pagtugon, at patuloy kaming mamumuhunan, magpapahusay, at magbabahagi ng mga natutuhan  ukol sa pinakamainam na paraan ng pagpapatupad ng mga proteksyong isinusulong namin. Sisimulang ilunsad sa susunod na ilang linggo ang mga pananggalang na nakadetalye rito at patuloy naming pahuhusayin ang mga ito. Naninindigan kami sa patuloy na pagpapababa ng mga panganib ng pinsala sa ChatGPT, pagpapatibay ng aming magkakapatong na proteksyon, pagsubaybay sa maling paggamit, pagpapatupad ng aming mga panuntunan, at pagsasangko ng suporta sa totoong buhay at mga interbensyon kapag kinakailangan.