Ziņojums par kopienas drošību un jauni aizsardzības pasākumi pusaudžiem

ChatGPT ir viens no pasaulē visplašāk izmantotajiem MI produktiem, un mēs esam ieguldījuši līdzekļus, lai izveidotu dažas no nozarē modernākajām sistēmām iespējamā kaitējuma atklāšanai, satraucošu darbību izvērtēšanai un ticamu draudu nodošanai tālākai izskatīšanai. Lai turpinātu darbu šajā jomā, mēs nākam klajā ar diviem paziņojumiem: jaunu Ziņojumu par kopienas aizsardzības pasākumiem un papildu ierobežojumiem attiecībā uz nepilngadīgajiem pieejamu saturu par šaujamieročiem.

Kopienu drošības nodrošināšana⁠ joprojām ir viena no OpenAI galvenajām prioritātēm. Mēs informējam tiesībaizsardzības iestādes par vardarbības draudiem, kas var īstenoties tuvākajā laikā, un 2026. gada 3. ceturksnī iesniedzām šīm iestādēm vairāk nekā 200 ziņojumu. Šie ziņojumi palīdz ⁠(atveras jaunā logā) novērst⁠(atveras jaunā logā) plānotu vardarbību. Sarežģītu gadījumu izvērtēšanā mēs joprojām paļaujamies uz psihiskās veselības un uzvedības ekspertu palīdzību.

Mēs apzināmies, ka MI uzņēmumiem ir īpaša loma līdzās tiesībaizsardzības iestādēm, ģimenes locekļiem, psihiskās veselības speciālistiem un politikas veidotājiem, kuru pilnvarām, situācijas pārzināšanai un rīcības iespējām ir izšķiroša nozīme. Esam apņēmušies šo lomu izmantot pēc iespējas pilnvērtīgāk, pastāvīgi stiprinot savas sistēmas, daloties ar gūtajām atziņām un tieši sadarbojoties ar tiem, kuriem ir vislabākās iespējas rīkoties reālajā pasaulē.

Mēs pastāvīgi stiprinām pasākumus, ko veicam, lai palīdzētu aizsargāt cilvēkus un kopienas. Tas nozīmē gan stingru aizsardzības mehānismu izstrādi, gan atklātu informēšanu par to, cik labi tie darbojas un ko darām, lai tos pilnveidotu. Mēs vēlamies sniegt cilvēkiem skaidru priekšstatu par mūsu pieeju, par to, kā mūsu modeļi atpazīst kaitīgu uzvedību un reaģē uz to, kādus riskus novērojam praksē un kādus pasākumus veicam, lai tos novērstu.

Mēs apņemamies publicēt ziņojumu par kopienas drošību, kurā aplūkosim vardarbības novēršanu un citus kopienas drošības jautājumus, kā arī mūsu aizsardzības pasākumu efektivitāti. Ziņojumā skaidrosim, kā apmācām savas sistēmas atklāt un izpētīt kopienas drošības apdraudējumus un reaģēt uz tiem. Dalīsimies ar anonimizētiem piemēriem, kas parāda, kā izpaužas ar vardarbību saistīts kaitējums un ko esam iemācījušies, izcelsim jaunus kaitējuma mazināšanas pasākumus un noteikumu izmaiņas, kā arī iekļausim atbilstošus datus šo secinājumu pamatošanai.

Mēs publicēsim savu pirmo ziņojumu 2027. gada sākumā, aptverot 2026. gada otro pusgadu, un pēc tam publicēsim atjauninājumus ik pēc sešiem mēnešiem. Mēs apņemamies dalīties ar nozīmīgiem secinājumiem par to, kā atpazīstam un izvērtējam potenciāli kaitīgu saturu un kā uz to reaģējam.

Mūsu modeļi ir apmācīti nesniegt norādījumus, kas palīdzētu kādam plānot vai īstenot vardarbību. Tagad ieviešam papildu ierobežojumus tam, kā ChatGPT atbild uz jautājumiem par pagātnē notikušiem masu uzbrukumiem un cilvēkiem, kas tos veikuši, liekot modelim sniegt mazāk detalizētu informāciju par šīm tēmām pat tad, ja tā ir pieejama citos tiešsaistes avotos. Cilvēkiem jābūt iespējai lūgt ChatGPT palīdzību, lai izprastu šos notikumus un to ietekmi uz cietušajiem un kopienām, kā arī uzzinātu, kā atpazīt brīdinājuma pazīmes un novērst vardarbību nākotnē. Taču mēs padarām savus noteikumus stingrākus, lai ierobežotu pagātnē notikušu masu uzbrukumu rekonstrukcijas, tostarp informāciju par izmantotajiem ieročiem un aprīkojumu un to, kā tie iegūti, kā arī detalizētus nodarītā kaitējuma apmēra salīdzinājumus, kas varētu vairot uzbrucēja bēdīgo slavu. Šie ierobežojumi ir spēkā neatkarīgi no lietotāja vecuma un jautājuma uzdošanas iemesla.

Dažkārt pieprasījums, kas pats par sevi šķiet parasts, iepriekšējās sarunas kontekstā iegūst citu nozīmi. Maijā pastāstījām, kā ChatGPT var izmantot īsus, faktos balstītus kopsavilkumus⁠ par iepriekšējām brīdinājuma pazīmēm, lai vēlākā sarunā atbildētu piesardzīgāk. Turpinām šo darbu, lai gadījumos, kad nesenās sarunās parādās pazīmes, kas liecina par iespējamu vardarbību, ChatGPT būtu piesardzīgāks, sniedzot informāciju, ko varētu izmantot ļaunprātīgi. Strādājam arī pie šo stingrāko ierobežojumu piemērošanas gadījumos, kad prognozējam, ka lietotājs ir jaunāks par 18 gadiem, pat ja viņa sarunās nav vardarbīgu nodomu pazīmju.

Mēs bloķējam kontus, ar kuriem, kā esam konstatējuši, ir pārkāpti mūsu noteikumi par vardarbīgām darbībām⁠. Mēs sadarbojamies arī ar psihiskās veselības un vardarbības novēršanas ekspertiem, lai rastu papildu automatizētus veidus, kā iejaukties agrāk. Ja sarunā parādās pazīmes, ka cilvēks pārmērīgi pievēršas vardarbībai vai domai par nopietna kaitējuma nodarīšanu citai personai, ChatGPT varēs automātiski beigt sarunu, lai uzreiz pārtrauktu šo uzvedības modeli. Ja ChatGPT šī iemesla dēļ beidz vairākas sarunas, mēs varam uz laiku apturēt konta darbību. Šis darbs turpinās, un mēs turpinām stiprināt tehniskos un praktiskos aizsardzības pasākumus un ieguldīt tajos, tostarp pilnveidojot veidus, kā uzticami atpazīt brīdinājuma pazīmes un noteikt, kad un kā iejaukties.

ChatGPT pusaudžiem⁠ lietotājiem līdz 18 gadu vecumam piemēro vecumam atbilstošus aizsardzības pasākumus, tostarp stingrāku aizsardzību un papildu ierobežojumus, lai mazinātu saskari ar sensitīvu saturu. Tagad mēs nosakām papildu ierobežojumus attiecībā uz informāciju par ieročiem, ko pusaudži var saņemt, pat ja jautājums šķiet nekaitīgs. 

Mūsu noteikumi jau aizliedz palīdzēt ikvienam plānot vardarbību vai to īstenot, kā arī ierobežo palīdzību pusaudžiem ieroču atrašanā vai iegūšanā. Mēs paplašinām šos aizsardzības pasākumus, ierobežojot praktiskas informācijas sniegšanu par ieročiem un drošības sistēmām, ko varētu ļaunprātīgi izmantot vardarbības veicināšanai, pat ja nav pazīmju par vardarbīgiem nodomiem. Pusaudži joprojām var izmantot ChatGPT, lai palīdzētu novērst un mazināt vardarbību, meklētu atbalstu un sazinātos ar uzticamu pieaugušo. 

Pagājušajā gadā ieviesām vecuma prognozēšanu⁠, kas analizē vairākus signālus, piemēram, uzvedības modeļus, lai novērtētu, vai lietotājs varētu būt jaunāks vai vecāks par 18 gadiem. Mēs pilnveidojām savu vecuma prognozēšanas sistēmu, lai tā ChatGPT lietošanas laikā nepārtraukti izvērtētu jaunus signālus un vajadzības gadījumā pusaudžiem piemērotu personām līdz 18 gadu vecumam paredzēto režīmu. Lietotājiem, kuri kļūdaini nonākuši režīmā, kas paredzēts personām līdz 18 gadu vecumam, vienmēr būs pieejams ātrs, privātumu aizsargājošs veids, kā ar mūsu vecuma pārbaudes partnera Persona starpniecību apstiprināt, ka viņi ir pieaugušie, un atcelt pusaudžiem paredzētos papildu aizsardzības pasākumus. 

Mūsu vecāku kontrole⁠ ļauj vecākiem saistīt savus ChatGPT kontus ar pusaudžu kontiem un kopīgi pārvaldīt drošības iestatījumus. Saistītajos kontos ir pieejami drošības brīdinājumi⁠, kurus var nosūtīt, ja īpaši apmācīti pārbaudītāji konstatē nopietnu paškaitējuma risku un uzvedību, kas varētu būt saistīta ar ēšanas traucējumiem. Jūlijā mēs paplašinājām šo brīdinājumu klāstu, lai informētu vecākus, ja viņu pusaudža konts ir deaktivizēts, jo pārkāpti mūsu lietošanas noteikumi attiecībā uz vardarbību. Mēs strādājam pie tā, lai ieviestu paziņojumus vecākiem gadījumos, kad uz laiku apturam viņu pusaudža konta darbību, jo sarunas atkārtoti pievēršas vardarbībai, kā sīkāk aprakstīts iepriekš.

Vardarbība reālajā pasaulē ir sāpīga un sarežģīta parādība, ko veicina daudzi faktori. Tā arī skaudri atgādina, ka mums jāturpina veidot un pilnveidot savas sistēmas, ņemot vērā cilvēku uzvedības sarežģīto dabu. Lai mākslīgā intelekta sistēmās izstrādātu efektīvus aizsardzības pasākumus pret vardarbību, jārisina jaunas problēmas, kas saistītas ar risku atpazīšanu un atbilstošu reaģēšanu. Mēs turpināsim ieguldīt šajos pasākumos un tos pilnveidot, kā arī dalīties atziņās  par to, kā vislabāk īstenot iecerētos aizsardzības pasākumus. Šeit aprakstītos aizsardzības pasākumus sāks ieviest tuvāko nedēļu laikā, un mēs turpināsim tos pilnveidot. Mēs joprojām esam apņēmušies mazināt kaitējuma riskus ChatGPT, stiprināt daudzslāņu aizsardzību, sekot līdzi iespējamām ļaunprātīgas izmantošanas pazīmēm, nodrošināt mūsu noteikumu ievērošanu un vajadzības gadījumā piesaistīt cilvēkus vai dienestus, kas var sniegt atbalstu un iejaukties.