Poročilo o varnosti skupnosti in nove zaščite za najstnike

ChatGPT je eden najpogosteje uporabljenih izdelkov UI na svetu. Vložili smo sredstva v razvoj nekaterih najnaprednejših sistemov v panogi za odkrivanje morebitne škode, pregledovanje skrb vzbujajoče dejavnosti in predajanje verodostojnih groženj pristojnim v nadaljnjo obravnavo. Za nadaljnje delo na tem področju napovedujemo dve novosti: novo poročilo o zaščitnih ukrepih za skupnost in dodatne omejitve glede vsebin o strelnem orožju za mladoletnike.

Zagotavljanje varnosti skupnosti⁠ ostaja ena glavnih prednostnih nalog družbe OpenAI. V okviru našega dela organe pregona opozarjamo na neposredne grožnje z nasiljem in v 3. četrtletju leta 2026 smo jim podali več kot 200 prijav. Te prijave imajo pozitiven⁠(odpre se v novem oknu) učinek⁠(odpre se v novem oknu) pri preprečevanju nasilnih načrtov, pri presoji zahtevnih primerov pa se še naprej opiramo na pomoč strokovnjakov za duševno zdravje in vedenje.

Zavedamo se, da imajo podjetja na področju UI posebno vlogo ob organih pregona, družinskih članih, strokovnjakih za duševno zdravje in oblikovalcih politik, ki prispevajo ključne pristojnosti, poznavanje okoliščin in možnosti za ukrepanje v resničnem svetu. Zavezani smo temu, da to vlogo kar najbolje izpolnimo z nenehno krepitvijo naših sistemov, izmenjavo spoznanj in neposrednim sodelovanjem s tistimi, ki lahko najučinkoviteje ukrepajo v resničnem svetu.

Nenehno krepimo ukrepe, s katerimi pomagamo varovati ljudi in skupnosti. To pomeni vzpostavljanje močnih zaščitnih ukrepov in pregledno obveščanje o tem, kako dobro delujejo ter kako jih izboljšujemo. Ljudem želimo jasno predstaviti naš pristop, kako naši modeli prepoznavajo škodljivo vedenje in se nanj odzivajo, katera tveganja opažamo v praksi ter kako jih obravnavamo.

Zavezujemo se, da bomo objavili Poročilo o varnosti skupnosti, ki bo obravnavalo preprečevanje nasilja in druga vprašanja varnosti skupnosti ter učinkovitost naših zaščitnih ukrepov. V poročilu bomo pojasnili, kako naše sisteme usposabljamo za zaznavanje, preiskovanje in odzivanje na vprašanja varnosti skupnosti. Delili bomo anonimizirane primere, ki prikazujejo, kako se kaže škoda, povezana z nasiljem, in kaj se iz njih učimo, predstavili nove ukrepe za zmanjševanje tveganj in spremembe pravilnikov ter vključili ustrezne podatke v podporo tem ugotovitvam.

Naše prvo poročilo bomo objavili v začetku leta 2027. Zajemalo bo drugo polovico leta 2026, nato pa ga bomo posodabljali vsakih šest mesecev. Zavezujemo se, da bomo delili pomembne ugotovitve o tem, kako prepoznavamo, pregledujemo in obravnavamo potencialno škodljive vsebine.

Naši modeli so usposobljeni, da ne dajejo navodil, ki bi komu pomagala načrtovati ali izvesti nasilje. Zdaj uvajamo dodatne omejitve glede tega, kako ChatGPT odgovarja na vprašanja o preteklih množičnih napadih in ljudeh, ki so jih izvedli. Model usmerjamo, naj o teh temah podaja manj podrobne informacije, tudi če so na voljo v drugih spletnih virih. Ljudje bi morali imeti možnost, da ChatGPT prosijo za pomoč pri razumevanju teh dogodkov, njihovega vpliva na žrtve in skupnosti ter pri spoznavanju, kako prepoznati opozorilne znake in preprečevati prihodnje nasilje. Vendar zaostrujemo pravila, da bi omejili rekonstrukcije preteklih množičnih napadov, vključno s podrobnostmi o uporabljenem orožju in opremi ter načinu njihove pridobitve, pa tudi podrobne primerjave obsega škode, ki bi lahko povečale zloglasnost napadalca. Te omejitve veljajo ne glede na uporabnikovo starost ali razlog za vprašanje.

Včasih zahteva, ki se sama po sebi zdi običajna, v luči prejšnjega pogovora dobi drugačen pomen. Maja smo predstavili, kako lahko ChatGPT uporabi kratke povzetke, ki temeljijo na dejstvih⁠, o predhodnih opozorilnih znakih, da se v poznejšem klepetu odzove previdneje. To delo nadgrajujemo, da bo ChatGPT bolj zadržan pri deljenju informacij, ki bi jih bilo mogoče zlorabiti, kadar se v nedavnih klepetih pojavijo opozorilni znaki morebitnega nasilja. Prizadevamo si tudi, da bi te strožje omejitve veljale za uporabnike, za katere ocenimo, da so mlajši od 18 let, tudi če njihovi klepeti ne kažejo znakov nasilnih namenov.

Blokiramo račune, za katere ugotovimo, da so kršili naša pravila glede nasilne dejavnosti⁠. S strokovnjaki za duševno zdravje in preprečevanje nasilja sodelujemo tudi pri razvoju dodatnih avtomatiziranih načinov za zgodnejše ukrepanje. Ko pogovor kaže znake, da se nekdo osredotoča na nasilje ali na misel, da bi drugi osebi resno škodoval, bo ChatGPT lahko samodejno končal klepet in tako takoj prekinil ta vzorec. Če ChatGPT iz tega razloga konča več klepetov, lahko račun začasno onemogočimo. Prizadevanja na tem področju se nadaljujejo; še naprej krepimo zaščitne ukrepe in vlagamo v tehnične in praktične rešitve, vključno z načini za zanesljivo prepoznavanje opozorilnih znakov ter ugotavljanje, kdaj in kako ukrepati.

ChatGPT za najstnike⁠, namenjen uporabnikom, mlajšim od 18 let, uporablja starosti primerne zaščitne ukrepe z okrepljeno zaščito in dodatnimi omejitvami za zmanjšanje izpostavljenosti občutljivim vsebinam. Zdaj dodatno omejujemo informacije o orožju, ki jih lahko prejmejo najstniki, tudi kadar je vprašanje videti nenevarno. 

Naši pravilniki že prepovedujejo pomoč komur koli pri načrtovanju ali izvajanju nasilja ter omejujejo pomoč najstnikom pri iskanju ali pridobivanju orožja. Te zaščitne ukrepe razširjamo tako, da omejujemo praktične informacije o orožju in varnostnih sistemih, ki bi jih bilo mogoče zlorabiti za omogočanje nasilja, tudi kadar ni znakov nasilnih namenov. Najstniki lahko ChatGPT še naprej uporabljajo za pomoč pri preprečevanju nasilja in umirjanju nasilnih situacij, iskanju podpore ter vzpostavljanju stika z odraslo osebo, ki ji zaupajo. 

Lani smo uvedli napovedovanje starosti⁠, ki na podlagi analize več kazalnikov, kot so vedenjski vzorci, oceni, ali je uporabnik mlajši ali starejši od 18 let. Okrepili smo sistem za napovedovanje starosti, da nenehno ocenjuje nove signale, ko ljudje uporabljajo ChatGPT, in najstnike po potrebi preusmeri v izkušnjo za mlajše od 18 let. Uporabniki, ki so napačno uvrščeni v izkušnjo za mlajše od 18 let, bodo lahko prek našega partnerja za preverjanje starosti Persona vedno hitro in ob varovanju zasebnosti potrdili, da so odrasli, ter odstranili dodatne zaščitne ukrepe za najstnike. 

Naš starševski nadzor⁠ staršem omogoča, da svoje račune ChatGPT povežejo z računi svojih najstnikov in skupaj upravljajo varnostne nastavitve. Povezani računi vključujejo tudi varnostna opozorila⁠, ki jih lahko pošljemo, kadar posebej usposobljeni pregledovalci zaznajo resno tveganje za samopoškodovanje in vedenja, ki so lahko povezana z motnjami hranjenja. Julija smo ta opozorila razširili, tako da starše obvestijo, če je bil račun njihovega najstnika deaktiviran zaradi kršenja naših pravil uporabe glede nasilja. Kot je opisano zgoraj, si prizadevamo uvesti obvestila za starše, če začasno onemogočimo račun njihovega najstnika zaradi ponavljajočih se pogovorov o nasilju.

Nasilna dejanja v resničnem svetu so pretresljiva in zapletena, k njim pa prispevajo številni dejavniki. Obenem so resen opomin, da moramo naše sisteme še naprej načrtovati in izpopolnjevati tako, da upoštevajo zapleteno naravo človeškega vedenja. Razvoj učinkovitih zaščitnih ukrepov za preprečevanje nasilja v sistemih UI zahteva reševanje novih izzivov pri prepoznavanju tveganj in ustreznem odzivanju. Še naprej bomo vlagali, izpopolnjevali ukrepe in delili spoznanja  o tem, kako najbolje uvesti zaščito, za katero si prizadevamo. Zaščitni ukrepi, opisani tukaj, se bodo začeli uvajati v naslednjih nekaj tednih, še naprej pa jih bomo izpopolnjevali. Še naprej si prizadevamo zmanjševati tveganja za škodo pri uporabi ChatGPT‑ja, krepiti večplastno zaščito, spremljati zlorabe, uveljavljati naša pravila ter po potrebi vključevati podporo in ukrepanje v resničnem svetu.