Izvješće o sigurnosti zajednice i nove mjere zaštite za tinejdžere

ChatGPT jedan je od najraširenijih AI proizvoda na svijetu, a uložili smo sredstva u razvoj nekih od najnaprednijih sustava u industriji za otkrivanje potencijalne štete, pregled zabrinjavajućih aktivnosti i upućivanje vjerodostojnih prijetnji nadležnima. Kako bismo unaprijedili svoj rad na ovom području, najavljujemo dvije novosti: novo izvješće o zaštitnim mjerama za zajednicu i dodatna ograničenja sadržaja povezanog s vatrenim oružjem za maloljetnike.

Očuvanje sigurnosti zajednica⁠ i dalje je glavni prioritet OpenAI-a. Naš rad obuhvaća skretanje pozornosti tijela za provedbu zakona na neposredne prijetnje nasiljem, a u 3. tromjesečju 2026. tim smo tijelima uputili više od 200 prijava. Te prijave imaju pozitivan⁠(otvara se u novom prozoru) učinak⁠(otvara se u novom prozoru) na sprječavanje nasilnih planova, a i dalje se oslanjamo na stručnjake za mentalno zdravlje i ponašanje koji nam pomažu procijeniti složene slučajeve.

Svjesni smo da AI tvrtke imaju posebnu ulogu uz tijela za provedbu zakona, članove obitelji, stručnjake za mentalno zdravlje i oblikovatelje politika, koji pružaju ključne ovlasti, razumijevanje okolnosti i mogućnost djelovanja u stvarnom svijetu. Predani smo tomu da tu ulogu iskoristimo najbolje što možemo: neprestano jačamo svoje sustave, dijelimo ono što naučimo i izravno surađujemo s onima koji su u najboljem položaju da djeluju u stvarnom svijetu.

Stalno jačamo mjere koje poduzimamo kako bismo pomogli zaštititi ljude i zajednice. To podrazumijeva razvoj snažnih zaštitnih mjera, ali i transparentno prikazivanje njihove učinkovitosti i otkrivanje toga što poduzimamo kako bismo ih dodatno unaprijedili. Želimo ljudima jasno prikazati naš pristup, kako naši modeli prepoznaju štetno ponašanje i reagiraju na njega, koje rizike uočavamo u praksi te koje korake poduzimamo kako bismo ih otklonili.

Obvezujemo se objaviti Izvješće o sigurnosti zajednice o prevenciji nasilja i drugim pitanjima sigurnosti zajednice te učinkovitosti naših zaštitnih mjera. U izvješću ćemo objasniti kako treniramo svoje sustave da otkrivaju, istražuju i rješavaju pitanja sigurnosti zajednice. Podijelit ćemo anonimizirane primjere načina na koje se očituje šteta povezana s nasiljem i onoga što učimo, istaknuti nove mjere za ublažavanje rizika i promjene pravila te uključiti relevantne podatke koji potkrepljuju te nalaze.

Prvo ćemo izvješće objaviti početkom 2027. i ono će obuhvaćati drugu polovicu 2026., a nakon toga objavljivat ćemo ažuriranja svakih šest mjeseci. Obvezujemo se dijeliti značajne nalaze o tome kako prepoznajemo i pregledavamo potencijalno štetan sadržaj te kako na njega reagiramo.

Naši su modeli obučeni da ne daju upute koje bi nekome pomogle planirati ili počiniti nasilje. Sada uvodimo dodatna ograničenja u način na koji ChatGPT odgovara na pitanja o prošlim masovnim napadima i osobama koje su ih počinile, usmjeravajući model da o tim temama pruža manje detaljne informacije, čak i ako su dostupne iz drugih izvora na internetu. Ljudi bi trebali moći zatražiti od ChatGPT‑ja pomoć u razumijevanju tih događaja, njihova utjecaja na žrtve i zajednice te u prepoznavanju znakova upozorenja i sprječavanju budućeg nasilja. No postrožujemo svoja pravila kako bismo ograničili rekonstrukcije prošlih masovnih napada, uključujući detalje o korištenom oružju i opremi te načinu na koji su nabavljeni, kao i detaljne usporedbe razmjera štete koje bi mogle povećati ozloglašenost napadača. Ta ograničenja vrijede bez obzira na dob korisnika ili razlog postavljanja pitanja.

Ponekad zahtjev koji sam po sebi djeluje uobičajeno poprima drukčije značenje u kontekstu ranijeg razgovora. U svibnju smo objasnili kako ChatGPT može upotrebljavati kratke, činjenične sažetke⁠ ranijih znakova upozorenja kako bi opreznije odgovarao u kasnijem razgovoru. Nastavljamo razvijati taj pristup kako bi ChatGPT kada nedavni razgovori pokazuju znakove mogućeg nasilja bio suzdržaniji pri dijeljenju informacija koje bi se mogle zloupotrijebiti. Također radimo na primjeni tih strožih ograničenja kada procijenimo da je netko mlađi od 18 godina, čak i ako njegovi razgovori ne pokazuju znakove nasilnih namjera.

Blokiramo račune za koje utvrdimo da su prekršili naša pravila o nasilnim aktivnostima⁠. Sa stručnjacima za mentalno zdravlje i sprječavanje nasilja radimo i na dodatnim automatiziranim načinima ranije intervencije. Kada razgovor pokazuje znakove da je netko zaokupljen nasiljem ili idejom da ozbiljno naudi drugoj osobi, ChatGPT će moći automatski završiti razgovor kako bi odmah prekinuo taj obrazac. Ako ChatGPT iz tog razloga završi više razgovora, možemo privremeno obustaviti račun. Riječ je o kontinuiranom radu, a nastavljamo jačati i razvijati tehničke i praktične mjere zaštite, uključujući pouzdano prepoznavanje znakova upozorenja te utvrđivanje toga kada i kako intervenirati.

ChatGPT za tinejdžere⁠ primjenjuje zaštitne mjere prilagođene dobi za korisnike mlađe od 18 godina, uz snažniju zaštitu i dodatna ograničenja kako bi se smanjila izloženost osjetljivom sadržaju. Sada dodatno ograničavamo informacije povezane s oružjem koje tinejdžeri mogu dobiti, čak i kada se pitanje čini bezazlenim. 

Naše politike već zabranjuju pomaganje bilo komu u planiranju ili počinjenju nasilja te ograničavaju pomoć tinejdžerima u pronalaženju ili nabavi oružja. Proširujemo te zaštitne mjere kako bismo ograničili pružanje praktičnih informacija o oružju i sigurnosnim sustavima koje bi se mogle zloupotrijebiti za poticanje nasilja, čak i kada nema naznaka nasilnih namjera. Tinejdžeri i dalje mogu upotrebljavati ChatGPT za pomoć u sprječavanju i deeskalaciji nasilja, traženju podrške i povezivanju s odraslom osobom od povjerenja. 

Prošle smo godine uveli procjenu dobi⁠, koja analizira više pokazatelja, poput obrazaca ponašanja, kako bi procijenila je li korisnik mlađi ili stariji od 18 godina. Unaprijedili smo sustav za procjenu dobi kako bi neprestano procjenjivao nove signale dok ljudi upotrebljavaju ChatGPT te, kada je to primjereno, prebacivao tinejdžere na iskustvo za mlađe od 18 godina. Korisnici koji su pogrešno svrstani u iskustvo za mlađe od 18 godina uvijek će moći brzo i uz zaštitu privatnosti potvrditi da su punoljetni te putem Persone, našeg partnera za provjeru dobi, ukloniti dodatne zaštitne mjere za tinejdžere. 

Naš roditeljski nadzor⁠ roditeljima omogućuje da povežu svoje ChatGPT račune s računima svoje djece tinejdžerske dobi i zajedno upravljaju sigurnosnim postavkama. Povezani računi uključuju sigurnosna upozorenja⁠ koja se mogu slati kada posebno obučeni pregledavatelji prepoznaju ozbiljnu mogućnost samoozljeđivanja i ponašanja koja mogu biti povezana s poremećajima prehrane. U srpnju smo proširili ta upozorenja kako bi roditelji primili obavijest ako je račun njihova tinejdžera deaktiviran zbog kršenja naših pravila upotrebe koja se odnose na nasilje. Kao što je gore detaljno opisano, radimo na uvođenju obavijesti za roditelje ako privremeno obustavimo račun njihova tinejdžera zbog opetovanih razgovora o nasilju.

Nasilje u stvarnom svijetu duboko je potresno i složeno, a pridonose mu brojni čimbenici. Ono je i snažan podsjetnik da moramo nastaviti razvijati i unapređivati svoje sustave kako bi uzimali u obzir svu složenost ljudskog ponašanja. Razvoj učinkovitih mjera zaštite od nasilja u AI sustavima zahtijeva rješavanje novih problema povezanih s prepoznavanjem rizika i primjerenim reagiranjem, a mi ćemo nastaviti ulagati u te mjere, unapređivati ih i dijeliti spoznaje  o tome kako najbolje provesti mjere zaštite na kojima radimo. Mjere zaštite koje su ovdje detaljno opisane počet ćemo uvoditi u sljedećih nekoliko tjedana i nastaviti ih usavršavati. I dalje smo predani smanjenju rizika od štete u ChatGPT‑ju, jačanju višeslojne zaštite, praćenju zlouporabe, provedbi svojih pravila te uključivanju podrške i intervencija u stvarnom svijetu kada to okolnosti zahtijevaju.