Izvještaj o sigurnosti zajednice i nove zaštite za tinejdžere

ChatGPT je jedan od najkorištenijih AI proizvoda na svijetu, a uložili smo u razvoj nekih od najnaprednijih sistema u industriji za otkrivanje potencijalne štete, razmatranje zabrinjavajućih aktivnosti i upućivanje vjerodostojnih prijetnji na daljnje postupanje. Objavljujemo dvije najave kako bismo unaprijedili naš rad u ovom području: novi izvještaj o zaštitnim mjerama zajednice i dodatna ograničenja sadržaja o vatrenom oružju za maloljetnike.

Očuvanje sigurnosti zajednica⁠ i dalje je jedan od glavnih prioriteta OpenAI-ja. Naš rad uključuje skretanje pažnje organa za provođenje zakona na neposredne prijetnje nasiljem, a u trećem kvartalu 2026. uputili smo organima za provođenje zakona više od 200 prijava. Ove prijave čine pozitivnu⁠(otvara se u novom prozoru) razliku⁠(otvara se u novom prozoru) u osujećivanju nasilnih planova, a i dalje se oslanjamo na stručnjake za mentalno zdravlje i ponašanje kako bi nam pomogli u procjeni složenih slučajeva.

Svjesni smo da AI kompanije imaju posebnu ulogu uz organe za provođenje zakona, članove porodice, stručnjake za mentalno zdravlje i donosioce politika, koji pružaju ključne ovlasti, poznavanje okolnosti i mogućnost djelovanja u stvarnom svijetu. Posvećeni smo tome da tu ulogu iskoristimo na najbolji način: stalnim jačanjem naših sistema, dijeljenjem onoga što naučimo i direktnom saradnjom s onima koji su u najboljoj poziciji da djeluju u stvarnom svijetu.

Stalno jačamo mjere koje poduzimamo kako bismo pomogli u zaštiti ljudi i zajednica. To znači uspostavljati snažne zaštitne mjere, ali i otvoreno govoriti o njihovoj djelotvornosti i onome što radimo da ih ojačamo. Želimo ljudima jasno prikazati naš pristup, kako naši modeli prepoznaju štetno ponašanje i reaguju na njega, koje rizike uočavamo u praksi i koje korake poduzimamo da ih otklonimo.

Obavezujemo se da ćemo objaviti Izvještaj o sigurnosti zajednice, koji će se baviti prevencijom nasilja i drugim pitanjima sigurnosti zajednice te djelotvornošću naših zaštitnih mjera. U izvještaju ćemo objasniti kako treniramo svoje sisteme da otkrivaju, istražuju i rješavaju pitanja sigurnosti zajednice. Podijelit ćemo anonimizirane primjere načina na koje se ispoljava šteta povezana s nasiljem i onoga što učimo, istaknuti nove mjere za ublažavanje rizika i promjene politika te uključiti relevantne podatke koji potkrepljuju ove nalaze.

Prvi izvještaj objavit ćemo početkom 2027. godine. Obuhvatit će drugu polovinu 2026. godine, a nakon toga ćemo ga ažurirati svakih šest mjeseci. Posvećeni smo dijeljenju značajnih saznanja o tome kako prepoznajemo, pregledamo i reagujemo na potencijalno štetan sadržaj.

Naši modeli su obučeni da ne daju upute koje bi nekome pomogle da planira ili počini nasilje. Sada uvodimo dodatna ograničenja za način na koji ChatGPT odgovara na pitanja o ranijim masovnim napadima i njihovim počiniocima, usmjeravajući model da o tim temama pruža manje detaljne informacije, čak i ako su dostupne iz drugih izvora na internetu. Ljudi trebaju moći zatražiti od ChatGPT‑a pomoć da razumiju te događaje, njihov utjecaj na žrtve i zajednice te da nauče prepoznati znakove upozorenja i spriječiti buduće nasilje. Međutim, pooštravamo pravila kako bismo ograničili rekonstrukcije ranijih masovnih napada, uključujući detalje o korištenom oružju i opremi i načinu na koji su nabavljeni, kao i detaljna poređenja razmjera štete koja bi mogla pojačati ozloglašenost napadača. Ova ograničenja važe bez obzira na dob korisnika ili razlog postavljanja pitanja.

Ponekad zahtjev koji sam po sebi djeluje uobičajeno dobije drugačije značenje u kontekstu ranijeg razgovora. U maju smo objasnili kako ChatGPT može koristiti kratke, činjenične sažetke⁠ ranijih znakova upozorenja da bi opreznije odgovarao u kasnijem razgovoru. Nadograđujemo taj pristup kako bi ChatGPT, kada se u nedavnim razgovorima pojave znakovi upozorenja na moguće nasilje, bio suzdržaniji pri dijeljenju informacija koje bi se mogle zloupotrijebiti. Radimo i na primjeni tih strožih ograničenja kada procijenimo da je neko mlađi od 18 godina, čak i ako u njegovim razgovorima nema naznaka nasilnih namjera.

Zabranjujemo račune za koje utvrdimo da su prekršili naša pravila o nasilnim aktivnostima⁠. Sa stručnjacima za mentalno zdravlje i sprečavanje nasilja radimo i na dodatnim, automatizovanim načinima ranijeg intervenisanja. Kada razgovor pokaže znakove da je neko zaokupljen nasiljem ili idejom da ozbiljno naudi drugoj osobi, ChatGPT će moći automatski prekinuti razgovor kako bi odmah prekinuo taj obrazac. Ako ChatGPT iz tog razloga prekine više razgovora, možemo privremeno obustaviti korištenje računa. Ovo je kontinuiran napor i nastavljamo jačati i ulagati u tehničke i praktične zaštitne mjere, uključujući načine za pouzdano prepoznavanje znakova upozorenja i utvrđivanje kada i kako intervenisati.

ChatGPT za tinejdžere⁠ primjenjuje zaštitne mjere prilagođene dobi za korisnike mlađe od 18 godina, uz pojačanu zaštitu i dodatna ograničenja radi smanjenja izloženosti osjetljivom sadržaju. Sada dodatno ograničavamo informacije povezane s oružjem koje tinejdžeri mogu dobiti, čak i kada pitanje djeluje bezazleno. 

Naša pravila već zabranjuju pomaganje bilo kome u planiranju ili izvršenju nasilja i ograničavaju pomaganje tinejdžerima u pronalaženju ili nabavci oružja. Proširujemo te mjere zaštite kako bismo ograničili pružanje praktičnih informacija o oružju i sigurnosnim sistemima koje bi se mogle zloupotrijebiti za olakšavanje nasilja, čak i kada nema znakova nasilne namjere. Tinejdžeri i dalje mogu koristiti ChatGPT za pomoć u sprečavanju i smirivanju nasilja, traženju podrške i povezivanju s odraslom osobom od povjerenja. 

Prošle godine pokrenuli smo procjenu dobi⁠, koja analizira više signala, poput obrazaca ponašanja, kako bi procijenila je li korisnik mlađi ili stariji od 18 godina. Ojačali smo sistem za procjenu dobi kako bi kontinuirano procjenjivao nove signale dok ljudi koriste ChatGPT i, kada je to primjereno, prebacivao tinejdžere na iskustvo za mlađe od 18 godina. Korisnici koji su greškom prebačeni na iskustvo za mlađe od 18 godina uvijek će imati brz način, uz zaštitu privatnosti, da potvrde da su punoljetni i putem Persone, našeg partnera za provjeru dobi, uklone dodatne zaštite za tinejdžere. 

Naš roditeljski nadzor⁠ omogućava roditeljima da povežu svoje ChatGPT račune s računima svoje djece tinejdžerske dobi i zajedno upravljaju sigurnosnim postavkama. Povezani računi uključuju sigurnosna upozorenja⁠ koja se mogu slati kada posebno obučeni pregledatelji prepoznaju ozbiljan rizik od samopovređivanja i ponašanja koja mogu biti povezana s poremećajima u ishrani. U julu smo proširili ta upozorenja kako bismo obavijestili roditelje ako je račun njihovog tinejdžera deaktiviran zbog kršenja naših pravila korištenja koja se odnose na nasilje. Radimo na uvođenju obavijesti za roditelje ako privremeno obustavimo korištenje računa njihovog tinejdžera zbog učestalih razgovora o nasilju, kao što je detaljno opisano iznad.

Činovi nasilja u stvarnom svijetu potresni su i složeni, a njihovom nastanku doprinose brojni faktori. Oni nas također snažno podsjećaju da moramo nastaviti osmišljavati i unapređivati svoje sisteme kako bismo uzeli u obzir inherentnu složenost ljudskog ponašanja. Razvoj djelotvornih zaštitnih mjera protiv nasilja u sistemima umjetne inteligencije zahtijeva rješavanje novih izazova u prepoznavanju rizika i odgovarajućem reagovanju. Nastavit ćemo ulagati, unapređivati pristup i dijeliti saznanja  o tome kako najbolje provesti zaštitne mjere koje nastojimo uvesti. Zaštitne mjere opisane ovdje počet ćemo uvoditi u narednih nekoliko sedmica i nastavit ćemo ih usavršavati. Ostajemo posvećeni smanjenju rizika od štete u ChatGPT‑u, jačanju višeslojne zaštite, praćenju zloupotreba, provođenju naših pravila te uključivanju podrške i intervencija u stvarnom svijetu kada to situacija zahtijeva.