Správa o bezpečnosti komunity a nové ochranné opatrenia pre tínedžerov

ChatGPT patrí medzi najpoužívanejšie produkty AI na svete. Investovali sme do budovania jedných z najpokročilejších systémov v odvetví, ktoré odhaľujú potenciálnu ujmu, preverujú znepokojujúcu aktivitu a postupujú dôveryhodné hrozby na ďalšie riešenie. V tejto oblasti pokračujeme v práci a oznamujeme dve novinky: novú správu o ochranných opatreniach komunity a ďalšie obmedzenia obsahu týkajúceho sa strelných zbraní pre maloletých.

Udržiavanie bezpečnosti komunít⁠ je pre OpenAI naďalej najvyššou prioritou. Naša práca zahŕňa upozorňovanie orgánov činných v trestnom konaní na bezprostredné hrozby násilia a v 3. štvrťroku 2026 sme týmto orgánom postúpili viac ako 200 podnetov. Tieto podnety majú pozitívny⁠(otvorí sa v novom okne) vplyv⁠(otvorí sa v novom okne) na narúšanie násilných plánov a naďalej sa pri posudzovaní náročných prípadov spoliehame na odborníkov na duševné zdravie a správanie.

Uvedomujeme si, že spoločnosti pôsobiace v oblasti AI majú osobitnú úlohu popri orgánoch činných v trestnom konaní, rodinných príslušníkoch, odborníkoch na duševné zdravie a tvorcoch politík. Tí prinášajú zásadné právomoci, znalosť súvislostí a možnosti konať v reálnom svete. Zaväzujeme sa túto úlohu napĺňať čo najlepšie: neustále posilňujeme naše systémy, delíme sa o získané poznatky a priamo spolupracujeme s tými, ktorí majú najlepšie predpoklady konať v reálnom svete.

Neustále posilňujeme opatrenia, ktorými pomáhame chrániť ľudí a komunity. To znamená budovať účinné ochranné opatrenia a zároveň otvorene informovať o tom, ako dobre fungujú a čo robíme pre ich ďalšie posilnenie. Chceme ľuďom jasne priblížiť náš prístup, spôsob, akým naše modely rozpoznávajú škodlivé správanie a reagujú naň, riziká, ktoré vidíme v praxi, aj kroky, ktoré podnikáme na ich riešenie.

Zaväzujeme sa zverejniť Správu o bezpečnosti komunity, ktorá sa bude venovať prevencii násilia, ďalším otázkam bezpečnosti komunity a účinnosti našich ochranných opatrení. Správa vysvetlí, ako trénujeme naše systémy, aby odhaľovali a preverovali problémy týkajúce sa bezpečnosti komunity a reagovali na ne. Podelíme sa o anonymizované príklady toho, ako sa prejavuje ujma súvisiaca s násilím a čo sa učíme, poukážeme na nové opatrenia na zmiernenie rizík a zmeny pravidiel, a zahrnieme aj relevantné údaje na podporu týchto zistení.

Prvú správu zverejníme začiatkom roka 2027. Bude sa týkať druhej polovice roka 2026 a potom budeme každých šesť mesiacov zverejňovať aktualizácie. Zaviazali sme sa zdieľať zmysluplné zistenia o tom, ako identifikujeme, posudzujeme a reagujeme na potenciálne škodlivý obsah.

Naše modely sú trénované tak, aby neposkytovali návody, ktoré by niekomu pomohli naplánovať alebo spáchať násilný čin. Teraz zavádzame ďalšie obmedzenia odpovedí ChatGPT na otázky o minulých hromadných útokoch a ich páchateľoch. Model bude v týchto oblastiach poskytovať menej podrobné informácie, aj keď sú dostupné z iných online zdrojov. Ľudia by mali mať možnosť požiadať ChatGPT o pomoc s pochopením týchto udalostí, ich vplyvu na obete a komunity a dozvedieť sa, ako rozpoznávať varovné signály a predchádzať budúcemu násiliu. Sprísňujeme však naše pravidlá, aby sme obmedzili rekonštrukcie minulých hromadných útokov vrátane podrobností o použitých zbraniach a vybavení a o tom, ako ich útočníci získali, ako aj podrobné porovnávania rozsahu škôd, ktoré by mohli ešte viac zviditeľniť páchateľa. Tieto obmedzenia platia bez ohľadu na vek používateľa alebo dôvod jeho otázky.

Niekedy môže požiadavka, ktorá sama osebe pôsobí bežne, nadobudnúť iný význam v kontexte predchádzajúcej konverzácie. V máji sme vysvetlili, ako môže ChatGPT využívať stručné vecné súhrny⁠ predchádzajúcich varovných signálov, aby v neskoršom chate reagoval opatrnejšie. Na túto prácu nadväzujeme, aby ChatGPT pristupoval zdržanlivejšie k poskytovaniu informácií, ktoré by sa dali zneužiť, ak sa v nedávnych četoch objavia varovné signály možného násilia. Pracujeme aj na uplatňovaní týchto prísnejších obmedzení v prípadoch, keď odhadujeme, že používateľ má menej ako 18 rokov, a to aj vtedy, keď jeho čety nevykazujú známky násilného úmyslu.

Blokujeme účty, pri ktorých zistíme, že porušili naše pravidlá týkajúce sa násilnej činnosti⁠. S odborníkmi na duševné zdravie a prevenciu násilia spolupracujeme aj na ďalších, automatizovaných spôsoboch, ako zasiahnuť skôr. Keď konverzácia naznačí, že sa niekto upína na násilie alebo na myšlienku vážne ublížiť inému človeku, ChatGPT bude môcť čet automaticky ukončiť, aby tento vzorec správania prerušil priamo v danej chvíli. Ak ChatGPT z tohto dôvodu ukončí viacero četov, môžeme účet dočasne pozastaviť. Ide o dlhodobé úsilie a naďalej posilňujeme technické aj praktické ochranné opatrenia a investujeme do nich vrátane spôsobov, ako spoľahlivo rozpoznať varovné signály a určiť, kedy a ako zasiahnuť.

ChatGPT pre tínedžerov⁠ uplatňuje pri používateľoch mladších ako 18 rokov ochranné opatrenia primerané ich veku. Poskytuje silnejšiu ochranu a dodatočné obmedzenia, ktoré znižujú vystavenie citlivému obsahu. Teraz ešte viac obmedzujeme informácie o zbraniach, ku ktorým sa tínedžeri môžu dostať, aj keď otázka vyzerá nevinne. 

Naše pravidlá už zakazujú pomáhať komukoľvek s plánovaním alebo páchaním násilia a obmedzujú pomoc tínedžerom pri hľadaní či získavaní zbraní. Tieto ochranné opatrenia rozširujeme tak, aby obmedzovali praktické informácie o zbraniach a bezpečnostných systémoch, ktoré by sa dali zneužiť na napomáhanie násiliu, aj keď nič nenasvedčuje násilným úmyslom. Tínedžeri môžu ChatGPT naďalej používať na predchádzanie násiliu a jeho zmierňovanie, vyhľadanie podpory a spojenie s dôveryhodným dospelým. 

Minulý rok sme spustili predikciu veku⁠, ktorý analyzuje viaceré signály, napríklad vzorce správania, a na ich základe odhaduje, či má používateľ menej alebo viac ako 18 rokov. Náš systém odhadovania veku sme posilnili, aby priebežne vyhodnocoval nové signály, keď ľudia používajú ChatGPT, a v prípade potreby presúval tínedžerov do režimu pre osoby mladšie ako 18 rokov. Používatelia, ktorí sa do tohto režimu dostanú omylom, budú mať vždy k dispozícii rýchly spôsob, ako potvrdiť svoju plnoletosť a nechať si zrušiť dodatočné ochranné opatrenia pre tínedžerov prostredníctvom nášho partnera pre overovanie veku Persona, a to pri zachovaní ochrany súkromia. 

Naša rodičovská kontrola⁠ umožňuje rodičom prepojiť svoje účty ChatGPT s účtami ich dospievajúcich detí a spoločne spravovať bezpečnostné nastavenia. Súčasťou prepojených účtov sú bezpečnostné upozornenia⁠, ktoré sa môžu odoslať, keď špeciálne vyškolení posudzovatelia zistia vážne riziko sebapoškodzovania a správanie, ktoré môže súvisieť s poruchami príjmu potravy. V júli sme tieto upozornenia rozšírili tak, aby rodičov informovali aj vtedy, keď bol účet ich dospievajúceho dieťaťa deaktivovaný pre porušenie našich pravidiel používania týkajúcich sa násilia. Pracujeme na zavedení upozornení pre rodičov aj v prípade, že pozastavíme účet ich dospievajúceho dieťaťa pre opakované rozhovory o násilí, ako je uvedené vyššie.

Násilné činy v reálnom svete sú tragické a zložité udalosti, ku ktorým prispieva mnoho faktorov. Zároveň nám dôrazne pripomínajú, že musíme naše systémy naďalej navrhovať a zdokonaľovať tak, aby zohľadňovali prirodzenú zložitosť ľudského správania. Vývoj účinných ochranných opatrení proti násiliu v systémoch AI si vyžaduje riešenie nových problémov pri rozpoznávaní rizika a primeranom reagovaní a budeme naďalej investovať do ich rozvoja, zdokonaľovať ich a deliť sa o poznatky  o tom, ako čo najlepšie zaviesť ochranné opatrenia, na ktorých pracujeme. Ochranné opatrenia podrobne opísané v tomto texte začneme zavádzať v najbližších týždňoch a budeme ich naďalej zdokonaľovať. Naďalej sa zaväzujeme znižovať riziko ujmy pri používaní ChatGPT, posilňovať našu viacvrstvovú ochranu, monitorovať zneužívanie, presadzovať naše pravidlá a v situáciách, ktoré si to vyžadujú, zapájať pomoc a zásahy v reálnom svete.