Извештај о безбедности заједнице и нове мере заштите тинејџера

ChatGPT је један од најчешће коришћених AI производа на свету, а уложили смо у развој неких од најнапреднијих система у сектору за откривање потенцијалне штете, разматрање забрињавајућих активности и прослеђивање веродостојних претњи надлежнима. Најављујемо две новине како бисмо унапредили свој рад у овој области: нови извештај о мерама заштите заједнице и додатна ограничења за садржај о ватреном оружју намењен малолетницима.

Очување безбедности заједница⁠ и даље је један од главних приоритета компаније OpenAI. Наш рад обухвата обавештавање органа за спровођење закона о непосредним претњама насиљем, а у трећем кварталу 2026. године упутили смо им више од 200 пријава. Ове пријаве имају позитиван⁠(отвара се у новом прозору) утицај⁠(отвара се у новом прозору) на осујећивање насилних планова, а ми се и даље ослањамо на стручњаке за ментално здравље и понашање који нам помажу да проценимо сложене случајеве.

Свесни смо да AI компаније имају посебну улогу, уз органе за спровођење закона, чланове породице, стручњаке за ментално здравље и доносиоце јавних политика, чија су овлашћења, познавање контекста и могућност деловања у стварном свету од кључне важности. Посвећени смо томе да ту улогу искористимо на најбољи начин: непрестано јачамо своје системе, делимо стечена сазнања и непосредно сарађујемо са онима који имају најбоље могућности да делују у стварном свету.

Стално јачамо мере које предузимамо како бисмо помогли у заштити људи и заједница. То подразумева успостављање снажних мера заштите, али и отворено извештавање о томе колико су делотворне и шта радимо да бисмо их унапредили. Желимо да људима пружимо јасан увид у наш приступ, у то како наши модели препознају штетно понашање и реагују на њега, које ризике уочавамо у пракси и које кораке предузимамо да бисмо их ублажили.

Обавезујемо се да ћемо објавити Извештај о безбедности заједнице о спречавању насиља и другим питањима безбедности заједнице, као и о ефикасности наших заштитних мера. У извештају ћемо објаснити како обучавамо своје системе да откривају, истражују и решавају питања безбедности заједнице. Поделићемо анонимизоване примере о томе како се испољава штета повезана с насиљем и шта учимо, указати на нове мере за ублажавање ризика и промене политика, као и укључити релевантне податке који поткрепљују ове налазе.

Наш први извештај објавићемо почетком 2027. године. Он ће обухватити другу половину 2026. године, а након тога објављиваћемо ажурирања сваких шест месеци. Обавезујемо се да ћемо делити значајна сазнања о томе како идентификујемо и прегледамо потенцијално штетан садржај и како на њега реагујемо.

Наши модели су обучени да не дају упутства која би некоме помогла да планира или изврши насиље. Сада уводимо додатна ограничења у начин на који ChatGPT одговара на питања о ранијим масовним нападима и њиховим починиоцима, упућујући модел да пружа мање детаљне информације о тим темама, чак и ако су доступне из других извора на интернету. Људи треба да могу да затраже од ChatGPT‑а помоћ у разумевању тих догађаја, њихових последица по жртве и заједнице, као и да сазнају како да препознају знаке упозорења и спрече будуће насиље. Ипак, пооштравамо правила како бисмо ограничили реконструкције ранијих масовних напада, укључујући детаље о коришћеном оружју и опреми и начину на који су набављени, као и детаљна поређења размера штете која би могла да повећа озлоглашеност нападача. Ова ограничења важе без обзира на узраст корисника или разлог због којег поставља питање.

Понекад захтев који сам по себи делује уобичајено добија другачије значење у контексту ранијег разговора. У мају смо објаснили како ChatGPT може да користи кратке, чињеничне сажетке⁠ ранијих знакова упозорења да би опрезније одговарао у каснијем разговору. Настављамо да развијамо овај приступ како би ChatGPT, када недавни разговори указују на могуће насиље, био уздржанији при дељењу информација које би могле да се злоупотребе. Радимо и на примени тих строжих ограничења када проценимо да је неко млађи од 18 година, чак и ако у његовим разговорима нема знакова насилних намера.

Блокирамо налоге за које утврдимо да су прекршили наша правила о насилним активностима⁠. Са стручњацима за ментално здравље и спречавање насиља радимо и на додатним, аутоматизованим начинима да раније интервенишемо. Када разговор покаже знаке да неко постаје опседнут насиљем или идејом да озбиљно науди другој особи, ChatGPT ће моћи аутоматски да заврши разговор како би одмах прекинуо тај образац. Ако ChatGPT из тог разлога заврши више разговора, можемо привремено да обуставимо коришћење налога. Ово је континуиран рад и настављамо да унапређујемо техничке и практичне мере заштите и улажемо у њих, укључујући начине да поуздано препознамо знаке упозорења и утврдимо када и како да интервенишемо.

ChatGPT за тинејџере⁠ примењује мере заштите прилагођене узрасту корисника млађих од 18 година, уз појачану заштиту и додатна ограничења ради смањења изложености осетљивом садржају. Сада додатно ограничавамо информације о оружју које тинејџери могу да добију, чак и када питање делује безазлено. 

Наше смернице већ забрањују пружање помоћи било коме у планирању или извршењу насиља и ограничавају помоћ тинејџерима у проналажењу или набављању оружја. Проширујемо те мере заштите тако да ограничимо пружање практичних информација о оружју и безбедносним системима које би могле бити злоупотребљене за олакшавање насиља, чак и када нема назнака насилне намере. Тинејџери и даље могу да користе ChatGPT како би помогли у спречавању и смиривању насиља, потражили подршку и повезали се са одраслом особом од поверења. 

Прошле године смо увели процену узраста⁠, која анализира више показатеља, попут образаца понашања, како би проценила да ли је корисник млађи или старији од 18 година. Ојачали смо систем за процену узраста како би непрестано процењивао нове показатеље док људи користе ChatGPT и, када је то примерено, пребацивао тинејџере на искуство за млађе од 18 година. Корисницима који су грешком пребачени на искуство за млађе од 18 година увек ће бити доступан брз начин да, уз заштиту приватности, потврде да су пунолетни и преко нашег партнера за проверу узраста, компаније Persona, уклоне додатне мере заштите за тинејџере. 

Наше родитељске контроле⁠ омогућавају родитељима да повежу своје ChatGPT налоге са налозима своје деце тинејџерског узраста и да заједно управљају безбедносним подешавањима. На повезаним налозима доступна су и безбедносна упозорења⁠, која могу бити послата када посебно обучени прегледачи садржаја уоче озбиљне разлоге за забринутост због самоповређивања и понашања која могу бити повезана са поремећеним навикама у исхрани. У јулу смо проширили ова упозорења тако да родитељи буду обавештени ако је налог њиховог тинејџера деактивиран због кршења наших правила коришћења која се односе на насиље. Радимо на увођењу обавештења за родитеље ако привремено обуставимо коришћење налога њиховог тинејџера због учесталих разговора о насиљу, као што је горе наведено.

Чинови насиља у стварном свету су потресни и сложени, а до њих доводи мноштво фактора. Они су и снажан подсетник да морамо наставити да осмишљавамо и унапређујемо своје системе тако да уважавају сложеност људског понашања у стварном животу. Развој делотворних мера заштите од насиља у системима вештачке интелигенције захтева решавање нових проблема у препознавању ризика и одговарајућем реаговању, а ми ћемо наставити да улажемо у те мере, да их унапређујемо и делимо сазнања  о томе како најбоље спровести мере заштите које развијамо. Примена мера заштите које су овде детаљно описане почеће у наредних неколико недеља и наставићемо да их усавршавамо. Остајемо посвећени смањењу ризика од штете у ChatGPT‑у, јачању наших вишеслојних мера заштите, праћењу злоупотреба, спровођењу наших правила и укључивању подршке и интервенција у стварном свету када ситуација то захтева.