Извештај за безбедноста на заедницата и нови мерки за заштита на тинејџерите

ChatGPT е еден од најкористените производи со ВИ во светот, а ние инвестиравме во развој на некои од најнапредните системи во индустријата за откривање потенцијална штета, проверка на загрижувачка активност и упатување на веродостојните закани до надлежните. Објавуваме две новини за да ја унапредиме нашата работа во оваа област: нов Извештај за мерките за заштита на заедницата и дополнителни ограничувања за содржините поврзани со огнено оружје за малолетници.

Заштитата на заедниците⁠ и понатаму е врвен приоритет за OpenAI. Нашата работа вклучува известување на органите за спроведување на законот за непосредни закани од насилство, а во третиот квартал од 2026 година поднесовме над 200 пријави до овие органи. Овие пријави имаат позитивно⁠(се отвора во нов прозорец) влијание⁠(се отвора во нов прозорец) врз спречувањето заговори за насилство, а и понатаму се потпираме на експерти за ментално здравје и однесување за да ни помогнат да ги процениме сложените случаи.

Свесни сме дека компаниите за ВИ имаат посебна улога, заедно со органите за спроведување на законот, членовите на семејството, стручните лица за ментално здравје и креаторите на политики, кои придонесуваат со клучни овластувања, познавање на контекстот и можности за дејствување во реалниот свет. Посветени сме максимално да ја искористиме таа улога преку постојано зајакнување на нашите системи, споделување на стекнатите сознанија и директна соработка со оние што имаат најдобри можности да дејствуваат во реалниот свет.

Постојано ги зајакнуваме мерките што ги преземаме за да помогнеме во заштитата на луѓето и заедниците. Тоа значи создавање силни заштитни мерки, но и транспарентност за тоа колку добро функционираат и што правиме за да ги унапредиме. Сакаме на луѓето да им дадеме јасна слика за нашиот пристап, за тоа како нашите модели препознаваат штетно однесување и реагираат на него, за ризиците што ги забележуваме во практиката и за мерките што ги преземаме за да се справиме со нив.

Се обврзуваме да го објавиме Извештајот за безбедноста на заедницата, кој ќе се однесува на спречувањето насилство и на други прашања поврзани со безбедноста на заедницата, како и на ефективноста на нашите заштитни мерки. Во извештајот ќе објасниме како ги обучуваме нашите системи да откриваат, истражуваат и да реагираат на прашања поврзани со безбедноста на заедницата. Ќе споделиме анонимизирани примери за тоа како се манифестира штетата поврзана со насилство и што учиме, ќе ги истакнеме новите мерки за ублажување на ризиците и промените во политиките и ќе вклучиме релевантни податоци во прилог на овие наоди.

Нашиот прв извештај ќе го објавиме на почетокот на 2027 година и тој ќе ја опфати втората половина од 2026 година, а потоа ќе објавуваме ажурирања на секои шест месеци. Се обврзуваме да споделуваме значајни сознанија за тоа како ги идентификуваме и разгледуваме потенцијално штетните содржини и како реагираме на нив.

Нашите модели се обучени да не даваат упатства што би му помогнале некому да планира или изврши насилство. Сега воведуваме дополнителни ограничувања за тоа како ChatGPT одговара на прашања за минати масовни напади и за луѓето што ги извршиле, насочувајќи го моделот да дава помалку детални информации за овие теми, дури и ако тие се достапни од други извори на интернет. Луѓето треба да можат да побараат од ChatGPT да им помогне да ги разберат овие настани, како тие влијаеле врз жртвите и заедниците, и да научат да препознаваат предупредувачки знаци и да спречуваат идно насилство. Но ги заоструваме нашите правила за да ги ограничиме реконструкциите на минати масовни напади, вклучително и деталите за употребеното оружје и опрема и за тоа како биле набавени, како и деталните споредби на обемот на нанесената штета што би можеле да ја зголемат озлогласеноста на напаѓачот. Овие ограничувања важат без оглед на возраста на корисникот или причината поради која прашува.

Понекогаш барање што само по себе изгледа вообичаено добива поинакво значење во контекст на претходен разговор. Во мај споделивме како ChatGPT може да користи кратки резимеа засновани на факти⁠ за претходни предупредувачки знаци, за да одговори повнимателно во подоцнежен разговор. Ја надградуваме таа работа за ChatGPT да биде повоздржан при споделување информации што би можеле да се злоупотребат, кога неодамнешните разговори покажуваат предупредувачки знаци за можно насилство. Работиме и на примена на тие построги ограничувања кога предвидуваме дека некој е под 18 години, дури и ако неговите разговори не покажуваат знаци на намера за насилство.

Ги блокираме сметките за кои ќе утврдиме дека ги прекршиле нашите правила за насилни активности⁠. Соработуваме и со експерти за ментално здравје и спречување насилство за да најдеме дополнителни, автоматизирани начини за порано интервенирање. Кога во разговорот има знаци дека некој станува преокупиран со насилство или со идејата сериозно да повреди друго лице, ChatGPT ќе може автоматски да го заврши разговорот за веднаш да го прекине тој образец на однесување. Ако ChatGPT заврши повеќе разговори од таа причина, може привремено да ја суспендираме сметката. Ова е тековна заложба и продолжуваме да ги зајакнуваме техничките и практичните мерки за заштита и да вложуваме во нив, вклучително и во начини за сигурно препознавање на предупредувачките знаци и утврдување кога и како да интервенираме.

ChatGPT за тинејџери⁠ применува заштитни мерки соодветни на возраста за корисници под 18 години, со посилна заштита и дополнителни ограничувања за да се намали изложеноста на чувствителни содржини. Сега воведуваме дополнителни ограничувања за информациите поврзани со оружје што можат да ги добијат тинејџерите, дури и кога прашањето изгледа безопасно. 

Нашите правила веќе забрануваат помагање некому да планира или изврши насилство и ограничуваат помагање на тинејџери да најдат или набават оружје. Ги прошируваме тие заштитни мерки така што ќе го ограничиме давањето практични информации за оружје и безбедносни системи што би можеле да се злоупотребат за олеснување насилство, дури и кога нема знаци на насилна намера. Тинејџерите и понатаму можат да го користат ChatGPT за помош при спречување и смирување на насилството, барање поддршка и поврзување со возрасно лице од доверба. 

Минатата година воведовме предвидување на возраста⁠, кое анализира повеќе показатели, како што се обрасците на однесување, за да процени дали корисникот можеби е под или над 18 години. Го зајакнавме нашиот систем за предвидување на возраста за постојано да проценува нови показатели додека луѓето го користат ChatGPT и, кога е соодветно, да ги префрла тинејџерите на верзијата за лица под 18 години. Корисниците што по грешка се префрлени на верзијата за лица под 18 години секогаш ќе имаат брз начин, со заштита на нивната приватност, да потврдат дека се возрасни и преку Persona, нашиот партнер за проверка на возраста, да ги отстранат дополнителните мерки за заштита на тинејџерите. 

Нашата родителска контрола⁠ им овозможува на родителите да ги поврзат своите сметки на ChatGPT со сметките на нивните тинејџери и заедно да управуваат со безбедносните поставки. Поврзаните сметки вклучуваат безбедносни известувања⁠ што може да се испратат кога специјално обучени лица задолжени за проверка ќе утврдат сериозен ризик од самоповредување и однесувања што може да се поврзани со нарушени навики во исхраната. Во јули ги проширивме овие известувања за да ги известуваме родителите ако сметката на нивниот тинејџер е деактивирана поради прекршување на нашите правила за користење поврзани со насилство. Работиме на воведување известувања за родителите ако привремено ја суспендираме сметката на нивниот тинејџер поради повторени разговори за насилство, како што е детално опишано погоре.

Чиновите на насилство во реалниот свет се потресни и сложени, со многу фактори што придонесуваат за нив. Тие се и суров потсетник дека мора да продолжиме да ги осмислуваме и усовршуваме нашите системи така што ќе ја земаат предвид сложеноста на човековото однесување. Развивањето ефикасни мерки за заштита од насилство во системите со вештачка интелигенција бара решавање нови проблеми при препознавањето на ризикот и соодветното реагирање, а ние ќе продолжиме да вложуваме, да ги усовршуваме мерките и да споделуваме сознанија  за тоа како најдобро да ги спроведеме мерките за заштита што ги развиваме. Мерките за заштита опишани овде ќе почнат да се воведуваат во следните неколку недели, а ние ќе продолжиме да ги усовршуваме. Остануваме посветени на намалување на ризиците од штета во ChatGPT, зајакнување на нашата повеќеслојна заштита, следење за злоупотреби, спроведување на нашите правила и вклучување поддршка и интервенции во реалниот свет кога ситуациите го бараат тоа.