Доклад за безопасността на общността и нови мерки за защита на тийнейджърите

ChatGPT е един от най-широко използваните продукти с ИИ в света и сме инвестирали в изграждането на едни от най-усъвършенстваните системи в сектора за откриване на потенциални вреди, проверка на тревожна активност и подаване на сигнали за достоверни заплахи. За да продължим работата си в тази област, обявяваме нов доклад за мерките за защита на общността и допълнителни ограничения върху съдържанието, свързано с огнестрелни оръжия, за непълнолетни.

Защитата на общностите⁠ продължава да бъде основен приоритет за OpenAI. Работата ни включва да насочваме вниманието на правоохранителните органи към непосредствени заплахи от насилие, а през третото тримесечие на 2026 г. подадохме над 200 сигнала до правоохранителните органи. Тези сигнали имат положителен⁠(отваря се в нов прозорец) ефект⁠(отваря се в нов прозорец) върху осуетяването на планове за насилие и продължаваме да разчитаме на експерти по психично здраве и поведение, които ни помагат да оценяваме трудни случаи.

Осъзнаваме, че компаниите в областта на ИИ имат своя специфична роля наред с правоохранителните органи, семействата, специалистите по психично здраве и отговорните за обществените политики, които разполагат с ключови правомощия, познават контекста и могат да действат в реалния свят. Ангажираме се да използваме пълноценно възможностите на тази роля, като непрекъснато укрепваме системите си, споделяме наученото и работим пряко с онези, които имат най-добри възможности да действат в реалния свят.

Непрекъснато укрепваме мерките, които предприемаме, за да защитаваме хората и общностите. Това означава да изграждаме надеждни защитни механизми, но и да бъдем прозрачни за тяхната ефективност и за действията ни за подобряването им. Искаме да дадем на хората ясна представа за нашия подход, за това как моделите ни разпознават вредно поведение и реагират на него, какви рискове наблюдаваме на практика и какви мерки предприемаме за справяне с тях.

Ангажираме се да публикуваме Доклада за безопасността на общността, посветен на предотвратяването на насилието и други въпроси, свързани с безопасността на общността, както и на ефективността на нашите защитни мерки. В доклада ще обясним как обучаваме системите си да откриват проблеми, свързани с безопасността на общността, да ги проучват и да реагират на тях. Ще споделим анонимизирани примери за това как се проявяват вредите, свързани с насилието, и какво научаваме, ще откроим нови мерки за ограничаване на риска и промени в политиките и ще включим съответните данни в подкрепа на тези констатации.

Ще публикуваме първия си доклад в началото на 2027 г. Той ще обхваща втората половина на 2026 г., а след това ще публикуваме актуализации на всеки шест месеца. Ангажиментът ни е да споделяме значими изводи за начина, по който откриваме и преглеждаме потенциално вредно съдържание и реагираме на него.

Моделите ни са обучени да не дават инструкции, които биха помогнали на някого да планира или извърши насилие. Сега въвеждаме допълнителни ограничения за начина, по който ChatGPT отговаря на въпроси за минали масови нападения и техните извършители, като насочваме модела да предоставя по-малко подробна информация по тези теми, дори когато тя е достъпна от други онлайн източници. Хората трябва да могат да търсят помощ от ChatGPT, за да разберат тези събития и последиците им за жертвите и общностите, както и да научат как да разпознават предупредителните сигнали и да предотвратяват бъдещо насилие. Същевременно затягаме правилата си, за да ограничим възстановките на минали масови нападения, включително подробностите за използваните оръжия и оборудване и за това как са били придобити, както и подробните сравнения на мащаба на вредите, които биха могли да увеличат известността на извършителите. Тези ограничения важат независимо от възрастта на потребителя или причината да задава въпроса.

Понякога заявка, която сама по себе си изглежда обикновена, придобива различен смисъл в контекста на предишен разговор. През май споделихме как ChatGPT може да използва кратки, фактологични обобщения⁠ на предишни предупредителни сигнали, за да отговаря по-предпазливо в следващ чат. Надграждаме тази работа, така че когато скорошни чатове съдържат предупредителни сигнали за възможно насилие, ChatGPT да подхожда по-предпазливо към споделянето на информация, с която може да се злоупотреби. Работим и за прилагането на тези по-строги ограничения, когато преценим, че някой вероятно е под 18 години, дори ако чатовете му не показват намерение за насилие.

Блокираме акаунти, за които установим, че са нарушили нашите правила относно насилствените действия⁠. Работим и със специалисти по психично здраве и превенция на насилието по допълнителни автоматизирани начини за по-ранна намеса. Когато разговорът показва признаци, че някой се фиксира върху насилието или идеята да навреди сериозно на друг човек, ChatGPT ще може автоматично да прекрати чата, за да прекъсне този поведенчески модел още в този момент. Ако ChatGPT прекрати няколко чата по тази причина, може временно да спрем акаунта. Работата в тази област продължава и ние продължаваме да укрепваме техническите и практическите мерки за защита и да инвестираме в тях, включително в надеждното разпознаване на предупредителните признаци и определянето на това кога и как да се намесим.

ChatGPT за тийнейджъри⁠ прилага предпазни мерки, съобразени с възрастта на потребителите под 18 години, с по-силна защита и допълнителни ограничения за намаляване на излагането на чувствително съдържание. Сега въвеждаме допълнителни ограничения върху информацията, свързана с оръжия, която тийнейджърите могат да получават, дори когато въпросът изглежда безобиден. 

Нашите правила вече забраняват оказването на помощ на когото и да било за планиране или извършване на насилие и ограничават помощта за тийнейджъри при намиране или придобиване на оръжия. Разширяваме тези мерки за защита, като ограничаваме предоставянето на практическа информация за оръжия и системи за сигурност, с която може да се злоупотреби за улесняване на насилие, дори когато няма признаци за намерение за насилие. Тийнейджърите могат да продължат да използват ChatGPT, за да помагат за предотвратяването на насилие и намаляването на напрежението, да търсят подкрепа и да се свързват с възрастен, на когото имат доверие. 

Миналата година въведохме прогнозиране на възрастта⁠, което анализира множество сигнали, като например модели на поведение, за да прецени дали даден потребител е под или над 18 години. Усъвършенствахме системата си за прогнозиране на възрастта, така че непрекъснато да оценява нови сигнали, докато хората използват ChatGPT, и при необходимост да превключва тийнейджърите към режима за потребители под 18 години. Потребителите, за които погрешно е активиран този режим, винаги ще разполагат с бърз начин, който защитава поверителността им, да потвърдят, че са пълнолетни, и да премахнат допълнителните мерки за защита на тийнейджърите чрез Persona, нашия партньор за проверка на възрастта. 

Нашият родителски контрол⁠ позволява на родителите да свържат акаунтите си в ChatGPT с тези на децата си в тийнейджърска възраст и заедно да управляват настройките за безопасност. За свързаните акаунти са предвидени известия за безопасност⁠, които може да бъдат изпратени, когато специално обучени проверяващи установят сериозни основания за тревога относно самонараняване и поведение, което може да е свързано с нарушения в хранителното поведение. През юли разширихме обхвата на тези известия, за да уведомяваме родителите, ако акаунтът на детето им в тийнейджърска възраст е деактивиран заради нарушаване на нашите правила за използване, свързани с насилието. Работим по въвеждането на известия за родителите и когато временно спрем акаунта на детето им заради многократно обсъждане на насилие, както е описано по-горе.

Проявите на насилие в реалния свят са съкрушителни и сложни явления, за които допринасят множество фактори. Те са и болезнено напомняне, че трябва да продължим да разработваме и усъвършенстваме системите си така, че да отчитат сложната природа на човешкото поведение. Разработването на ефективни защитни механизми срещу насилие в системите с ИИ изисква решаването на нови проблеми при разпознаването на риска и подходящото реагиране. Ще продължим да инвестираме в тези механизми, да ги усъвършенстваме и да споделяме наученото  за най-добрите начини за прилагането им. Въвеждането на описаните тук защитни механизми ще започне през следващите няколко седмици и ще продължим да ги подобряваме. Оставаме ангажирани с ограничаването на рисковете от вреди при използването на ChatGPT, укрепването на многослойната ни защита, следенето за злоупотреби, прилагането на правилата ни и привличането на подкрепа и намеса в реалния свят, когато ситуацията го изисква.