Звіт про безпеку спільноти та нові засоби захисту для підлітків
ChatGPT — один із найпоширеніших у світі продуктів на основі ШІ. Ми інвестували у створення одних із найбільш передових у галузі систем для виявлення потенційної шкоди, перевірки активності, що викликає занепокоєння, і передачі інформації про реальні загрози для подальшого реагування. Аби продовжити роботу в цьому напрямі, ми оголошуємо про дві новації: новий звіт про заходи захисту спільноти та додаткові обмеження щодо контенту про вогнепальну зброю для неповнолітніх.
Забезпечення безпеки громад залишається одним із головних пріоритетів OpenAI. Зокрема ми повідомляємо правоохоронні органи про безпосередні загрози насильства, і у 3-му кварталі 2026 року ми передали їм понад 200 повідомлень. Ці повідомлення мають позитивний(відкривається у новому вікні) вплив(відкривається у новому вікні) на зрив планів насильницьких дій, і ми й надалі спираємося на допомогу експертів із психічного здоров’я та поведінки в оцінюванні складних випадків.
Ми усвідомлюємо, що компанії у сфері ШІ мають власну роль поряд із правоохоронцями, членами родин, фахівцями з психічного здоров’я та тими, хто формує державну політику. Саме вони мають необхідні повноваження, розуміння обставин і можливості діяти в реальному світі. Ми прагнемо якнайкраще виконувати свою роль: постійно зміцнювати системи, ділитися набутими знаннями та безпосередньо співпрацювати з тими, хто має найкращі можливості діяти в реальному світі.
Ми постійно посилюємо заходи, які допомагають захищати людей і громади. Це означає не лише створювати надійні механізми захисту, а й відкрито розповідати, наскільки добре вони працюють і як ми їх удосконалюємо. Ми хочемо чітко пояснити людям наш підхід, те, як наші моделі виявляють шкідливу поведінку й реагують на неї, які ризики ми спостерігаємо на практиці та яких заходів вживаємо для їх усунення.
Ми зобов’язуємося започаткувати публікацію звіту про безпеку громад, присвяченого запобіганню насильству та іншим питанням безпеки спільноти, а також ефективності наших захисних заходів. У звіті буде пояснено, як ми навчаємо наші системи виявляти й досліджувати проблеми безпеки громад та реагувати на них. Ми поділимося анонімізованими прикладами того, як проявляється шкода, пов’язана з насильством, і розповімо, що ми дізнаємося, висвітлимо нові заходи зі зниження ризиків і зміни в політиках, а також наведемо відповідні дані на підтвердження цих висновків.
На початку 2027 року ми опублікуємо перший звіт, у якому охопимо другу половину 2026 року, а надалі оновлюватимемо його кожні шість місяців. Ми прагнемо ділитися важливими висновками про те, як ми виявляємо потенційно шкідливий контент, розглядаємо його та реагуємо на нього.
Наші моделі навчені не надавати інструкцій, які допомогли б комусь спланувати або вчинити насильницькі дії. Тепер ми запроваджуємо додаткові обмеження для відповідей ChatGPT на запитання про масові напади в минулому та людей, які їх скоїли, налаштовуючи модель так, щоб вона надавала менш докладну інформацію на ці теми, навіть якщо вона доступна в інших онлайн-джерелах. Люди повинні мати змогу звертатися до ChatGPT, щоб краще зрозуміти ці події та їхній вплив на постраждалих і громади, а також дізнатися, як розпізнавати тривожні ознаки й запобігати насильству в майбутньому. Водночас ми посилюємо наші правила, щоб обмежити відтворення минулих масових нападів, зокрема інформацію про використану зброю й обладнання та способи їх отримання, а також детальні порівняння масштабів завданої шкоди, які можуть підкріпити репутацію нападника. Ці обмеження діють незалежно від віку користувача чи причини запиту.
Іноді запит, який сам по собі здається звичайним, набуває іншого значення в контексті попередньої розмови. У травні ми розповіли, як ChatGPT може використовувати короткі, засновані на фактах зведення про попередні тривожні ознаки, щоб обережніше відповідати в наступних чатах. Ми розвиваємо цей підхід: якщо в недавніх чатах з’являються тривожні ознаки можливого насильства, ChatGPT буде стриманішим у наданні інформації, яку можна використати на шкоду. Ми також працюємо над тим, щоб застосовувати ці суворіші обмеження до користувачів, яким, за нашим прогнозом, менше ніж 18 років, навіть якщо в їхніх чатах немає ознак насильницьких намірів.
Ми блокуємо облікові записи, щодо яких було встановлено, що вони порушили наші правила щодо насильницької діяльності. Також ми співпрацюємо з фахівцями з психічного здоров’я та запобігання насильству над розробкою додаткових автоматизованих способів втрутитися раніше. Якщо в розмові з’являються ознаки того, що людина зациклюється на насильстві або думці серйозно нашкодити іншій людині, ChatGPT зможе автоматично завершити чат, аби негайно перервати таку поведінку. Якщо ChatGPT завершить кілька чатів із цієї причини, ми можемо тимчасово призупинити дію облікового запису. Робота ведеться безперервно: ми й надалі вдосконалюємо та розвиваємо технічні й практичні засоби захисту, зокрема способи надійно розпізнавати тривожні ознаки та визначати, коли й як втручатися.
ChatGPT для підлітків застосовує заходи безпеки для користувачів віком до 18 років, посилюючи захист і встановлюючи додаткові обмеження, щоб зменшити їхній контакт із чутливим контентом. Тепер ми додатково обмежуємо інформацію про зброю, яку можуть отримувати підлітки, навіть якщо запит здається нешкідливим.
Наші правила вже забороняють допомагати будь-кому планувати чи вчиняти насильство, а також обмежують допомогу підліткам у пошуку чи отриманні зброї. Ми розширюємо ці заходи захисту й обмежуємо надання практичної інформації про зброю та системи безпеки, яку користувач може використати для сприяння насильству, навіть якщо ознак наміру вчинити насильство немає. Підлітки й надалі можуть використовувати ChatGPT, щоб запобігати насильству та стримувати його ескалацію, шукати підтримки й звертатися до дорослого, якому довіряють.
Торік ми запровадили механізм визначення віку, який аналізує різні сигнали, як-от особливості поведінки, щоб оцінити, чи виповнилося користувачеві 18 років. Ми вдосконалили систему визначення віку, щоб вона постійно оцінювала нові сигнали в міру того, як люди користуються ChatGPT, і за потреби переводила підлітків у режим для осіб до 18 років. Користувачі, яких помилково перевели в режим для осіб до 18 років, завжди матимуть змогу швидко та зі збереженням приватності підтвердити факт свого повноліття й зняти додаткові засоби захисту для підлітків через Persona — нашого партнера з перевірки віку.
Наш механізм батьківського контролю дає батькам змогу пов’язувати свої облікові записи ChatGPT з обліковими записами їхніх дітей і разом керувати налаштуваннями безпеки. Прив’язка облікових записів передбачає надсилання сповіщень про безпеку у випадках, коли спеціально підготовлені фахівці з перевірки виявлять серйозний ризик самоушкодження та поведінку, що може бути пов’язана з порушеннями харчової поведінки. У липні ми розширили сферу дії цих сповіщень: тепер батьки отримують повідомлення, якщо обліковий запис їхньої дитини деактивовано за порушення наших правил використання щодо насильства. Як зазначено вище, ми працюємо над запровадженням сповіщень для батьків на випадок призупинення дії облікового запису їхньої дитини через неодноразове обговорення насильства.
Випадки насильства в реальному світі — трагічні й складні події, до яких призводить багато чинників. Вони також нагадують нам, що ми маємо й надалі розробляти та вдосконалювати наші системи, враховуючи складну за своєю природою людську поведінку. Щоб розробляти ефективні засоби захисту від насильства в системах ШІ, потрібно розв’язувати нові проблеми, пов’язані з розпізнаванням ризиків і належним реагуванням. Ми й надалі інвестуватимемо в цю роботу, вдосконалюватимемо нові підходи й ділитимемося висновками щодо того, як найкраще впроваджувати заплановані заходи захисту. Запровадження захисних заходів, описаних тут, почнеться протягом найближчих кількох тижнів; ми й далі вдосконалюватимемо їх. Ми прагнемо продовжувати нашу роботу зі зменшення ризиків заподіяння шкоди в ChatGPT, посилювати багаторівневий захист, відстежувати зловживання, забезпечувати дотримання наших правил і залучати підтримку та допомогу в реальному світі, коли ситуація цього потребує.
