Raport o bezpieczeństwie społeczności i nowe zabezpieczenia dla nastolatków
ChatGPT jest jednym z najpowszechniej używanych produktów AI na świecie. Zainwestowaliśmy w stworzenie jednych z najbardziej zaawansowanych w branży systemów wykrywania potencjalnych szkód, weryfikowania niepokojącej aktywności i zgłaszania wiarygodnych zagrożeń odpowiednim podmiotom. Aby kontynuować działania w tym obszarze, ogłaszamy dwie rzeczy: nowy raport o zabezpieczeniach społeczności oraz dodatkowe ograniczenia dotyczące treści związanych z bronią palną dla osób niepełnoletnich.
Dbanie o bezpieczeństwo społeczności nadal jest jednym z najważniejszych priorytetów OpenAI. Nasze działania obejmują informowanie organów ścigania o bezpośrednim ryzyku użycia przemocy, a w 3. kwartale 2026 r. przekazaliśmy organom ścigania ponad 200 zgłoszeń. Zgłoszenia te mają pozytywny(otwiera nowe okno) wpływ(otwiera nowe okno) na udaremnianie planów aktów przemocy, a my nadal korzystamy ze wsparcia ekspertów w dziedzinie zdrowia psychicznego i zachowań, którzy pomagają nam oceniać trudne przypadki.
Zdajemy sobie sprawę, że firmy zajmujące się AI mają do odegrania szczególną rolę — obok organów ścigania, członków rodzin, specjalistów w dziedzinie zdrowia psychicznego i decydentów politycznych, którzy dysponują niezbędnymi uprawnieniami, znajomością kontekstu i realnym wpływem na rzeczywistość. Zobowiązujemy się jak najlepiej wykorzystać tę rolę poprzez ciągłe udoskonalanie naszych systemów, dzielenie się zdobytą wiedzą oraz bezpośrednią współpracę z podmiotami, które mają największe możliwości działania w świecie rzeczywistym.
Stale wzmacniamy działania, które podejmujemy, by chronić ludzi i społeczności. Oznacza to tworzenie solidnych zabezpieczeń, a także przejrzyste informowanie o tym, jak skuteczne są i co robimy, by je udoskonalać. Chcemy jasno przedstawić nasze podejście, sposób, w jaki nasze modele rozpoznają szkodliwe zachowania i na nie reagują, zagrożenia, które obserwujemy w praktyce, oraz działania, które podejmujemy, by im przeciwdziałać.
Zobowiązujemy się do opublikowania raportu o bezpieczeństwie społeczności, który będzie dotyczył zapobiegania przemocy i innych kwestii związanych z bezpieczeństwem społeczności, a także skuteczności naszych zabezpieczeń. Raport wyjaśni, jak trenujemy nasze systemy, by wykrywały problemy związane z bezpieczeństwem społeczności, badały je i na nie reagowały. Opiszemy zanonimizowane przypadki związane z przemocą i przedstawimy wnioski z ich analizy. Omówimy też nowe działania ograniczające ryzyko oraz zmiany w zasadach, a nasze ustalenia poprzemy danymi.
Opublikujemy nasz pierwszy raport na początku 2027 roku. Będzie on obejmować drugą połowę 2026 roku, a kolejne aktualizacje będziemy publikować co sześć miesięcy. Zobowiązujemy się dzielić istotnymi wnioskami na temat tego, jak identyfikujemy potencjalnie szkodliwe treści, analizujemy je i na nie reagujemy.
Nasze modele są trenowane tak, aby nie udzielać instrukcji, które pomogłyby komuś zaplanować lub przeprowadzić akt przemocy. Wprowadzamy teraz dodatkowe ograniczenia dotyczące odpowiedzi ChatGPT na pytania o masowe ataki z przeszłości i osoby, które je przeprowadziły, instruując model tak, aby podawał mniej szczegółowych informacji na te tematy, nawet jeśli są one dostępne w innych źródłach internetowych. Użytkownicy powinni móc prosić ChatGPT o pomoc w zrozumieniu tych wydarzeń i ich wpływu na ofiary oraz społeczności, a także dowiadywać się, jak rozpoznawać sygnały ostrzegawcze i zapobiegać przemocy w przyszłości. Zaostrzamy jednak nasze zasady, aby ograniczyć rekonstrukcje masowych ataków z przeszłości, w tym informacje o użytej broni i sprzęcie oraz o sposobie ich zdobycia, a także szczegółowe porównania skali wyrządzonych szkód, które mogłyby zwiększać rozgłos sprawcy. Ograniczenia te obowiązują niezależnie od wieku użytkownika i powodu zadania pytania.
Czasem prośba, która sama w sobie wydaje się zwyczajna, nabiera innego znaczenia w świetle wcześniejszej rozmowy. W maju opisaliśmy, jak ChatGPT może korzystać z krótkich, rzeczowych podsumowań wcześniejszych sygnałów ostrzegawczych, by ostrożniej odpowiadać w kolejnych czatach. Rozwijamy te rozwiązania, aby ChatGPT ostrożniej udostępniał informacje, które mogłyby zostać wykorzystane w szkodliwy sposób, gdy w niedawnych czatach pojawią się sygnały ostrzegawcze wskazujące na możliwość użycia przemocy. Pracujemy też nad stosowaniem tych surowszych ograniczeń, gdy przewidujemy, że ktoś ma mniej niż 18 lat, nawet jeśli jego czaty nie wskazują na zamiar stosowania przemocy.
Blokujemy konta, w przypadku których stwierdzimy naruszenie naszych zasad dotyczących działań związanych z przemocą. Współpracujemy też z ekspertami w dziedzinie zdrowia psychicznego i zapobiegania przemocy nad dodatkowymi, zautomatyzowanymi sposobami wcześniejszej interwencji. Gdy rozmowa wskazuje, że ktoś obsesyjnie skupia się na przemocy lub na myśli o poważnym skrzywdzeniu innej osoby, ChatGPT będzie mógł automatycznie zakończyć czat, aby przerwać ten schemat w danym momencie. Jeśli ChatGPT zakończy z tego powodu wiele czatów, możemy tymczasowo zawiesić konto. To ciągłe działania, a my nadal rozwijamy i wzmacniamy zabezpieczenia techniczne i praktyczne, w tym sposoby niezawodnego rozpoznawania sygnałów ostrzegawczych oraz ustalania, kiedy i jak interweniować.
ChatGPT dla nastolatków stosuje zabezpieczenia dostosowane do wieku użytkowników poniżej 18. roku życia, zapewniając silniejszą ochronę i wprowadzając dodatkowe ograniczenia, aby zmniejszyć ich kontakt z treściami wrażliwymi. Wprowadzamy teraz dalsze ograniczenia dotyczące informacji o broni, które mogą otrzymywać nastolatki, nawet gdy pytanie wydaje się nieszkodliwe.
Nasze zasady już teraz zabraniają pomagania komukolwiek w planowaniu lub stosowaniu przemocy i ograniczają pomaganie nastolatkom w znajdowaniu lub zdobywaniu broni. Rozszerzamy te zabezpieczenia, aby ograniczyć dostęp do praktycznych informacji o broni i systemach bezpieczeństwa, które mogłyby ułatwić dokonanie aktu przemocy, nawet jeśli użytkownik nie wykazuje takiego zamiaru. Nastolatki nadal mogą korzystać z ChatGPT, aby uzyskać pomoc w zapobieganiu przemocy i jej deeskalacji, szukać wsparcia i nawiązać kontakt z zaufaną osobą dorosłą.
W ubiegłym roku uruchomiliśmy funkcję przewidywania wieku, która analizuje wiele sygnałów, takich jak wzorce zachowań, aby oszacować, czy użytkownik może mieć mniej czy więcej niż 18 lat. Wzmocniliśmy nasz system przewidywania wieku, aby stale oceniał nowe sygnały w miarę korzystania z ChatGPT i w odpowiednich przypadkach przenosił nastolatków do wersji dla osób poniżej 18. roku życia. Użytkownicy błędnie przypisani do wersji dla osób poniżej 18. roku życia zawsze będą mogli szybko i z poszanowaniem prywatności potwierdzić, że są dorośli, i za pośrednictwem firmy Persona, naszego partnera w zakresie weryfikacji wieku, wyłączyć dodatkowe zabezpieczenia dla nastolatków.
Nasza kontrola rodzicielska pozwala rodzicom łączyć swoje konta ChatGPT z kontami nastoletnich dzieci i wspólnie zarządzać ustawieniami bezpieczeństwa. Połączone konta obejmują alerty bezpieczeństwa, które mogą być wysyłane, gdy specjalnie przeszkolone osoby stwierdzą poważne ryzyko samookaleczenia oraz zachowania mogące wiązać się z zaburzeniami odżywiania. W lipcu rozszerzyliśmy zakres tych alertów, aby powiadamiać rodziców o dezaktywacji konta ich nastoletniego dziecka z powodu naruszenia naszych zasad użytkowania dotyczących przemocy. Pracujemy nad wprowadzeniem powiadomień dla rodziców, jeśli zawiesimy konto ich nastoletniego dziecka z powodu wielokrotnego poruszania tematu przemocy, jak opisano powyżej.
Akty przemocy w realnym świecie są wstrząsające, a ich przyczyny — złożone i wielorakie. Pokazują też wyraźnie, że musimy nadal projektować i udoskonalać nasze systemy tak, by uwzględniały nieodłączną złożoność ludzkich zachowań. Opracowanie skutecznych zabezpieczeń przed przemocą w systemach AI wymaga rozwiązywania nowych problemów związanych z rozpoznawaniem zagrożeń i właściwym reagowaniem, a my będziemy nadal inwestować, udoskonalać nasze rozwiązania i dzielić się wnioskami na temat najlepszych sposobów wdrażania zabezpieczeń, nad którymi pracujemy. Zabezpieczenia opisane tutaj zaczną być wdrażane w ciągu najbliższych kilku tygodni, a my będziemy nadal je udoskonalać. Nieustannie dążymy do ograniczania ryzyka szkód związanych z korzystaniem z ChatGPT, wzmacniania wielowarstwowych zabezpieczeń, monitorowania nadużyć, egzekwowania naszych zasad oraz uruchamiania wsparcia i interwencji w realnym świecie, gdy wymaga tego sytuacja.
