Rapport om trygghet i lokalsamfunnet og nye beskyttelsestiltak for tenåringer

ChatGPT er et av verdens mest brukte KI-produkter. Vi har investert i å bygge noen av bransjens mest avanserte systemer for å oppdage fare for skade, vurdere bekymringsfull aktivitet og varsle rette instans om troverdige trusler. Vi kommer med to kunngjøringer for å videreføre arbeidet på dette området: en ny rapport om sikkerhetstiltak i lokalsamfunnet og flere begrensninger på innhold om skytevåpen for mindreårige.

Å holde lokalsamfunn trygge⁠ er fortsatt en topprioritet for OpenAI. Arbeidet vårt omfatter å gjøre politiet oppmerksom på nært forestående trusler om vold, og vi henviste over 200 saker til politiet i 3. kvartal 2026. Disse henvisningene gjør en positiv⁠(åpnes i et nytt vindu) forskjell⁠(åpnes i et nytt vindu) når det gjelder å avverge voldelige planer, og vi fortsetter å støtte oss på eksperter innen psykisk helse og atferd for å hjelpe oss med å vurdere vanskelige saker.

Vi erkjenner at KI-selskaper har en egen rolle å spille sammen med politiet, familiemedlemmer, fagfolk innen psykisk helse og beslutningstakere. Disse aktørene bidrar med avgjørende myndighet, innsikt i situasjonen og muligheter til å handle i den virkelige verden. Vi vil ivareta denne rollen best mulig ved å styrke systemene våre kontinuerlig, dele det vi lærer, og samarbeide direkte med dem som har best forutsetninger for å handle i den virkelige verden.

Vi styrker stadig tiltakene våre for å beskytte mennesker og samfunn. Det betyr å bygge sterke sikkerhetstiltak, men også å være åpne om hvor godt de fungerer, og hva vi gjør for å forbedre dem. Vi ønsker å gi folk et tydelig bilde av tilnærmingen vår, hvordan modellene våre oppdager og håndterer skadelig atferd, hvilke risikoer vi ser i praksis, og hvilke tiltak vi setter inn for å håndtere dem.

Vi forplikter oss til å lansere rapporten om trygghet i lokalsamfunn, som handler om forebygging av vold og andre trygghetsutfordringer i lokalsamfunn, samt hvor effektive sikkerhetstiltakene våre er. Rapporten vil forklare hvordan vi trener systemene våre til å oppdage, undersøke og håndtere trygghetsutfordringer i lokalsamfunn. Vi vil dele anonymiserte eksempler på hvordan voldrelatert skade kommer til uttrykk, og hva vi lærer, fremheve nye risikoreduserende tiltak og endringer i retningslinjene våre, og inkludere relevante data som underbygger disse funnene.

Vi vil publisere vår første rapport tidlig i 2027, som dekker andre halvdel av 2026, med oppdateringer hver sjette måned deretter. Vår forpliktelse er å dele meningsfulle funn om hvordan vi identifiserer, vurderer og håndterer potensielt skadelig innhold.

Modellene våre er trent til ikke å gi instruksjoner som kan hjelpe noen med å planlegge eller utføre vold. Vi innfører nå ytterligere begrensninger på hvordan ChatGPT svarer på spørsmål om tidligere masseangrep og personene som utførte dem. Modellen instrueres om å gi mindre detaljert informasjon på disse områdene, selv om informasjonen er tilgjengelig fra andre kilder på nettet. Folk skal kunne be ChatGPT om hjelp til å forstå disse hendelsene og hvordan ofre og lokalsamfunn ble rammet, og til å lære om hvordan man kan gjenkjenne faresignaler og forebygge fremtidig vold. Men vi strammer inn retningslinjene våre for å begrense rekonstruksjoner av tidligere masseangrep, inkludert detaljer om våpnene og utstyret som ble brukt, og hvordan de ble anskaffet, samt detaljerte sammenligninger av skadeomfanget som kan øke gjerningspersonens beryktethet. Disse begrensningene gjelder uansett brukerens alder eller grunn til å spørre.

Noen ganger får en forespørsel som isolert sett virker ordinær, en annen betydning i lys av en tidligere samtale. I mai fortalte vi hvordan ChatGPT kan bruke korte, faktabaserte oppsummeringer⁠ av tidligere faresignaler for å svare mer forsiktig i en senere samtale. Vi bygger videre på dette arbeidet, slik at ChatGPT blir mer tilbakeholden med å dele informasjon som kan misbrukes, når nylige samtaler viser faresignaler om mulig vold. Vi arbeider også med å bruke disse strengere begrensningene når vi anslår at noen er under 18 år, selv om samtalene deres ikke viser tegn til voldelige hensikter.

Vi utestenger kontoer som vi fastslår har brutt retningslinjene våre om voldelig aktivitet⁠. Vi samarbeider også med eksperter innen psykisk helse og voldsforebygging om flere automatiserte måter å gripe inn tidligere på. Når en samtale viser tegn til at noen er fastlåst i tanker om vold eller om å skade en annen person alvorlig, vil ChatGPT kunne avslutte samtalen automatisk for å bryte dette mønsteret der og da. Hvis ChatGPT avslutter flere samtaler av denne grunnen, kan vi midlertidig sette kontoen på pause. Dette er et pågående arbeid, og vi fortsetter å styrke og investere i tekniske og praktiske beskyttelsestiltak, blant annet for å kunne gjenkjenne faresignaler på en pålitelig måte og avgjøre når og hvordan vi skal gripe inn.

ChatGPT for tenåringer⁠ har alderstilpassede sikkerhetstiltak for brukere under 18 år, med sterkere beskyttelse og flere begrensninger for å redusere eksponeringen for sensitivt innhold. Vi innfører nå ytterligere begrensninger på informasjon om våpen som tenåringer kan få, selv når et spørsmål virker harmløst. 

Retningslinjene våre forbyr allerede å hjelpe noen med å planlegge eller utføre vold, og begrenser hjelp til tenåringer med å finne eller skaffe våpen. Vi utvider disse beskyttelsestiltakene til også å begrense praktisk informasjon om våpen og sikkerhetssystemer som kan misbrukes til å legge til rette for vold, selv når det ikke finnes tegn på voldelige hensikter. Tenåringer kan fortsatt bruke ChatGPT til å bidra til å forebygge og dempe vold, søke støtte og komme i kontakt med en voksen de stoler på. 

I fjor lanserte vi aldersestimering⁠, som analyserer flere signaler, blant annet atferdsmønstre, for å anslå om en bruker kan være under eller over 18 år. Vi har styrket systemet for aldersestimering slik at det kontinuerlig vurderer nye signaler etter hvert som folk bruker ChatGPT, og flytter tenåringer til versjonen for dem under 18 år når det er passende. Brukere som feilaktig plasseres i versjonen for dem under 18 år, vil alltid ha en rask og personvernvennlig måte å bekrefte at de er voksne på og få fjernet de ekstra beskyttelsestiltakene for tenåringer gjennom Persona, vår partner for aldersverifisering. 

Med vår foreldrekontroll⁠ kan foreldre koble ChatGPT‑kontoen sin til tenåringens konto og administrere sikkerhetsinnstillingene sammen. Tilknyttede kontoer inkluderer sikkerhetsvarsler⁠ som kan bli sendt når spesialopplærte medarbeidere oppdager alvorlig bekymring for selvskading og atferd som kan være forbundet med spiseforstyrrelser. I juli utvidet vi disse varslene, slik at foreldre får beskjed hvis tenåringens konto er deaktivert for brudd på retningslinjene våre om vold. Vi jobber med å innføre varsler til foreldre hvis vi midlertidig sperrer tenåringens konto fordi de gjentatte ganger diskuterer vold, som nærmere beskrevet ovenfor.

Voldshandlinger i den virkelige verden er hjerteskjærende og sammensatte, og mange faktorer spiller inn. De er også en alvorlig påminnelse om at vi må fortsette å utforme og videreutvikle systemene våre slik at de tar høyde for hvor kompleks menneskelig atferd er. Å utvikle effektive sikkerhetstiltak mot vold i KI-systemer krever at vi løser nye problemer knyttet til å gjenkjenne risiko og reagere på riktig måte, og vi vil fortsette å investere i og videreutvikle beskyttelsestiltakene vi arbeider med, og dele lærdommer  om hvordan de best kan implementeres. Sikkerhetstiltakene som beskrives her, vil begynne å bli rullet ut i løpet av de neste ukene, og vi vil fortsette å forbedre dem. Vi er fortsatt forpliktet til å redusere risikoen for skade i ChatGPT, styrke de ulike lagene med beskyttelse, overvåke misbruk, håndheve reglene våre og sørge for støtte og inngripen utenfor ChatGPT når situasjonen krever det.