Rapport om fællesskabets sikkerhed og nye beskyttelsestiltag for teenagere
ChatGPT er et af verdens mest udbredte AI-produkter, og vi har investeret i at opbygge nogle af branchens mest avancerede systemer til at opdage potentiel skade, gennemgå bekymrende aktivitet og videreformidle troværdige trusler til relevante instanser. For at styrke vores arbejde på dette område offentliggør vi to nyheder: en ny rapport om sikkerhedsforanstaltninger i fællesskabet og flere begrænsninger for indhold om skydevåben, når det gælder mindreårige.
At holde fællesskaber sikre er fortsat en topprioritet for OpenAI. Vores arbejde omfatter at gøre retshåndhævende myndigheder opmærksomme på overhængende trusler om vold, og vi foretog over 200 indberetninger til retshåndhævende myndigheder i 3. kvartal 2026. Disse indberetninger gør en positiv(åbner i et nyt vindue) forskel(åbner i et nyt vindue) i forhold til at afværge voldelige planer, og vi fortsætter med at trække på eksperter inden for mental sundhed og adfærd for at hjælpe os med at vurdere vanskelige sager.
Vi anerkender, at AI-virksomheder har en særlig rolle at spille sammen med politi, familiemedlemmer, fagfolk inden for mental sundhed og politiske beslutningstagere, som bidrager med afgørende beføjelser, indsigt i den konkrete situation og muligheder for at handle i den virkelige verden. Vi er fast besluttede på at udfylde den rolle bedst muligt ved løbende at styrke vores systemer, dele det, vi lærer, og samarbejde direkte med dem, der har de bedste forudsætninger for at handle i den virkelige verden.
Vi styrker løbende de tiltag, vi iværksætter for at beskytte mennesker og samfund. Det betyder, at vi opbygger stærke sikkerhedsforanstaltninger og samtidig er åbne om, hvor godt de fungerer, og hvad vi gør for at forbedre dem. Vi vil give mennesker et klart billede af vores tilgang, af hvordan vores modeller identificerer og reagerer på skadelig adfærd, af de risici, vi ser i praksis, og af de tiltag, vi iværksætter for at håndtere dem.
Vi forpligter os til at udgive rapporten om fællesskabets sikkerhed med fokus på forebyggelse af vold og andre spørgsmål vedrørende fællesskabets sikkerhed samt effektiviteten af vores sikkerhedsforanstaltninger. Rapporten vil forklare, hvordan vi træner vores systemer til at opdage, undersøge og reagere på sikkerhedsproblemer i fællesskabet. Vi vil dele anonymiserede eksempler på, hvordan skade relateret til vold kommer til udtryk, og hvad vi lærer, fremhæve nye afbødende foranstaltninger og ændringer i politikker samt medtage relevante data til at understøtte disse resultater.
Vi offentliggør vores første rapport i begyndelsen af 2027. Den dækker andet halvår af 2026, og derefter kommer der opdateringer hver sjette måned. Vores forpligtelse er at dele væsentlige indsigter om, hvordan vi identificerer, gennemgår og reagerer på potentielt skadeligt indhold.
Vores modeller er trænet til ikke at give instruktioner, der kan hjælpe nogen med at planlægge eller udføre vold. Vi indfører nu yderligere begrænsninger for, hvordan ChatGPT svarer på spørgsmål om tidligere masseangreb og gerningspersonerne bag dem, og instruerer modellen i at give færre detaljer om disse emner, selv hvis oplysningerne er tilgængelige fra andre kilder på nettet. Folk skal kunne bede ChatGPT om hjælp til at forstå disse hændelser, hvordan ofre og lokalsamfund blev påvirket, og til at lære at genkende advarselstegn og forebygge fremtidig vold. Men vi strammer vores politikker for at begrænse rekonstruktioner af tidligere masseangreb, herunder oplysninger om de anvendte våben og det anvendte udstyr samt om, hvordan de blev anskaffet, og detaljerede sammenligninger af omfanget af skaderne, der kan øge gerningspersonens berygtethed. Disse begrænsninger gælder uanset brugerens alder eller grunden til spørgsmålet.
Nogle gange får en anmodning, der i sig selv virker almindelig, en anden betydning i lyset af en tidligere samtale. I maj fortalte vi, hvordan ChatGPT kan bruge korte, faktuelle opsummeringer af tidligere advarselstegn til at svare mere forsigtigt i en senere chat. Vi bygger videre på det arbejde, så ChatGPT vil være mere tilbageholdende med at dele oplysninger, der kan misbruges, når de seneste chats viser advarselstegn på mulig vold. Vi arbejder også på at anvende disse strengere begrænsninger, når vi vurderer, at en bruger er under 18 år, selv hvis brugerens chats ikke viser tegn på voldelige hensigter.
Vi udelukker konti, som vi vurderer har overtrådt vores politikker om voldelig aktivitet. Vi samarbejder også med eksperter i mental sundhed og voldsforebyggelse om yderligere, automatiserede måder at gribe tidligere ind på. Når en samtale viser tegn på, at en person er fikseret på vold eller tanken om at skade et andet menneske alvorligt, vil ChatGPT kunne afslutte chatten automatisk for at bryde mønstret her og nu. Hvis ChatGPT afslutter flere chats af den grund, kan vi sætte kontoen midlertidigt på pause. Det er en løbende indsats, og vi fortsætter med at styrke og investere i tekniske og praktiske beskyttelsestiltag, herunder hvordan vi pålideligt kan genkende advarselstegn og afgøre, hvornår og hvordan vi skal gribe ind.
ChatGPT for teenagere anvender alderssvarende sikkerhedsforanstaltninger for brugere under 18 år med stærkere beskyttelse og yderligere begrænsninger for at mindske eksponeringen for følsomt indhold. Vi begrænser nu yderligere, hvilke oplysninger om våben teenagere kan få, selv når et spørgsmål virker harmløst.
Vores politikker forbyder allerede at hjælpe nogen med at planlægge eller udføre vold og begrænser hjælp til teenagere med at finde eller skaffe våben. Vi udvider disse beskyttelsestiltag, så de også begrænser praktiske oplysninger om våben og sikkerhedssystemer, der kan misbruges til at fremme vold, selv når der ikke er tegn på voldelige hensigter. Teenagere kan stadig bruge ChatGPT til at hjælpe med at forebygge og nedtrappe vold, søge støtte og komme i kontakt med en voksen, de har tillid til.
Sidste år lancerede vi aldersestimering, som analyserer flere signaler, såsom adfærdsmønstre, for at vurdere, om en bruger kan være under eller over 18 år. Vi har styrket vores system til aldersestimering, så det løbende vurderer nye signaler, efterhånden som folk bruger ChatGPT, og flytter teenagere til oplevelsen for personer under 18 år, når det er relevant. Brugere, der fejlagtigt placeres i oplevelsen for personer under 18 år, vil altid have en hurtig og privatlivsbeskyttende måde at bekræfte, at de er voksne, og få fjernet den ekstra beskyttelse for teenagere via Persona, vores partner inden for aldersbekræftelse.
Vores forældrekontrol lader forældre knytte deres ChatGPT‑konti til deres teenageres konti og administrere sikkerhedsindstillingerne sammen. Tilknyttede konti omfatter sikkerhedsadvarsler, der kan blive sendt, når særligt uddannede medarbejdere under en gennemgang identificerer alvorlig risiko for selvskade og adfærd, der kan være forbundet med spiseforstyrret adfærd. I juli udvidede vi disse advarsler, så forældre får besked, hvis deres teenagers konto er blevet deaktiveret for at overtræde vores brugspolitikker vedrørende vold. Vi arbejder på at indføre notifikationer til forældre, hvis vi sætter deres teenagers konto på pause på grund af gentagne samtaler om vold, som beskrevet nærmere ovenfor.
Voldshandlinger i den virkelige verden er hjerteskærende og komplekse, og mange faktorer spiller ind. De er også en barsk påmindelse om, at vi fortsat skal udvikle og forbedre vores systemer, så de tager højde for, hvor kompleks menneskelig adfærd i sagens natur er. Udvikling af effektive sikkerhedsforanstaltninger mod vold i AI-systemer kræver, at vi løser nye problemer med at genkende risici og reagere hensigtsmæssigt, og vi vil fortsat investere i og videreudvikle disse sikkerhedsforanstaltninger og dele vores erfaringer med, hvordan vi bedst implementerer de beskyttelsesforanstaltninger, vi arbejder på. De sikkerhedsforanstaltninger, der beskrives her, vil begynde at blive indført i løbet af de næste par uger, og vi vil fortsat forbedre dem. Vi er fortsat fast besluttede på at mindske risikoen for skade i ChatGPT, styrke vores beskyttelse i flere lag, overvåge for misbrug, håndhæve vores regler og inddrage støtte og indsatser i den virkelige verden, når situationen kræver det.
