Veiligheidsrapport voor de community en nieuwe bescherming voor tieners

ChatGPT is een van de meest gebruikte AI-producten ter wereld en we hebben geïnvesteerd in de ontwikkeling van enkele van de meest geavanceerde systemen in de sector om mogelijke schade op te sporen, zorgwekkende activiteiten te beoordelen en geloofwaardige dreigingen door te geven aan de juiste instanties. We kondigen twee dingen aan om ons werk op dit gebied verder te brengen: een nieuw rapport over beschermingsmaatregelen voor de community en meer beperkingen op content over vuurwapens voor minderjarigen.

Communities veilig houden⁠ blijft een topprioriteit voor OpenAI. Ons werk omvat het onder de aandacht brengen van acute dreigingen van geweld bij politie en justitie, en we hebben in Q3 2026 meer dan 200 meldingen gedaan bij politie en justitie. Deze meldingen hebben een positief⁠(opent in een nieuw venster) effect⁠(opent in een nieuw venster) op het verijdelen van gewelddadige plannen, en we blijven vertrouwen op deskundigen op het gebied van geestelijke gezondheid en gedrag om ons te helpen lastige gevallen te beoordelen.

We erkennen dat AI-bedrijven een eigen rol te vervullen hebben naast opsporingsinstanties, familieleden, professionals in de geestelijke gezondheidszorg en beleidsmakers, die essentiële bevoegdheden, context en mogelijkheden om in de echte wereld op te treden meebrengen. We zetten ons in om die rol zo goed mogelijk te vervullen door onze systemen voortdurend te versterken, onze inzichten te delen en rechtstreeks samen te werken met degenen die het beste in staat zijn om in de echte wereld in te grijpen.

We versterken voortdurend de maatregelen die we nemen om mensen en gemeenschappen te helpen beschermen. Dat betekent dat we sterke beschermingsmaatregelen ontwikkelen en ook transparant zijn over hoe goed ze werken en wat we doen om ze te verbeteren. We willen mensen een duidelijk beeld geven van onze aanpak, hoe onze modellen schadelijk gedrag herkennen en erop reageren, welke risico's we in de praktijk zien en welke stappen we nemen om die aan te pakken.

We verbinden ons ertoe het veiligheidsrapport voor de community uit te brengen over geweldpreventie en andere veiligheidskwesties binnen de community, en over de doeltreffendheid van onze veiligheidsmaatregelen. In het rapport leggen we uit hoe we onze systemen trainen om veiligheidskwesties binnen de community te detecteren, te onderzoeken en erop te reageren. We delen geanonimiseerde voorbeelden van hoe geweldgerelateerde schade zich manifesteert en wat we daarvan leren, belichten nieuwe risicobeperkende maatregelen en beleidswijzigingen en nemen relevante gegevens op om deze bevindingen te onderbouwen.

We publiceren begin 2027 ons eerste rapport, dat betrekking heeft op de tweede helft van 2026, en publiceren daarna elke zes maanden updates. We zetten ons in om betekenisvolle bevindingen te delen over hoe we potentieel schadelijke content identificeren, beoordelen en erop reageren.

Onze modellen zijn zo getraind dat ze geen instructies geven die iemand zouden helpen geweld te plannen of te plegen. We leggen nu extra beperkingen op aan de manier waarop ChatGPT reageert op vragen over eerdere aanvallen met veel slachtoffers en de mensen die deze hebben uitgevoerd. Het model moet hierover minder gedetailleerde informatie geven, ook als die via andere online bronnen beschikbaar is. Mensen moeten ChatGPT kunnen vragen om hen te helpen deze gebeurtenissen en de gevolgen voor slachtoffers en gemeenschappen te begrijpen, en te leren hoe ze waarschuwingssignalen herkennen en toekomstig geweld voorkomen. Maar we scherpen ons beleid aan om reconstructies van eerdere aanvallen met veel slachtoffers te beperken, waaronder details over de gebruikte wapens en uitrusting en hoe die zijn verkregen, en gedetailleerde vergelijkingen van de omvang van de schade die de beruchtheid van een aanvaller zouden kunnen vergroten. Deze beperkingen gelden ongeacht de leeftijd van de gebruiker of de reden voor de vraag.

Soms krijgt een verzoek dat op zichzelf alledaags lijkt een andere betekenis in het licht van een eerder gesprek. In mei deelden we hoe ChatGPT korte, feitelijke samenvattingen kan gebruiken⁠ van eerdere waarschuwingssignalen om in een latere chat zorgvuldiger te reageren. We bouwen hierop voort, zodat ChatGPT terughoudender omgaat met het delen van informatie die misbruikt kan worden wanneer recente chats waarschuwingssignalen van mogelijk geweld bevatten. We werken er ook aan om die strengere beperkingen toe te passen wanneer we inschatten dat iemand jonger dan 18 is, ook als diens chats geen tekenen van gewelddadige intenties vertonen.

We blokkeren accounts waarvan we vaststellen dat ze ons beleid rond gewelddadige activiteiten⁠ hebben geschonden. We werken ook samen met deskundigen op het gebied van geestelijke gezondheid en geweldpreventie aan aanvullende, geautomatiseerde manieren om eerder in te grijpen. Als een gesprek erop wijst dat iemand gefixeerd raakt op geweld of op het idee een ander ernstig letsel toe te brengen, zal ChatGPT de chat automatisch kunnen beëindigen om dat patroon direct te doorbreken. Als ChatGPT om die reden meerdere chats beëindigt, kunnen we het account tijdelijk blokkeren. Dit is een doorlopende inspanning en we blijven investeren in technische en praktische beschermingsmaatregelen en deze versterken, waaronder manieren om waarschuwingssignalen betrouwbaar te herkennen en te bepalen wanneer en hoe we moeten ingrijpen.

ChatGPT tieners⁠ biedt gebruikers jonger dan 18 jaar leeftijdsgerichte bescherming, met strengere veiligheidsmaatregelen en extra beperkingen om blootstelling aan gevoelige inhoud te verminderen. We stellen nu verdere beperkingen aan de informatie over wapens die tieners kunnen krijgen, zelfs wanneer een vraag onschuldig lijkt. 

Ons beleid verbiedt al om iemand te helpen bij het plannen of uitvoeren van geweld en beperkt hulp aan tieners bij het vinden of verkrijgen van wapens. We breiden die bescherming uit door ook praktische informatie over wapens en beveiligingssystemen te beperken die misbruikt kan worden om geweld mogelijk te maken, zelfs als er geen aanwijzingen zijn voor gewelddadige bedoelingen. Tieners kunnen ChatGPT nog steeds gebruiken om geweld te helpen voorkomen en de-escaleren, steun te zoeken en contact te leggen met een volwassene die ze vertrouwen. 

Vorig jaar hebben we leeftijdsvoorspelling⁠ gelanceerd. Dit systeem analyseert verschillende signalen, zoals gedragspatronen, om in te schatten of een gebruiker jonger of ouder dan 18 jaar is. We hebben ons systeem voor leeftijdsvoorspelling versterkt, zodat het voortdurend nieuwe signalen beoordeelt terwijl mensen ChatGPT gebruiken en tieners indien nodig naar de ervaring voor jongeren onder de 18 verplaatst. Gebruikers die ten onrechte in de ervaring voor jongeren onder de 18 terechtkomen, kunnen altijd snel en met bescherming van hun privacy bevestigen dat ze volwassen zijn en via Persona, onze partner voor leeftijdsverificatie, de extra beschermingsmaatregelen voor tieners laten verwijderen. 

Met ons ouderlijk toezicht⁠ kunnen ouders hun ChatGPT‑accounts koppelen aan die van hun tieners en samen de veiligheidsinstellingen beheren. Gekoppelde accounts hebben veiligheidsmeldingen⁠ die kunnen worden verstuurd wanneer speciaal opgeleide beoordelaars ernstige zorgen over zelfbeschadiging vaststellen en gedrag signaleren dat kan samenhangen met verstoord eetgedrag. In juli hebben we die meldingen uitgebreid, zodat ouders bericht krijgen als het account van hun tiener is gedeactiveerd wegens schending van ons gebruiksbeleid rond geweld. We werken eraan om ouders een melding te sturen als we het account van hun tiener tijdelijk blokkeren omdat die herhaaldelijk over geweld praat, zoals hierboven beschreven.

Geweld in de echte wereld is hartverscheurend en complex, en er spelen veel factoren bij mee. Het herinnert ons er ook op indringende wijze aan dat we onze systemen moeten blijven ontwerpen en verbeteren met oog voor de complexe werkelijkheid van menselijk gedrag. Effectieve veiligheidsmaatregelen tegen geweld in AI-systemen ontwikkelen vereist dat we nieuwe vraagstukken oplossen rond het herkennen van risico's en daar passend op reageren. We blijven investeren in de ontwikkeling van deze maatregelen, ze verbeteren en onze inzichten delen over hoe we de beschermingsmaatregelen waar we aan werken het best kunnen implementeren. De hier beschreven maatregelen worden de komende weken geleidelijk ingevoerd en we blijven ze verfijnen. We blijven ons inzetten om het risico op schade door het gebruik van ChatGPT te beperken, onze beschermingslagen te versterken, misbruik op te sporen, onze regels te handhaven en waar nodig hulp en interventies buiten ChatGPT in te schakelen.