Kogukonna turvalisuse aruanne ja uued kaitsemeetmed teismelistele
ChatGPT on üks maailma enim kasutatavaid AI-tooteid ning me oleme investeerinud valdkonna kõige arenenumate süsteemide loomisse, et tuvastada võimalikku kahju, vaadata üle murettekitavat tegevust ja suunata tõsiseltvõetavad ohud edasiseks käsitlemiseks. Selle valdkonna töö edendamiseks anname teada kahest asjast: uuest kogukonna kaitsemeetmete aruandest ja täiendavatest piirangutest, mis kehtivad alaealistele tulirelvi käsitleva sisu puhul.
Kogukondade turvalisuse tagamine on OpenAI jaoks jätkuvalt üks peamisi prioriteete. Meie töö hõlmab õiguskaitseasutuste teavitamist vahetutest vägivallaohtudest ning 2026. aasta kolmandas kvartalis edastasime õiguskaitseasutustele üle 200 teate. Need teated avaldavad positiivset(avaneb uues aknas) mõju(avaneb uues aknas) vägivallaplaanide nurjamisele ning keeruliste juhtumite hindamisel toetume jätkuvalt vaimse tervise ja käitumise ekspertidele.
Me mõistame, et AI-ettevõtetel on konkreetne roll, mida täita õiguskaitseasutuste, pereliikmete, vaimse tervise spetsialistide ja poliitikakujundajate kõrval. Neil on hädavajalikud volitused, taustateadmised ja võimalused päriselus tegutseda. Me oleme pühendunud selle rolli võimalikult heale täitmisele, tugevdades pidevalt oma süsteeme, jagades õpitut ja tehes vahetut koostööd nendega, kellel on parimad võimalused päriselus tegutseda.
Me tugevdame pidevalt meetmeid, millega aitame kaitsta inimesi ja kogukondi. See tähendab tugevate kaitsemeetmete loomist ning läbipaistvat teabejagamist selle kohta, kui hästi need toimivad ja mida teeme nende tõhustamiseks. Me tahame anda inimestele selge ülevaate oma lähenemisviisist, sellest, kuidas meie mudelid kahjulikku käitumist tuvastavad ja sellele reageerivad, milliseid riske praktikas näeme ning mida nende maandamiseks ette võtame.
Me kohustume avaldama kogukonna turvalisuse aruande vägivalla ennetamise ja muude kogukonna turvalisusega seotud probleemide ning meie kaitsemeetmete tõhususe kohta. Raportis selgitame, kuidas treenime oma süsteeme kogukonna turvalisusega seotud probleemide tuvastamiseks, uurimiseks ja neile reageerimiseks. Me jagame anonüümitud näiteid selle kohta, kuidas vägivallaga seotud kahju avaldub ja mida oleme õppinud, toome esile uued leevendusmeetmed ja poliitikamuudatused ning esitame nende järelduste toetuseks asjakohaseid andmeid.
Me avaldame oma esimese aruande 2027. aasta alguses, mis käsitleb 2026. aasta teist poolt, ning edaspidi avaldame uuendusi iga kuue kuu järel. Meie pühendumus on jagada sisukaid järeldusi selle kohta, kuidas tuvastame ja hindame potentsiaalselt kahjulikku sisu ning kuidas sellele reageerime.
Meie mudeleid treenitakse nii, et need ei annaks juhiseid, mis aitaksid kellelgi vägivalda kavandada või toime panna. Nüüd kehtestame me lisapiirangud sellele, kuidas ChatGPT vastab küsimustele varasemate massirünnakute ja nende toimepanijate kohta, ning suuname mudelit andma neil teemadel vähem üksikasjalikku teavet ka siis, kui seda on võimalik leida muudest veebiallikatest. Inimestel peab olema võimalik paluda ChatGPT‑l aidata mõista neid sündmusi ja nende mõju ohvritele ning kogukondadele, samuti õppida ohumärke ära tundma ja tulevast vägivalda ennetama. Küll aga karmistame me oma reegleid, et piirata varasemate massirünnakute rekonstruktsioone, sealhulgas üksikasju kasutatud relvade ja varustuse ning nende hankimise kohta, samuti kahju ulatuse üksikasjalikke võrdlusi, mis võiksid ründaja kurikuulsust võimendada. Need piirangud kehtivad kasutaja vanusest ja küsimise põhjusest sõltumata.
Mõnikord omandab iseenesest tavalisena näiv päring varasema vestluse valguses teistsuguse tähenduse. Mais selgitasime, kuidas ChatGPT saab kasutada lühikesi faktipõhiseid kokkuvõtteid varasematest ohumärkidest, et hilisemas vestluses ettevaatlikumalt vastata. Arendame seda tööd edasi, et kui hiljutistes vestlustes ilmnevad võimaliku vägivalla ohumärgid, jagaks ChatGPT väärkasutatavat teavet veelgi ettevaatlikumalt. Töötame ka selle nimel, et rakendada neid rangemaid piiranguid kasutajatele, kes on meie prognoosi järgi alla 18-aastased, isegi kui nende vestlustes ei ole märke vägivaldsetest kavatsustest.
Me blokeerime kontod, mille puhul oleme tuvastanud, et need on rikkunud meie vägivaldset tegevust puudutavaid reegleid. Me otsime koos vaimse tervise ja vägivallaennetuse ekspertidega ka täiendavaid automatiseeritud võimalusi varasemaks sekkumiseks. Kui vestlus viitab sellele, et kellegi mõtted keerlevad sunduslikult vägivalla või teise inimese tõsise kahjustamise ümber, saab ChatGPT vestluse automaatselt lõpetada, et see muster kohe katkestada. Kui ChatGPT lõpetab sel põhjusel mitu vestlust, võime konto kasutamise ajutiselt peatada. See töö jätkub ning me tugevdame pidevalt tehnilisi ja praktilisi kaitsemeetmeid ning investeerime neisse, sealhulgas sellesse, kuidas ohumärke usaldusväärselt ära tunda ning otsustada, millal ja kuidas sekkuda.
Teismelistele mõeldud ChatGPT rakendab alla 18-aastaste kasutajate jaoks eakohaseid kaitsemeetmeid, sealhulgas tugevamat kaitset ja lisapiiranguid, et vähendada kokkupuudet tundliku sisuga. Nüüd kehtestame täiendavaid piiranguid teismelistele kättesaadavale relvadega seotud teabele, isegi kui küsimus näib ohutu.
Meie kasutusreeglid juba keelavad aidata kellelgi vägivalda kavandada või toime panna ning piiravad teismeliste abistamist relvade leidmisel või hankimisel. Laiendame neid kaitsemeetmeid, et piirata praktilise teabe jagamist relvade ja turvasüsteemide kohta, mida võidakse väärkasutada vägivalla hõlbustamiseks, isegi kui vägivaldsest kavatsusest pole märke. Teismelised saavad endiselt kasutada ChatGPT‑d vägivalla ennetamiseks ja selle eskaleerumise vähendamiseks, tuge otsida ning usaldusväärse täiskasvanuga ühendust võtta.
Me võtsime eelmisel aastal kasutusele vanuse prognoosimise, mis analüüsib mitmesuguseid signaale, näiteks käitumismustreid, et hinnata, kas kasutaja võib olla alla või üle 18-aastane. Me tugevdasime oma vanuse prognoosimise süsteemi, et see hindaks pidevalt uusi signaale, kui inimesed ChatGPT‑d kasutavad, ning suunaks vajaduse korral teismelised alla 18-aastaste kasutuskeskkonda. Kasutajatel, kes paigutatakse ekslikult alla 18-aastaste kasutuskeskkonda, on alati kiire ja privaatsust kaitsev võimalus kinnitada Persona, meie vanusekontrolli partneri kaudu, et nad on täisealised, ning lasta eemaldada teismelistele mõeldud lisakaitsed.
Meie vanemlik järelevalve võimaldab vanematel siduda oma ChatGPT kontod teismeliste kontodega ja hallata koos ohutusseadeid. Seotud kontodega kaasnevad ohuteavitused, mida võidakse saata, kui eriväljaõppega ülevaatajad tuvastavad tõsise enesevigastamise ohu või käitumise, mis võib olla seotud häirunud söömiskäitumisega. Juulis laiendasime nende teavituste ulatust, et anda vanematele teada, kui nende teismelise konto on meie vägivallaga seotud kasutusreeglite rikkumise tõttu deaktiveeritud. Me töötame selle nimel, et võtta kasutusele teavitused vanematele juhul, kui peatame nende teismelise konto kasutamise korduvate vägivallateemaliste vestluste tõttu, nagu eespool kirjeldatud.
Päriselus toime pandud vägivallateod on südantlõhestavad ja keerulised sündmused, millel on palju soodustavaid tegureid. Need tuletavad ka valusalt meelde, et peame oma süsteemide arendamist ja täiustamist jätkama, arvestades inimkäitumise loomupärase keerukusega. Tõhusate vägivallavastaste kaitsemeetmete väljatöötamine tehisintellektisüsteemides nõuab uudsete probleemide lahendamist riskide tuvastamisel ja asjakohasel reageerimisel. Jätkame investeerimist, täiustamist ja saadud teadmiste jagamist selle kohta, kuidas meie kavandatavaid kaitsemeetmeid kõige paremini rakendada. Siin kirjeldatud kaitsemeetmeid hakatakse kasutusele võtma järgmiste nädalate jooksul ja jätkame nende täiustamist. Me oleme jätkuvalt pühendunud kahjuriskide vähendamisele ChatGPT‑s, oma mitmekihiliste kaitsemeetmete tugevdamisele, väärkasutuse jälgimisele, reeglite jõustamisele ning vajaduse korral päriselus abi ja sekkumise kaasamisele.
