Bendruomenės saugos ataskaita ir naujos paauglių apsaugos priemonės

„ChatGPT“ – vienas plačiausiai pasaulyje naudojamų DI produktų, todėl investavome į vienų pažangiausių rinkoje sistemų kūrimą, kad galėtume aptikti galimą žalą, įvertinti nerimą keliančią veiklą ir skubiai reaguoti į realias grėsmes. Tęsdami šiuos darbus, pristatome dvi naujoves: naują Bendruomenės saugos priemonių ataskaitą ir griežtesnius su šaunamaisiais ginklais susijusio turinio apribojimus nepilnamečiams.

Užtikrinti bendruomenių saugą⁠ ir toliau išlieka vienas svarbiausių „OpenAI“ prioritetų. Viena iš mūsų veiklos krypčių – informuoti teisėsaugą apie tiesiogines smurto grėsmes, o 2026 m. trečiąjį ketvirtį jai perdavėme daugiau nei 200 pranešimų. Šie pranešimai duoda apčiuopiamos⁠(atsidaro naujame lange) naudos⁠(atsidaro naujame lange) užkertant kelią smurtiniams kėslams, o vertindami sudėtingus atvejus ir toliau pasitelkiame psichikos sveikatos bei elgsenos ekspertus.

Suprantame, kad DI įmonėms tenka savitas vaidmuo greta teisėsaugos, šeimos narių, psichikos sveikatos specialistų ir politikos formuotojų, turinčių būtinus įgaliojimus, išmanančių kontekstą ir galinčių tiesiogiai veikti realiame pasaulyje. Esame pasiryžę šį vaidmenį atlikti kuo atsakingiau: nuolat stipriname savo sistemas, dalijamės sukauptomis žiniomis ir tiesiogiai bendradarbiaujame su tais, kurie turi geriausias galimybes imtis veiksmų realiame pasaulyje.

Nuolat stipriname priemones, padedančias apsaugoti žmones ir bendruomenes. Todėl ne tik kuriame patikimas apsaugos priemones, bet ir atvirai pasakojame, kaip gerai jos veikia ir kaip jas tobuliname. Norime, kad žmonės aiškiai matytų, kokiais principais vadovaujamės, kaip mūsų modeliai atpažįsta žalingą elgesį ir į jį reaguoja, su kokia rizika susiduriame praktikoje ir kokių veiksmų imamės jai suvaldyti.

Įsipareigojame skelbti Bendruomenės saugos ataskaitą, kurioje apžvelgsime smurto prevenciją, kitas bendruomenės saugos problemas ir savo apsaugos priemonių veiksmingumą. Ataskaitoje paaiškinsime, kaip mokome savo sistemas aptikti bendruomenės saugos problemas, jas tirti ir į jas reaguoti. Taip pat pasidalysime nuasmenintais pavyzdžiais, parodančiais, kaip pasireiškia su smurtu susijusi žala ir ko iš to pasimokome, pristatysime naujas rizikos mažinimo priemones bei taisyklių pakeitimus ir pateiksime šias išvadas pagrindžiančius duomenis.

Pirmąją ataskaitą, apimančią 2026 m. antrąjį pusmetį, paskelbsime 2027 m. pradžioje, o vėliau ją atnaujinsime kas šešis mėnesius. Esame įsipareigoję dalytis reikšmingomis išvadomis apie tai, kaip atpažįstame ir vertiname žalos galintį sukelti turinį bei į jį reaguojame.

Mūsų modeliai išmokyti neteikti nurodymų, padedančių planuoti ar vykdyti smurtą. Dabar papildomai ribojame tai, kaip „ChatGPT“ atsako į klausimus apie praeityje įvykdytus masinius išpuolius ir juos surengusius asmenis: modelis tokiais atvejais teiks mažiau detalios informacijos, net jei ji prieinama kituose interneto šaltiniuose. Žmonės ir toliau galės prašyti „ChatGPT“ padėti suprasti šiuos įvykius bei jų poveikį aukoms ir bendruomenėms, taip pat sužinoti, kaip atpažinti pavojaus ženklus ir užkirsti kelią smurtui ateityje. Tačiau griežtiname savo taisykles ir ribojame praeities masinių išpuolių eigą atkuriančią informaciją, įskaitant duomenis apie panaudotus ginklus bei įrangą, jų įsigijimo būdus ir išsamius žalos masto palyginimus, galinčius didinti užpuoliko žinomumą. Šie apribojimai taikomi neatsižvelgiant į naudotojo amžių ar klausimo tikslą.

Kartais iš pirmo žvilgsnio įprasta užklausa ankstesnio pokalbio kontekste įgauna visai kitą prasmę. Gegužę pasakojome, kaip „ChatGPT“ gali naudoti trumpas faktines santraukas⁠ apie anksčiau pastebėtus pavojaus ženklus, kad vėlesniame pokalbyje atsakytų atsargiau. Plėtojame šį sprendimą: jei naujausiuose pokalbiuose matyti galimo smurto požymių, „ChatGPT“ atsargiau dalysis informacija, kuria būtų galima piktnaudžiauti. Taip pat siekiame šiuos griežtesnius apribojimus taikyti tais atvejais, kai nustatome, kad naudotojui dar nėra 18 metų, net jei jo pokalbiuose nematyti jokių smurtinių ketinimų.

Blokuojame paskyras, kuriose nustatome su smurtine veikla susijusių taisyklių⁠ pažeidimų. Kartu su psichikos sveikatos ir smurto prevencijos ekspertais taip pat kuriame papildomus automatizuotus būdus, leidžiančius įsikišti anksčiau. Jei pokalbyje matyti požymių, kad asmuo susitelkęs į smurtą ar mintį rimtai pakenkti kitam žmogui, „ChatGPT“ galės automatiškai nutraukti pokalbį, kad iškart sustabdytų tokią eigą. Jei dėl šios priežasties „ChatGPT“ nutrauks kelis pokalbius, paskyrą galime laikinai sustabdyti. Tai tęstinis darbas – ir toliau stipriname technines bei praktines apsaugos priemones ir į jas investuojame, kad galėtume patikimai atpažinti pavojaus ženklus ir nustatyti, kada bei kaip įsikišti.

Paaugliams skirtoje „ChatGPT“ aplinkoje⁠ jaunesniems nei 18 metų naudotojams taikomos amžių atitinkančios saugos priemonės: griežtesnė apsauga ir papildomi apribojimai padeda sumažinti jautraus turinio matomumą. Dabar dar labiau ribojame paaugliams teikiamą su ginklais susijusią informaciją, net kai klausimas atrodo nekaltas.

Pagal mūsų taisykles jau dabar draudžiama padėti bet kuriam asmeniui planuoti ar vykdyti smurtą, taip pat ribojama galimybė padėti paaugliams rasti ar įsigyti ginklų. Šias apsaugos priemones plečiame ir ribojame praktinę informaciją apie ginklus bei saugumo sistemas, kuria būtų galima piktnaudžiauti siekiant lengviau įvykdyti smurtą, net jei nematyti jokių smurtinių ketinimų. Paaugliai ir toliau gali naudotis „ChatGPT“, kad būtų lengviau išvengti smurto ar jį numalšinti, kreiptis pagalbos ir susisiekti su patikimu suaugusiuoju.

Pernai įdiegėme amžiaus nustatymo⁠ technologiją, analizuojančią įvairius signalus, pavyzdžiui, elgsenos dėsningumus, kad įvertintų, ar naudotojas jaunesnis, ar vyresnis nei 18 metų. Šią amžiaus nustatymo sistemą sustiprinome, kad žmonėms naudojantis „ChatGPT“ ji nuolat vertintų naujus signalus ir prireikus perkeltų paauglius į jaunesniems nei 18 metų skirtą aplinką. Per klaidą į šią aplinką perkelti naudotojai visada galės greitu ir privatumą saugančiu būdu patvirtinti, kad yra pilnamečiai, ir išjungti papildomas paauglių apsaugos priemones per mūsų amžiaus patvirtinimo partnerį „Persona“.

Naudodami mūsų tėvų kontrolės⁠ priemones, tėvai gali susieti savo „ChatGPT“ paskyras su paauglių paskyromis ir kartu tvarkyti saugos nuostatas. Susietose paskyrose veikia saugos įspėjimai⁠, kurie gali būti siunčiami, kai specialiai išmokyti peržiūros specialistai nustato rimtą savižalos pavojų ar elgesį, galintį rodyti valgymo sutrikimus. Liepą šiuos įspėjimus išplėtėme – dabar tėvai informuojami, jei jų paauglio paskyra buvo išjungta dėl su smurtu susijusių naudojimo taisyklių pažeidimo. Taip pat ruošiamės įdiegti pranešimus tėvams tais atvejais, kai, kaip aprašyta pirmiau, laikinai sustabdome paauglio paskyrą dėl pasikartojančių pokalbių apie smurtą.

Smurto išpuoliai realiame pasaulyje sukrečiantys ir itin sudėtingi – juos lemia daugybė veiksnių. Kartu tai skaudus priminimas, kad turime ir toliau kurti bei tobulinti savo sistemas atsižvelgdami į sudėtingą žmogaus elgsenos prigimtį. Kad sukurtume veiksmingas DI sistemų apsaugos nuo smurto priemones, turime išspręsti visiškai naujus rizikos atpažinimo ir tinkamo reagavimo uždavinius, todėl ir toliau investuosime į šiuos sprendimus, juos tobulinsime ir dalysimės patirtimi, kaip tai daryti geriausiai. Čia aprašytas apsaugos priemones pradėsime diegti per artimiausias kelias savaites ir toliau jas gerinsime. Esame tvirtai pasiryžę mažinti žalos riziką „ChatGPT“ sistemoje, stiprinti kelių lygių apsaugą, stebėti, ar sistema nepiktnaudžiaujama, užtikrinti, kad būtų laikomasi mūsų taisyklių, ir prireikus pasitelkti pagalbą bei intervenciją realiame pasaulyje.