Raporti mbi sigurinë e komunitetit dhe mbrojtjet e reja për adoleshentët

ChatGPT është një nga produktet e inteligjencës artificiale më të përdorura në botë dhe kemi investuar për të zhvilluar disa nga sistemet më të avancuara në industri për zbulimin e dëmeve të mundshme, shqyrtimin e aktiviteteve shqetësuese dhe përshkallëzimin e rasteve të kërcënimeve të besueshme. Për të çuar më tej punën tonë në këtë fushë, po bëjmë dy njoftime: një raport të ri për masat mbrojtëse të komunitetit dhe kufizime të tjera për përmbajtjet që lidhen me armët e zjarrit për të miturit.

Ruajtja e sigurisë së komuniteteve⁠ vazhdon të jetë përparësia kryesore për OpenAI. Puna jonë përfshin vënien në dijeni të organeve ligjzbatuese për kërcënimet e menjëhershme për dhunë, dhe në tremujorin e tretë të vitit 2026 u kemi referuar organeve ligjzbatuese mbi 200 raste. Këto referime po japin një kontribut pozitiv⁠(hapet në një dritare të re) në⁠(hapet në një dritare të re) ndërprerjen e komploteve të dhunshme, dhe ne vazhdojmë të mbështetemi te ekspertët e shëndetit mendor dhe të sjelljes për të na ndihmuar të vlerësojmë rastet e vështira.

E kuptojmë se kompanitë e inteligjencës artificiale kanë një rol të veçantë krahas agjencive ligjzbatuese, familjarëve, profesionistëve të shëndetit mendor dhe politikëbërësve, të cilët sjellin autoritet, kontekst dhe shtrirje thelbësore në botën reale. Jemi të përkushtuar ta shfrytëzojmë sa më mirë këtë rol duke i forcuar vazhdimisht sistemet tona, duke ndarë atë që mësojmë dhe duke punuar drejtpërdrejt me ata që janë në pozicionin më të mirë për të vepruar në botën reale.

Po i forcojmë vazhdimisht masat që marrim për të ndihmuar në mbrojtjen e njerëzve dhe komuniteteve. Kjo do të thotë të ndërtojmë masa të forta mbrojtëse dhe, gjithashtu, të jemi transparentë për sa mirë funksionojnë ato dhe çfarë po bëjmë për t’i përmirësuar. Duam t’u japim njerëzve një pasqyrë të qartë të qasjes sonë, të mënyrës se si modelet tona identifikojnë dhe reagojnë ndaj sjelljeve të dëmshme, të rreziqeve që vërejmë në praktikë dhe të hapave që ndërmarrim për t’i trajtuar ato.

Jemi të angazhuar të publikojmë Raportin për sigurinë e komunitetit mbi parandalimin e dhunës dhe çështje të tjera të sigurisë së komunitetit, si dhe mbi efektivitetin e masave tona mbrojtëse. Raporti do të shpjegojë se si i trajnojmë sistemet tona për të zbuluar, hetuar dhe trajtuar çështjet e sigurisë së komunitetit. Do të ndajmë shembuj të anonimizuar se si shfaqen dëmet e lidhura me dhunën dhe çfarë po mësojmë, do të nxjerrim në pah masa të reja për zbutjen e rreziqeve dhe ndryshime në politikat tona, si dhe do të përfshijmë të dhëna përkatëse në mbështetje të këtyre gjetjeve.

Do ta publikojmë raportin tonë të parë në fillim të vitit 2027, i cili do të mbulojë gjysmën e dytë të vitit 2026, dhe më pas do të publikojmë përditësime çdo gjashtë muaj. Angazhimi ynë është të ndajmë gjetje domethënëse rreth mënyrës se si identifikojmë, shqyrtojmë dhe reagojmë ndaj përmbajtjes potencialisht të dëmshme.

Modelet tona janë trajnuar që të mos japin udhëzime që do ta ndihmonin dikë të planifikonte ose të kryente akte dhune. Tani po vendosim kufizime shtesë për mënyrën se si ChatGPT u përgjigjet pyetjeve rreth sulmeve masive të së kaluarës dhe personave që i kanë kryer ato, duke e udhëzuar modelin të japë më pak informacion të hollësishëm për këto çështje, edhe kur ky informacion gjendet në burime të tjera në internet. Njerëzit duhet të jenë në gjendje t’i kërkojnë ChatGPT‑së ndihmë për të kuptuar këto ngjarje, mënyrën se si u prekën viktimat dhe komunitetet, si dhe për të mësuar të njohin shenjat paralajmëruese dhe të parandalojnë dhunën në të ardhmen. Por po i shtrëngojmë politikat tona për të kufizuar rikrijimet e sulmeve masive të së kaluarës, përfshirë hollësitë rreth armëve dhe pajisjeve të përdorura dhe mënyrës se si u siguruan ato, si dhe krahasimet e hollësishme të përmasave të dëmit, të cilat mund të rrisin famën e autorit të sulmit. Këto kufizime zbatohen pavarësisht nga mosha e përdoruesit ose arsyeja e pyetjes.

Ndonjëherë një kërkesë që në vetvete duket e zakonshme merr një kuptim tjetër në kontekstin e një bisede të mëparshme. Në maj, shpjeguam se si ChatGPT mund të përdorë përmbledhje të shkurtra faktike⁠ të shenjave të mëparshme paralajmëruese për t’u përgjigjur me më shumë kujdes në një bisedë të mëvonshme. Po e zhvillojmë më tej këtë punë në mënyrë që, kur bisedat e fundit shfaqin shenja paralajmëruese të dhunës së mundshme, ChatGPT të përgjigjet me më shumë rezervë kur jep informacione që mund të keqpërdoren. Po punojmë gjithashtu për t’i zbatuar këta kufij më të rreptë kur parashikojmë se dikush është nën 18 vjeç, edhe nëse bisedat e tij nuk shfaqin shenja të qëllimeve të dhunshme.

Ne bllokojmë llogaritë për të cilat përcaktojmë se kanë shkelur politikat tona për veprimtarinë e dhunshme⁠. Po punojmë gjithashtu me ekspertë të shëndetit mendor dhe të parandalimit të dhunës për të gjetur mënyra të tjera të automatizuara për të ndërhyrë më herët. Kur një bisedë tregon shenja se dikush është fiksuar pas dhunës ose pas idesë për të dëmtuar rëndë një person tjetër, ChatGPT do të mund ta përfundojë automatikisht bisedën për ta ndërprerë atë prirje në atë moment. Nëse ChatGPT përfundon disa biseda për këtë arsye, mund ta pezullojmë përkohësisht llogarinë. Kjo është një përpjekje e vazhdueshme dhe ne vijojmë të forcojmë masat mbrojtëse teknike dhe praktike dhe të investojmë në to, përfshirë mënyrat për të njohur me besueshmëri shenjat paralajmëruese dhe për të përcaktuar kur dhe si të ndërhyjmë.

ChatGPT për adoleshentët⁠ zbaton masa mbrojtëse të përshtatshme për moshën e përdoruesve nën 18 vjeç, me mbrojtje më të fortë dhe kufizime shtesë për të zvogëluar ekspozimin ndaj përmbajtjeve delikate. Tani po vendosim kufizime të mëtejshme për informacionet lidhur me armët që mund të marrin adoleshentët, edhe kur një pyetje duket e padëmshme. 

Politikat tona tashmë ndalojnë dhënien e ndihmës për këdo që planifikon ose kryen akte dhune dhe kufizojnë ndihmën që u jepet adoleshentëve për të gjetur ose siguruar armë. Po i zgjerojmë këto masa mbrojtëse për të kufizuar edhe informacionin praktik për armët dhe sistemet e sigurisë, i cili mund të keqpërdoret për të lehtësuar dhunën, edhe kur nuk ka shenja të qëllimit për të ushtruar dhunë. Adoleshentët mund ta përdorin ende ChatGPT për t’i ndihmuar të parandalojnë dhe të ulin përshkallëzimin e dhunës, të kërkojnë mbështetje dhe të lidhen me një të rritur të besuar. 

Vitin e kaluar lançuam parashikimin e moshës⁠, i cili analizon disa sinjale, si modelet e sjelljes, për të vlerësuar nëse një përdorues mund të jetë nën apo mbi 18 vjeç. E përforcuam sistemin tonë të parashikimit të moshës, në mënyrë që të vlerësojë vazhdimisht sinjale të reja ndërsa njerëzit përdorin ChatGPT dhe t’i kalojë adoleshentët në përvojën për personat nën 18 vjeç kur është e përshtatshme. Përdoruesit që vendosen gabimisht në përvojën për personat nën 18 vjeç do të kenë gjithmonë një mënyrë të shpejtë që mbron privatësinë për të konfirmuar se janë të rritur dhe për t’u hequr masat shtesë të mbrojtjes për adoleshentët, nëpërmjet partnerit tonë të verifikimit të moshës, Persona. 

Kontrollet prindërore⁠ tona u mundësojnë prindërve të lidhin llogaritë e tyre në ChatGPT me ato të fëmijëve të tyre adoleshentë dhe të menaxhojnë së bashku cilësimet e sigurisë. Llogaritë e lidhura përfshijnë njoftime sigurie⁠ që mund të dërgohen kur shqyrtues të trajnuar posaçërisht identifikojnë një shqetësim serioz lidhur me vetëlëndimin dhe sjellje që mund të lidhen me të ngrënit e çrregullt. Në korrik, e zgjeruam fushën e këtyre njoftimeve për të njoftuar prindërit nëse llogaria e fëmijës së tyre adoleshent është çaktivizuar për shkelje të politikave tona të përdorimit lidhur me dhunën. Po punojmë për të mundësuar njoftime për prindërit nëse pezullojmë llogarinë e fëmijës së tyre adoleshent për diskutime të përsëritura rreth dhunës, siç përshkruhet më sipër.

Aktet e dhunës në botën reale janë pikëlluese dhe komplekse, me shumë faktorë që kontribuojnë në to. Ato janë gjithashtu një kujtesë e fortë se duhet të vazhdojmë t’i projektojmë dhe t’i përmirësojmë vazhdimisht sistemet tona për të marrë parasysh realitetet thelbësisht të ndërlikuara të sjelljes njerëzore. Zhvillimi i masave mbrojtëse efektive kundër dhunës në sistemet e inteligjencës artificiale kërkon zgjidhjen e problemeve të reja në identifikimin e rrezikut dhe reagimin e duhur ndaj tij, dhe ne do të vazhdojmë të investojmë, të bëjmë përmirësime dhe të ndajmë mësimet e nxjerra  mbi mënyrën më të mirë për të zbatuar masat mbrojtëse që po synojmë. Masat mbrojtëse të përshkruara në hollësi këtu do të fillojnë të zbatohen gjatë javëve të ardhshme dhe ne do të vazhdojmë t’i përmirësojmë ato. Mbetemi të përkushtuar ndaj zvogëlimit të rreziqeve të dëmit në ChatGPT, forcimit të masave tona mbrojtëse me shumë nivele, monitorimit për keqpërdorim, zbatimit të rregullave tona dhe përfshirjes së mbështetjes dhe ndërhyrjeve në botën reale kur situatat e kërkojnë.