Rapport dwar is-sikurezza tal-komunità u protezzjonijiet ġodda għall-adolexxenti

ChatGPT huwa fost l-aktar prodotti tal-IA użati fid-dinja. Investejna f’uħud mill-aktar sistemi avvanzati fl-industrija biex nidentifikaw ħsara potenzjali, neżaminaw attività ta’ tħassib u nirreferu theddid kredibbli lil min jista’ jaġixxi. Biex inkomplu din il-ħidma, qed inħabbru Rapport dwar is-Salvagwardji għall-Komunità ġdid u aktar restrizzjonijiet fuq kontenut dwar armi tan-nar għall-minorenni.

Il-ħarsien tal-komunitajiet⁠ jibqa’ prijorità ewlenija għal OpenAI. Il-ħidma tagħna tinkludi li ninfurmaw lill-awtoritajiet tal-infurzar tal-liġi dwar theddid imminenti ta’ vjolenza. Fit-tielet kwart tal-2026 għamilna aktar minn 200 riferiment lilhom. Dawn qed jagħtu kontribut⁠(jinfetaħ f’tieqa ġdida) pożittiv⁠(jinfetaħ f’tieqa ġdida) biex jitwaqqfu pjanijiet vjolenti. Nibqgħu nistrieħu fuq esperti tas-saħħa mentali u tal-imġiba biex nevalwaw każijiet diffiċli.

Nagħrfu li l-kumpaniji tal-IA għandhom rwol distint flimkien mal-awtoritajiet tal-infurzar tal-liġi, il-familjari, il-professjonisti tas-saħħa mentali u dawk li jfasslu l-politika, li jipprovdu awtorità, kuntest u kapaċità essenzjali biex jaġixxu fid-dinja reali. Impenjati li naqdu dan ir-rwol bis-sħiħ billi nsaħħu kontinwament is-sistemi tagħna, naqsmu dak li nitgħallmu u naħdmu direttament ma’ min hu fl-aħjar pożizzjoni biex jaġixxi fid-dinja reali.

Qed insaħħu kontinwament il-miżuri tagħna għall-ħarsien tan-nies u tal-komunitajiet. Dan ifisser li nibnu salvagwardji b’saħħithom u nkunu trasparenti dwar kemm jaħdmu tajjeb u kif qed intejbuhom. Irridu nuru ċar l-approċċ tagħna, kif il-mudelli tagħna jidentifikaw imġiba ta’ ħsara u jirrispondu għaliha, ir-riskji li naraw fil-prattika u kif nindirizzawhom.

Nimpenjaw ruħna li nniedu r-Rapport dwar is-Sikurezza tal-Komunità, dwar il-prevenzjoni tal-vjolenza, kwistjonijiet oħra ta’ sikurezza fil-komunità u l-effettività tas-salvagwardji tagħna. Ir-rapport se jispjega kif inħarrġu s-sistemi tagħna biex jidentifikaw, jinvestigaw u jirrispondu għal kwistjonijiet ta’ sikurezza fil-komunità. Se naqsmu eżempji anonimizzati ta’ kif tidher il-ħsara marbuta mal-vjolenza u x’qed nitgħallmu, nenfasizzaw miżuri ġodda ta’ mitigazzjoni u bidliet fil-politiki, u ninkludu data rilevanti li ssostni s-sejbiet.

Se nippubblikaw l-ewwel rapport kmieni fl-2027, dwar it-tieni nofs tal-2026, b’aġġornamenti kull sitt xhur wara dan. Impenjati li naqsmu sejbiet sinifikanti dwar kif nidentifikaw, neżaminaw u nirrispondu għal kontenut potenzjalment ta’ ħsara.

Il-mudelli tagħna huma mħarrġa biex ma jagħtux struzzjonijiet li jgħinu lil xi ħadd jippjana jew iwettaq vjolenza. Issa qed nillimitaw aktar kif ChatGPT iwieġeb mistoqsijiet dwar attakki tal-massa fl-imgħoddi u min wettaqhom. Qed nordnaw lill-mudell jagħti inqas dettalji dwarhom, anki jekk jinsabu f’sorsi oħra online. In-nies għandhom ikunu jistgħu jitolbu lil ChatGPT jgħinhom jifhmu dawn l-avvenimenti u l-impatt fuq il-vittmi u l-komunitajiet, u jitgħallmu jagħrfu sinjali ta’ twissija u jipprevjenu vjolenza fil-futur. Iżda qed nissikkaw il-politiki biex nillimitaw ir-rikostruzzjonijiet ta’ attakki tal-massa fl-imgħoddi, inklużi dettalji dwar l-armi u t-tagħmir użati u kif inkisbu, u paraguni dettaljati tal-firxa tal-ħsara li jistgħu jżidu n-notorjetà tal-aggressur. Dawn il-limiti japplikaw tkun xi tkun l-età tal-utent jew ir-raġuni tal-mistoqsija.

Talba li waħedha tidher ordinarja kultant tieħu tifsira oħra fid-dawl ta’ konverżazzjoni preċedenti. F’Mejju, spjegajna kif ChatGPT jista’ juża sommarji qosra u fattwali⁠ ta’ sinjali ta’ twissija preċedenti biex iwieġeb b’aktar kawtela f’chat sussegwenti. Qed niżviluppaw din il-ħidma biex, meta chats reċenti juru sinjali ta’ vjolenza possibbli, ChatGPT ikun aktar kawt meta jaqsam informazzjoni li tista’ tintuża ħażin. Qed naħdmu wkoll biex napplikaw dawn il-limiti aktar stretti meta nistmaw li persuna għandha inqas minn 18-il sena, anki jekk iċ-chats tagħha ma jurux intenzjoni vjolenti.

Nipprojbixxu kontijiet li niddeterminaw li kisru l-politiki tagħna dwar attività vjolenti⁠. Qed naħdmu wkoll ma’ esperti tas-saħħa mentali u tal-prevenzjoni tal-vjolenza fuq modi awtomatizzati oħra biex nintervjenu qabel. Meta konverżazzjoni turi li persuna qed tiffissa fuq il-vjolenza jew fuq l-idea li tagħmel ħsara serja lil ħaddieħor, ChatGPT se jkun jista’ jtemm iċ-chat awtomatikament biex iwaqqaf dik l-imġiba fil-mument. Jekk ChatGPT itemm diversi chats għal din ir-raġuni, nistgħu nissospendu l-kont temporanjament. Din il-ħidma għadha għaddejja. Inkomplu nsaħħu u ninvestu fi protezzjonijiet tekniċi u prattiċi, fosthom kif nagħrfu sinjali ta’ twissija b’mod affidabbli u niddeċiedu meta u kif nintervjenu.

ChatGPT għall-Adolexxenti⁠ japplika salvagwardji xierqa għall-età għal utenti taħt it-18-il sena, bi protezzjonijiet aktar b’saħħithom u limiti addizzjonali biex inaqqas l-esponiment għal kontenut sensittiv. Issa qed nillimitaw aktar l-informazzjoni dwar l-armi li jistgħu jirċievu l-adolexxenti, anki meta mistoqsija tidher bla ħsara. 

Il-politiki tagħna diġà jipprojbixxu l-għajnuna lil kwalunkwe persuna biex tippjana jew twettaq vjolenza, u jillimitaw l-għajnuna lill-adolexxenti biex isibu jew jiksbu armi. Qed nestendu dawn il-protezzjonijiet biex nillimitaw informazzjoni prattika dwar armi u sistemi tas-sigurtà li tista’ tintuża ħażin biex tiffaċilita l-vjolenza, anki mingħajr sinjali ta’ intenzjoni vjolenti. L-adolexxenti xorta jistgħu jużaw ChatGPT biex jipprevjenu u jtaffu l-vjolenza, ifittxu appoġġ u jikkomunikaw ma’ adult ta’ fiduċja. 

Is-sena l-oħra nedejna t-tbassir tal-età⁠, li janalizza diversi sinjali, bħax-xejriet tal-imġiba, biex jistma jekk utent għandux inqas jew aktar minn 18-il sena. Saħħaħna s-sistema biex tevalwa kontinwament sinjali ġodda waqt l-użu ta’ ChatGPT u, fejn xieraq, tqiegħed lill-adolexxenti fl-esperjenza għal dawk taħt it-18-il sena. Utenti mqiegħda bi żball fl-esperjenza għal dawk taħt it-18-il sena dejjem se jkollhom mod rapidu li jħares il-privatezza biex jikkonfermaw li huma adulti u jneħħu l-protezzjonijiet addizzjonali għall-adolexxenti, permezz ta’ Persona, is-sieħeb tagħna għall-verifika tal-età. 

Il-kontrolli tal-ġenituri⁠ tagħna jħallu lill-ġenituri jgħaqqdu l-kontijiet ChatGPT tagħhom ma’ dawk ta’ wliedhom adolexxenti u jimmaniġġjaw is-settings tas-sikurezza flimkien. Il-kontijiet marbuta jinkludu twissijiet tas-sikurezza⁠ li jistgħu jintbagħtu meta reviżuri mħarrġa apposta jidentifikaw tħassib serju dwar ħsara lill-persuna minnha nnifisha u mġiba li tista’ tkun marbuta ma’ drawwiet tal-ikel diżordinati. F’Lulju, estendejna dawn it-twissijiet biex jinfurmaw lill-ġenituri jekk il-kont ta’ wliedhom adolexxenti jkun ġie diżattivat minħabba ksur tal-politiki tal-użu tagħna dwar il-vjolenza. Qed naħdmu biex indaħħlu notifiki lill-ġenituri jekk nissospendu l-kont ta’ wliedhom adolexxenti minħabba diskussjonijiet ripetuti dwar il-vjolenza, kif spjegat hawn fuq.

L-atti ta’ vjolenza fid-dinja reali jweġġgħu l-qalb u huma kumplessi, b’ħafna fatturi li jikkontribwixxu għalihom. Ifakkruna wkoll b’mod qawwi li rridu nkomplu nfasslu u ntejbu s-sistemi tagħna biex iqisu r-realtajiet intrinsikament kumplessi tal-imġiba umana. Biex niżviluppaw salvagwardji effettivi kontra l-vjolenza fis-sistemi tal-IA, irridu nsolvu problemi ġodda fl-għarfien tar-riskju u fir-rispons xieraq għalih. Se nkomplu ninvestu, intejbu u naqsmu dak li nitgħallmu dwar l-aħjar modi kif nimplimentaw il-protezzjonijiet li qed naħdmu fuqhom. Is-salvagwardji deskritti hawn se jibdew jiddaħħlu fil-ġimgħat li ġejjin, u se nkomplu nirfinawhom. Nibqgħu impenjati li nnaqqsu r-riskji ta’ ħsara f’ChatGPT, insaħħu d-diversi saffi ta’ protezzjoni tagħna, nissorveljaw l-użu ħażin, ninfurzaw ir-regoli u ninvolvu appoġġ u interventi fid-dinja reali meta jkun meħtieġ.