Ripoti ya usalama wa jamii na ulinzi mpya kwa vijana
ChatGPT ni mojawapo ya bidhaa za AI zinazotumiwa zaidi duniani, na tumewekeza katika kuunda baadhi ya mifumo ya kisasa zaidi katika sekta hii ya kugundua uwezekano wa madhara, kukagua shughuli zinazotia wasiwasi, na kuwasilisha vitisho vyenye msingi kwa wahusika wanaofaa. Tunatoa matangazo mawili ili kuendeleza kazi yetu katika eneo hili: Ripoti Mpya ya Ulinzi wa Jamii na vizuizi zaidi kuhusu maudhui ya silaha za moto kwa watoto walio chini ya umri wa kisheria.
Kudumisha usalama wa jamii kunaendelea kuwa kipaumbele cha juu kwa OpenAI. Kazi yetu inajumuisha kuvielekeza vitisho vya karibu vya vurugu kwa vyombo vya kutekeleza sheria, na tulipeleka zaidi ya rufaa 200 kwa vyombo vya kutekeleza sheria katika Q3 2026. Rufaa hizi zinaleta mabadiliko(fungua katika dirisha jipya) chanya(fungua katika dirisha jipya) katika kutatiza njama za vurugu, na tunaendelea kutegemea wataalamu wa afya ya akili na tabia watusaidie kutathmini kesi ngumu.
Tunatambua kuwa kampuni za AI zina jukumu la kipekee la kutekeleza pamoja na vyombo vya kutekeleza sheria, wanafamilia, wataalamu wa afya ya akili na watunga sera, ambao huleta mamlaka muhimu, muktadha na uwezo wa kufikia watu katika maisha halisi. Tumejitolea kutimiza jukumu hilo kikamilifu kwa kuimarisha mifumo yetu kila mara, kushiriki tunayojifunza na kufanya kazi moja kwa moja na walio katika nafasi nzuri zaidi ya kuchukua hatua katika maisha halisi.
Tunaendelea kuimarisha hatua tunazochukua kusaidia kulinda watu na jamii. Hii inamaanisha kuunda ulinzi thabiti, na pia kuwa wazi kuhusu ufanisi wake na tunachofanya kuuimarisha. Tunataka kuwapa watu picha iliyo wazi ya mbinu yetu, jinsi miundo yetu inavyotambua na kushughulikia tabia zenye madhara, hatari tunazoziona katika matumizi halisi, na hatua tunazochukua kuzishughulikia.
Tumejitolea kuzindua Ripoti ya Usalama wa Jamii kuhusu kuzuia vurugu na masuala mengine ya usalama wa jamii, pamoja na ufanisi wa hatua zetu za kinga. Ripoti hiyo itaeleza jinsi tunavyofundisha mifumo yetu kutambua, kuchunguza na kushughulikia masuala ya usalama wa jamii. Tutashiriki mifano isiyotambulisha wahusika inayoonyesha jinsi madhara yanayohusiana na vurugu yanavyojitokeza na yale tunayojifunza, tutaangazia hatua mpya za kupunguza madhara na mabadiliko ya sera, na tutajumuisha data husika ili kuunga mkono matokeo haya.
Tutachapisha ripoti yetu ya kwanza mwanzoni mwa 2027, itakayohusu nusu ya pili ya 2026, huku tukitoa masasisho kila baada ya miezi sita kuanzia hapo. Ahadi yetu ni kushiriki matokeo yenye maana kuhusu jinsi tunavyotambua, kukagua, na kuchukua hatua kuhusu maudhui yanayoweza kuwa na madhara.
Miundo yetu imefunzwa kutotoa maelekezo yanayoweza kumsaidia mtu kupanga au kutekeleza vurugu. Sasa tunaweka vizuizi vya ziada kuhusu jinsi ChatGPT inavyojibu maswali kuhusu mashambulizi ya zamani dhidi ya watu wengi na watu walioyatekeleza, tukiuelekeza muundo kutoa maelezo machache zaidi kuhusu masuala hayo hata kama yanapatikana katika vyanzo vingine mtandaoni. Watu wanapaswa kuweza kuiomba ChatGPT iwasaidie kuelewa matukio haya na jinsi waathiriwa na jamii walivyoathirika, na kujifunza kutambua viashiria vya hatari na kuzuia vurugu siku zijazo. Hata hivyo, tunakaza sera zetu ili kuzuia maelezo yanayoonyesha jinsi mashambulizi ya zamani dhidi ya watu wengi yalivyotokea, yakiwemo maelezo kuhusu silaha na vifaa vilivyotumika na jinsi vilivyopatikana, pamoja na ulinganisho wa kina wa ukubwa wa madhara ambao unaweza kuongeza umaarufu mbaya wa mshambuliaji. Vizuizi hivi vinatumika bila kujali umri wa mtumiaji au sababu yake ya kuuliza.
Wakati mwingine, ombi linaloonekana kuwa la kawaida likitazamwa peke yake huwa na maana tofauti linapohusishwa na mazungumzo ya awali. Mwezi Mei, tulieleza jinsi ChatGPT inavyoweza kutumia mihtasari mifupi inayozingatia ukweli kuhusu viashiria vya hatari vya awali ili kujibu kwa uangalifu zaidi katika mazungumzo ya baadaye. Tunaendeleza kazi hiyo ili mazungumzo ya hivi karibuni yanapoonyesha viashiria vya uwezekano wa vurugu, ChatGPT iwe na tahadhari zaidi inapotoa taarifa zinazoweza kutumiwa vibaya. Pia tunajitahidi kutumia vizuizi hivyo vikali zaidi tunapokadiria kuwa mtu ana umri wa chini ya miaka 18, hata kama mazungumzo yake hayaonyeshi nia ya kufanya vurugu.
Tunapiga marufuku akaunti tunazobaini zimekiuka sera zetu kuhusu shughulli za vurugu. Pia tunashirikiana na wataalamu wa afya ya akili na wa kuzuia vurugu kubuni njia za ziada za kuingilia kati mapema kwa njia ya kiotomatiki. Mazungumzo yanapoonyesha ishara kwamba mtu anajikita katika mawazo ya vurugu au ya kumdhuru vibaya mtu mwingine, ChatGPT itaweza kumaliza mazungumzo kiotomatiki ili kukatiza mwenendo huo papo hapo. Ikiwa ChatGPT itamaliza mazungumzo kadhaa kwa sababu hiyo, tunaweza kusimamisha akaunti kwa muda. Hii ni juhudi inayoendelea, na tunaendelea kuimarisha na kuwekeza katika hatua za ulinzi za kiufundi na za vitendo, ikiwa ni pamoja na jinsi ya kutambua ishara za tahadhari kwa uhakika na kuamua wakati na jinsi ya kuingilia kati.
ChatGPT kwa Vijana hutumia hatua za ulinzi zinazofaa umri kwa watumiaji walio chini ya miaka 18, zikiwa na ulinzi thabiti zaidi na vizuizi vya ziada ili kupunguza kukabiliwa na maudhui nyeti. Sasa tunaweka vizuizi zaidi kwa taarifa zinazohusiana na silaha ambazo vijana wanaweza kupokea, hata swali linapoonekana kuwa halina madhara.
Sera zetu tayari zinakataza kumsaidia mtu yeyote kupanga au kutekeleza vitendo vya vurugu, na zinazuia kusaidia vijana kutafuta au kupata silaha. Tunapanua ulinzi huo ili kuzuia utoaji wa taarifa za vitendo kuhusu silaha na mifumo ya usalama ambazo zinaweza kutumiwa vibaya kuwezesha vurugu, hata wakati hakuna dalili ya nia ya kufanya vurugu. Vijana bado wanaweza kutumia ChatGPT kusaidia kuzuia na kupunguza makali ya vurugu, kutafuta usaidizi, na kuwasiliana na mtu mzima wanayemwamini.
Mwaka jana tulizindua ukadiriaji wa umri, unaochanganua viashiria mbalimbali kama vile mienendo ya tabia ili kukadiria kama mtumiaji anaweza kuwa chini au juu ya miaka 18. Tuliimarisha mfumo wetu wa ukadiriaji wa umri ili kutathmini kila mara viashiria vipya watu wanapotumia ChatGPT na kuwahamisha vijana hadi kwenye toleo la walio chini ya miaka 18 inapofaa. Watumiaji wanaowekwa kimakosa kwenye toleo la walio chini ya miaka 18 daima watakuwa na njia ya haraka inayolinda faragha ya kuthibitisha kuwa wao ni watu wazima na kuondolewa ulinzi wa ziada wa vijana kupitia Persona, mshirika wetu wa uthibitishaji wa umri.
Udhibiti wa wazazi huwawezesha wazazi kuunganisha akaunti zao za ChatGPT na akaunti za watoto wao walio katika umri wa ujana na kusimamia mipangilio ya usalama pamoja. Akaunti zilizounganishwa zinajumuisha arifa za usalama zinazoweza kutumwa wakaguzi waliofunzwa mahususi wanapobaini hatari kubwa ya kujidhuru na tabia zinazoweza kuhusishwa na ulaji usiofaa kiafya. Mwezi Julai, tulipanua wigo wa arifa hizo ili kuwajulisha wazazi ikiwa akaunti ya mtoto wao kijana imezimwa kwa kukiuka sera zetu za matumizi zinazohusu vurugu. Tunajitahidi kuanzisha arifa kwa wazazi ikiwa tutasimamisha akaunti ya mtoto wao kijana kwa muda kwa sababu ya kujadili vurugu mara kwa mara, kama ilivyoelezwa hapo juu.
Vitendo vya vurugu katika maisha halisi vinahuzunisha na vina utata, huku vikichangiwa na mambo mengi. Pia vinatukumbusha kwa uzito kwamba ni lazima tuendelee kubuni na kuboresha mifumo yetu kwa kuzingatia hali halisi ya tabia za binadamu, ambazo kwa asili zina utata. Kuunda kinga madhubuti dhidi ya vurugu katika mifumo ya AI kunahitaji kutatua matatizo mapya ya kutambua hatari na kuitikia ipasavyo, nasi tutaendelea kuwekeza, kuboresha mifumo yetu mara kwa mara, na kushiriki mafunzo kuhusu namna bora zaidi ya kutekeleza ulinzi tunaopania kuweka. Kinga zilizoelezwa hapa zitaanza kutekelezwa katika wiki chache zijazo, na tutaendelea kuziboresha. Tunaendelea kujitolea kupunguza hatari ya madhara katika ChatGPT, kuimarisha ulinzi wetu wa ngazi mbalimbali, kufuatilia matumizi mabaya, kutekeleza sheria zetu, na kuhusisha msaada na hatua za kuingilia kati katika maisha halisi pale hali inapohitaji.
