Համայնքի անվտանգության մասին զեկույց և դեռահասների պաշտպանության նոր միջոցներ
ChatGPT‑ն աշխարհում ամենալայն կիրառություն ունեցող արհեստական բանականության արտադրանքներից մեկն է, և մենք ներդրումներ ենք կատարել ոլորտի ամենաառաջադեմ համակարգերից մի քանիսի մշակման գործում՝ հնարավոր վնասները հայտնաբերելու, մտահոգություն առաջացնող գործողությունները ուսումնասիրելու և արժանահավատ սպառնալիքների մասին համապատասխան մարմիններին տեղեկացնելու նպատակով։ Այս ուղղությամբ մեր աշխատանքներն առավել զարգացնելու համար ներկայացնում ենք երկու նորություն՝ Համայնքի անվտանգության ապահովման միջոցների մասին նոր զեկույց և անչափահասների համար հրազենի վերաբերյալ բովանդակության լրացուցիչ սահմանափակումներ։
Համայնքների անվտանգության ապահովումը շարունակում է առաջնահերթություն լինել OpenAI-ի համար։ Մեր աշխատանքը ներառում է իրավապահ մարմիններին բռնության անմիջական սպառնալիքների մասին տեղեկացնելը, և 2026 թվականի 3-րդ եռամսյակում մենք իրավապահ մարմիններին ավելի քան 200 հաղորդում ենք ներկայացրել։ Այս հաղորդումները դրական(բացվում է նոր պատուհանում) ազդեցություն(բացվում է նոր պատուհանում) են ունենում բռնի գործողությունների ծրագրերը խափանելու գործում, և մենք շարունակում ենք ապավինել հոգեկան առողջության և վարքագծի ոլորտների մասնագետներին, որոնք օգնում են մեզ գնահատել բարդ դեպքերը։
Մենք գիտակցում ենք, որ արհեստական բանականության ոլորտի ընկերություններն իրենց ուրույն դերն ունեն իրավապահ մարմինների, ընտանիքի անդամների, հոգեկան առողջության մասնագետների և քաղաքականություն մշակողների հետ համատեղ աշխատանքում։ Վերջիններս օժտված են անհրաժեշտ լիազորություններով, տիրապետում են իրավիճակի վերաբերյալ կարևոր տեղեկությունների և իրական կյանքում գործելու հնարավորություններ ունեն։ Մենք հանձնառու ենք առավելագույնս արդյունավետ իրականացնելու մեր դերը՝ շարունակաբար կատարելագործելով մեր համակարգերը, կիսվելով ձեռք բերած գիտելիքներով և անմիջականորեն համագործակցելով նրանց հետ, ովքեր իրական կյանքում գործելու լավագույն հնարավորություններն ունեն։
Մենք անընդհատ ուժեղացնում ենք մարդկանց և համայնքներին պաշտպանելու համար ձեռնարկվող քայլերը։ Դա նշանակում է ստեղծել ուժեղ պաշտպանական մեխանիզմներ, ինչպես նաև թափանցիկ լինել այն մասին, թե որքան լավ են դրանք աշխատում և ինչ ենք անում դրանք բարելավելու համար։ Մենք ցանկանում ենք մարդկանց հստակ պատկերացում տալ մեր մոտեցման մասին, այն մասին, թե ինչպես են մեր մոդելները հայտնաբերում վնասակար վարքագիծը և արձագանքում դրան, ինչպես նաև գործնականում հանդիպող ռիսկերի և դրանց հաղթահարման ուղղությամբ մեր ձեռնարկած քայլերի մասին։
Մենք պարտավորվում ենք հրապարակել Համայնքի անվտանգության մասին զեկույցը, որում կանդրադառնանք բռնության կանխարգելմանը, համայնքի անվտանգությանն առնչվող այլ խնդիրներին և մեր կիրառած պաշտպանական միջոցների արդյունավետությանը։ Զեկույցում կներկայացվի, թե ինչպես ենք ուսուցանում մեր համակարգերին հայտնաբերել, ուսումնասիրել և արձագանքել համայնքի անվտանգությանն առնչվող խնդիրներին։ Մենք կներկայացնենք անանուն օրինակներ, որոնք ցույց կտան, թե ինչպես է դրսևորվում բռնության հետ կապված վնասը, և ինչ ենք սովորում այդ դեպքերից։ Կանդրադառնանք նաև ռիսկերի նվազեցման նոր միջոցներին և քաղաքականության փոփոխություններին՝ ներկայացնելով համապատասխան տվյալներ, որոնք կհիմնավորեն մեր եզրահանգումները։
Մեր առաջին զեկույցը կհրապարակենք 2027 թվականի սկզբին՝ ընդգրկելով 2026 թվականի երկրորդ կիսամյակը։ Դրանից հետո զեկույցները կթարմացնենք յուրաքանչյուր վեց ամիսը մեկ։ Մենք հանձնառու ենք ներկայացնելու էական եզրահանգումներ այն մասին, թե ինչպես ենք հայտնաբերում, ուսումնասիրում և արձագանքում պոտենցիալ վնասակար բովանդակությանը։
Մեր մոդելներն ուսուցանված են չտրամադրել այնպիսի հրահանգներ, որոնք կարող են օգնել որևէ մեկին ծրագրել կամ իրականացնել բռնություն։ Այժմ մենք լրացուցիչ սահմանափակումներ ենք մտցնում այն հարցերի վերաբերյալ ChatGPT‑ի պատասխաններում, որոնք առնչվում են նախկինում տեղի ունեցած զանգվածային հարձակումներին և դրանք իրականացրած անձանց։ Այս թեմաներով մոդելը կտրամադրի ավելի քիչ մանրամասն տեղեկություններ, նույնիսկ եթե դրանք հասանելի են առցանց այլ աղբյուրներում։Մարդիկ պետք է հնարավորություն ունենան ChatGPT‑ի օգնությամբ հասկանալու այդ իրադարձությունները, դրանց ազդեցությունը տուժածների և համայնքների վրա, ինչպես նաև սովորելու ճանաչել նախազգուշացնող նշաններն ու կանխել բռնության հետագա դեպքերը։ Սակայն մենք խստացնում ենք մեր քաղաքականությունը՝ սահմանափակելով նախկինում տեղի ունեցած զանգվածային հարձակումների մանրամասն վերարտադրությունը, այդ թվում՝ օգտագործված զենքերի և սարքավորումների, ինչպես նաև դրանց ձեռքբերման եղանակների վերաբերյալ տեղեկությունների տրամադրումը։ Սահմանափակվում են նաև պատճառված վնասի մասշտաբների մանրամասն համեմատությունները, որոնք կարող են նպաստել հարձակումն իրականացրած անձի անցանկալի ճանաչելիության բարձրացմանը։ Այս սահմանափակումները կիրառվում են անկախ օգտատիրոջ տարիքից կամ հարցման նպատակից։
Երբեմն առանձին վերցրած սովորական թվացող հարցումը նախորդ զրույցի համատեքստում այլ իմաստ է ստանում։ Մայիսին մենք ներկայացրինք, թե ինչպես ChatGPT‑ն կարող է օգտագործել կարճ, փաստերի վրա հիմնված ամփոփումներ նախկինում նկատված վտանգի ազդանշանների մասին՝ հետագա զրույցում ավելի զգուշորեն պատասխանելու համար։ Մենք շարունակում ենք այս աշխատանքը, որպեսզի երբ վերջին զրույցներում հնարավոր բռնության վտանգի ազդանշաններ լինեն, ChatGPT‑ն ավելի զուսպ լինի այնպիսի տեղեկություններ տրամադրելիս, որոնք կարող են չարաշահվել։ Մենք նաև աշխատում ենք այդ ավելի խիստ սահմանափակումները կիրառել, երբ կանխատեսում ենք, որ օգտատերը 18 տարեկանից փոքր է, նույնիսկ եթե նրա զրույցներում բռնության մտադրության նշաններ չկան։
Մենք արգելափակում ենք այն հաշիվները, որոնց դեպքում պարզում ենք, որ խախտվել են բռնի գործողությունների վերաբերյալ մեր քաղաքականության դրույթները։ Մենք նաև համագործակցում ենք հոգեկան առողջության և բռնության կանխարգելման մասնագետների հետ՝ մշակելու ավելի վաղ փուլում միջամտելու լրացուցիչ ավտոմատացված եղանակներ։ Երբ զրույցում նկատվում են նշաններ, որ օգտատերը չափազանց սևեռված է բռնության կամ մեկ այլ անձի լուրջ վնաս պատճառելու մտքի վրա, ChatGPT‑ն կկարողանա ավտոմատ կերպով ավարտել զրույցը՝ տվյալ պահին ընդհատելով այդ վարքագծի կրկնվող դրսևորումը։ Եթե ChatGPT‑ն այդ նույն պատճառով բազմիցս ավարտի տվյալ օգտատիրոջ զրույցները, մենք կարող ենք ժամանակավորապես կասեցնել նրա հաշվի գործունեությունը։ Այս աշխատանքը շարունակական բնույթ է կրում, և մենք շարունակում ենք ամրապնդել ու ներդրումներ կատարել տեխնիկական և գործնական պաշտպանական միջոցների կատարելագործման ուղղությամբ, այդ թվում՝ նախազգուշացնող նշանների հուսալի հայտնաբերման և միջամտության անհրաժեշտությունը, ժամանակն ու եղանակը որոշելու համար։
ChatGPT դեռահասների համար տարբերակում մինչև 18 տարեկան օգտատերերի նկատմամբ կիրառվում են տարիքին համապատասխան անվտանգության միջոցներ՝ ավելի խիստ պաշտպանությամբ և լրացուցիչ սահմանափակումներով՝ զգայուն բովանդակության հետ առնչվելու հավանականությունը նվազեցնելու նպատակով։ Այժմ մենք լրացուցիչ սահմանափակումներ ենք մտցնում զենքի վերաբերյալ այն տեղեկությունների նկատմամբ, որոնք կարող են տրամադրվել դեռահասներին, նույնիսկ երբ հարցումն առաջին հայացքից անվնաս է թվում։
Մեր քաղաքականությունն արդեն իսկ արգելում է որևէ մեկին աջակցել բռնություն ծրագրելու կամ իրականացնելու հարցում, ինչպես նաև սահմանափակում է դեռահասներին զենք գտնելու կամ ձեռք բերելու հարցում օգնության տրամադրումը։ Այժմ մենք ընդլայնում ենք այդ պաշտպանական միջոցները՝ սահմանափակելով զենքի և անվտանգության համակարգերի վերաբերյալ գործնական տեղեկությունների տրամադրումը, որոնք հնարավոր է չարաշահել բռնության իրականացմանը նպաստելու նպատակով, նույնիսկ երբ բռնություն գործադրելու մտադրության որևէ նշան չկա։ Դեռահասները նախկինի պես կարող են օգտվել ChatGPT‑ից՝ բռնությունը կանխելու և լարվածությունը մեղմելու, աջակցություն ստանալու և վստահելի չափահասի հետ կապ հաստատելու համար։
Անցյալ տարի գործարկեցինք տարիքի կանխատեսման համակարգը, որը վերլուծում է տարբեր ազդակներ, այդ թվում՝ վարքագծային օրինաչափությունները՝ գնահատելու, թե արդյոք օգտատերը կարող է լինել 18 տարեկանից փոքր, թե մեծ։ Մենք կատարելագործել ենք տարիքի կանխատեսման մեր համակարգը, որպեսզի այն շարունակաբար գնահատի նոր ազդակները ChatGPT‑ից օգտվելու ընթացքում և անհրաժեշտության դեպքում դեռահասներին տեղափոխի մինչև 18 տարեկանների համար նախատեսված տարբերակ։ Այն օգտատերերը, որոնք սխալմամբ հայտնվել են մինչև 18 տարեկանների համար նախատեսված տարբերակում, միշտ հնարավորություն կունենան արագ և գաղտնիությունը պաշտպանող եղանակով հաստատելու իրենց չափահաս լինելը և հանելու դեռահասների համար նախատեսված լրացուցիչ սահմանափակումները՝ տարիքի ստուգման մեր գործընկեր Persona-ի միջոցով։
Մեր ծնողական վերահսկողության գործիքները ծնողներին հնարավորություն են տալիս իրենց ChatGPT հաշիվները կապել դեռահաս երեխաների հաշիվներին և համատեղ կառավարել անվտանգության կարգավորումները։ Կապակցված հաշիվների համար նախատեսված են անվտանգության ծանուցումներ, որոնք կարող են ուղարկվել, երբ հատուկ վերապատրաստում անցած մասնագետները հայտնաբերում են ինքնավնասման լուրջ վտանգ կամ վարքագծային դրսևորումներ, որոնք կարող են կապված լինել սննդային վարքագծի խանգարումների հետ։ Հուլիսին մենք ընդլայնեցինք այդ ծանուցումների կիրառությունը՝ ծնողներին տեղեկացնելու նաև այն դեպքերում, երբ նրանց դեռահաս երեխայի հաշիվն ապաակտիվացվում է բռնության վերաբերյալ մեր օգտագործման քաղաքականության դրույթները խախտելու պատճառով։ Մենք աշխատում ենք նաև ծնողներին ծանուցելու հնարավորություն ներդնելու ուղղությամբ, եթե նրանց դեռահաս երեխայի հաշվի գործունեությունը ժամանակավորապես կասեցվի բռնության թեմայով կրկնվող քննարկումների պատճառով, ինչպես նկարագրված է վերևում։
Իրական կյանքում տեղի ունեցող բռնության դեպքերը խորապես ցավալի և բարդ երևույթներ են, որոնց առաջացմանը նպաստում են բազմաթիվ գործոններ։ Դրանք նաև խիստ հիշեցում են, որ մենք պետք է շարունակաբար մշակենք և կատարելագործենք մեր համակարգերը՝ հաշվի առնելով մարդկային վարքագծին բնորոշ բարդ իրողությունները։ Արհեստական բանականության համակարգերում բռնությունից պաշտպանության արդյունավետ միջոցների մշակումը պահանջում է լուծել ռիսկերի ճանաչման և դրանց պատշաճ արձագանքման հետ կապված նոր մարտահրավերներ։ Մենք կշարունակենք ներդրումներ կատարել մեր մշակած պաշտպանական միջոցների կատարելագործման ուղղությամբ, շարունակաբար բարելավել դրանք և կիսվել ձեռք բերած փորձով ու գիտելիքներով՝ պարզելու, թե ինչպես կարելի է առավել արդյունավետ կերպով կիրառել այդ միջոցները։ Այստեղ ներկայացված պաշտպանական միջոցների ներդրումը կսկսվի առաջիկա մի քանի շաբաթների ընթացքում, և մենք կշարունակենք կատարելագործել դրանք։ Մենք շարունակում ենք հավատարիմ մնալ ChatGPT‑ում հնարավոր վնասների ռիսկերը նվազեցնելու, մեր բազմաշերտ պաշտպանական միջոցներն ամրապնդելու, չարաշահման դեպքերը վերահսկելու, մեր կանոնների պահպանումն ապահովելու և անհրաժեշտության դեպքում իրական կյանքում աջակցություն ու միջամտություն ապահովող մասնագետներին և կառույցներին ներգրավելու մեր հանձնառությանը։
