Қауымдастық қауіпсіздігі туралы есеп және жасөспірімдерді қорғаудың жаңа шаралары
ChatGPT — әлемдегі ең көп қолданылатын жасанды интеллект өнімдерінің бірі. Біз ықтимал зиянды анықтауға, алаңдаушылық тудыратын әрекеттерді тексеруге және негізді қауіп-қатерлерді қосымша қарауға жолдауға арналған саладағы ең озық жүйелердің кейбірін әзірлеуге инвестиция салдық. Осы бағыттағы жұмысымызды одан әрі дамыту үшін екі жаңалықты жариялап отырмыз: жаңа «Қауымдастықты қорғау шаралары туралы есеп» және кәмелетке толмағандар үшін атыс қаруына қатысты контентке қойылатын қосымша шектеулер.
Қауымдастықтардың қауіпсіздігін қамтамасыз ету OpenAI үшін басты басымдықтардың бірі болып қала береді. Біздің жұмысымыз жақын арада орын алуы мүмкін зорлық-зомбылық қаупі туралы құқық қорғау органдарына хабарлауды да қамтиды және 2026 жылдың үшінші тоқсанында құқық қорғау органдарына 200-ден астам хабарлама жолдадық. Бұл хабарламалар зорлық-зомбылық жоспарларының жолын кесуге оң(жаңа терезеде ашылады) ықпал(жаңа терезеде ашылады) етіп отыр. Күрделі жағдайларды бағалау үшін біз психикалық денсаулық пен мінез-құлық саласындағы сарапшылардың көмегіне сүйенуді жалғастырамыз.
Біз жасанды интеллект компанияларының құқық қорғау органдарымен, отбасы мүшелерімен, психикалық денсаулық саласындағы мамандармен және мемлекеттік саясатты қалыптастырушылармен қатар атқаратын өзіндік рөлі бар екенін түсінеміз. Бұл тараптардың тиісті өкілеттіктері, жағдайды терең түсінуі және нақты өмірде әрекет ету мүмкіндіктері аса маңызды. Біз осы рөлді барынша тиімді атқару үшін жүйелерімізді үздіксіз жетілдіруге, жинаған тәжірибемізбен бөлісуге және нақты өмірде тиісті шаралар қабылдай алатын тараптармен тікелей жұмыс істеуге бар күшімізді саламыз.
Біз адамдар мен қауымдастықтардың қауіпсіздігін қорғауға бағытталған шараларымызды үнемі күшейтіп отырамыз. Бұл сенімді қорғаныс тетіктерін әзірлеумен қатар, олардың қаншалықты тиімді жұмыс істейтінін және оларды жетілдіру үшін қандай шаралар қабылдап жатқанымызды ашық хабарлауды да білдіреді. Біз адамдарға өз тәсіліміз, модельдеріміздің зиянды әрекеттерді қалай анықтап, оларға қалай жауап беретіні, іс жүзінде қандай қауіп-қатерлерді байқайтынымыз және оларды шешу үшін қандай шара.
Біз зорлық-зомбылықтың алдын алу, қауымдастық қауіпсіздігіне қатысты басқа да мәселелер және қорғаныс тетіктеріміздің тиімділігі туралы «Қауымдастық қауіпсіздігі туралы есепті» жариялауға міндеттенеміз. Есепте жүйелерімізді қауымдастық қауіпсіздігіне қатысты мәселелерді анықтауға, тексеруге және оларға жауап беруге қалай үйрететініміз түсіндіріледі. Біз зорлық-зомбылыққа байланысты зиянның қалай көрініс табатынын көрсететін иесіздендірілген мысалдармен және осы жағдайлардан алған тәжірибемізбен бөлісеміз, қауіп-қатерлерді азайтудың жаңа шаралары мен саясатымыздағы өзгерістерге тоқталамыз, сондай-ақ тұжырымдарымызды растайтын тиісті деректерді ұсынамыз.
Біз 2026 жылдың екінші жартысын қамтитын алғашқы есебімізді 2027 жылдың басында жариялаймыз. Одан кейін әр алты ай сайын жаңартылған ақпарат ұсынып отырамыз. Біз ықтимал зиянды контентті қалай анықтайтынымыз, тексеретініміз және оған қалай жауап беретініміз туралы маңызды қорытындылармен бөлісуге міндеттенеміз.
Біздің модельдеріміз зорлық-зомбылықты жоспарлауға немесе жүзеге асыруға көмектесетін нұсқаулар бермеуге үйретілген. Енді біз ChatGPT‑дің бұрын болған жаппай шабуылдар мен оларды жасаған адамдар туралы сұрақтарға жауап беруіне қосымша шектеулер енгізіп жатырмыз. Мұндай ақпарат басқа интернет дереккөздерінде қолжетімді болса да, модель осы тақырыптар бойынша егжей-тегжейі азырақ ақпарат беретін болады. Адамдар ChatGPT көмегімен мұндай оқиғаларды түсініп, олардың зардап шеккен адамдар мен қауымдастықтарға қалай әсер еткенін біле алуы, сондай-ақ қауіптің алдын ала белгілерін тануды және болашақта зорлық-зомбылықтың алдын алуды үйрене алуы керек. Алайда біз бұрын болған жаппай шабуылдардың қалай жүзеге асырылғанын егжей-тегжейлі қайта сипаттауды, соның ішінде қолданылған қару-жарақ пен құрал-жабдықтар және олардың қалай алынғаны туралы мәліметтерді ұсынуды шектеу үшін саясатымызды қатаңдатып жатырмыз. Сондай-ақ шабуыл жасаған адамның танымалдығын арттыруы мүмкін келтірілген зиян ауқымын егжей-тегжейлі салыстыруға да шектеу қойылады. Бұл шектеулер пайдаланушының жасына немесе сұрақ қою себебіне қарамастан қолданылады.
Кейде жеке алғанда қалыпты көрінетін сұрау алдыңғы әңгімені ескергенде басқа мағынаға ие болады. Мамыр айында кейінгі чатта сақтықпен жауап беру үшін ChatGPT бұрын байқалған қауіп белгілерінің қысқа, нақты дерекке негізделген түйіндерін қалай пайдалана алатынын түсіндірдік. Біз осы жұмысты жалғастырып жатырмыз: жуырдағы чаттарда ықтимал зорлық-зомбылық белгілері байқалса, ChatGPT теріс мақсатта қолданылуы мүмкін ақпаратты бөліскенде бұрынғыдан сақтықпен жауап береді. Сондай-ақ пайдаланушыны 18 жасқа толмаған деп болжаған жағдайда, оның чаттарында зорлық-зомбылық ниеті байқалмаса да, осы қатаң шектеулерді қолдану бағытында жұмыс істеп жатырмыз.
Біз зорлық-зомбылық әрекеттеріне қатысты саясатымызды бұзғаны анықталған аккаунттарды бұғаттаймыз. Сондай-ақ психикалық денсаулық және зорлық-зомбылықтың алдын алу саласындағы сарапшылармен бірлесіп, қауіпті жағдайларға ертерек араласудың қосымша автоматтандырылған тәсілдерін әзірлеп жатырмыз. Егер әңгіме барысында адамның зорлық-зомбылыққа немесе басқа адамға ауыр зиян келтіру ойына шамадан тыс берілгенін көрсететін белгілер байқалса, ChatGPT мұндай үрдісті сол сәтте тоқтату үшін чатты автоматты түрде аяқтай алатын болады. Егер ChatGPT осы себеппен бірнеше чатты аяқтаса, біз аккаунттың жұмысын уақытша тоқтатуымыз мүмкін. Бұл бағыттағы жұмысымыз жалғасуда. Біз қауіпті алдын ала білдіретін белгілерді сенімді түрде анықтау және қашан әрі қалай араласу керектігін белгілеу тәсілдерін қоса алғанда, техникалық және практикалық қорғаныс шараларын үздіксіз жетілдіріп, оларды дамытуға инвестиция салуды жалғастырамыз.
Жасөспірімдерге арналған ChatGPT 18 жасқа толмаған пайдаланушыларға жас ерекшеліктеріне сай қауіпсіздік шараларын қолданады. Бұл шаралар сезімтал контентке тап болу ықтималдығын азайту үшін күшейтілген қорғаныс тетіктері мен қосымша шектеулерді қамтиды. Енді біз жасөспірімдерге қару-жараққа қатысты берілетін ақпаратқа, тіпті сұрақ зиянсыз болып көрінсе де, қосымша шектеулер енгізіп жатырмыз.
Қолданыстағы саясатымыз кез келген адамға зорлық-зомбылықты жоспарлауға немесе жүзеге асыруға көмектесуге тыйым салады, сондай-ақ жасөспірімдерге қару-жарақты табуға немесе алуға көмектесуді шектейді. Енді біз бұл қорғаныс шараларының аясын кеңейтіп, зорлық-зомбылық жасауға ықпал ету үшін теріс пайдаланылуы мүмкін қару-жарақ пен қауіпсіздік жүйелері туралы практикалық ақпарат беруге де шектеулер енгізіп жатырмыз. Бұл шектеулер зорлық-зомбылық жасау ниетінің ешқандай белгісі байқалмаса да қолданылады. Жасөспірімдер ChatGPT‑ді зорлық-зомбылықтың алдын алу, жағдайдың ушығуына жол бермеу, көмек сұрау және сенімді ересек адаммен байланысу үшін бұрынғыдай пайдалана алады.
Өткен жылы біз пайдаланушының жасы 18-ге толмағанын немесе одан асқанын болжау үшін мінез-құлық үлгілері сияқты түрлі белгілерді талдайтын жасты болжау функциясын іске қостық. Біз жасты болжау жүйесін жетілдірдік. Енді ол адамдар ChatGPT‑ді пайдаланған сайын жаңа белгілерді үздіксіз бағалап, қажет болған жағдайда жасөспірімдерді 18 жасқа толмағандарға арналған режимге ауыстырады. Бұл режимге қателесіп ауыстырылған пайдаланушылар жасын растау жөніндегі серіктесіміз Persona арқылы өздерінің кәмелетке толғанын жылдам әрі жеке деректерінің құпиялылығын сақтай отырып растап, жасөспірімдерге арналған қосымша қорғаныс шектеулерін алып тастай алады. Мұндай мүмкіндік әрқашан қолжетімді болады.
Біздің ата-ана бақылауы функциямыз ата-аналарға өздерінің ChatGPT аккаунттарын жасөспірім балаларының аккаунттарымен байланыстырып, қауіпсіздік параметрлерін бірлесіп басқаруға мүмкіндік береді. Байланыстырылған аккаунттарда қауіпсіздік ескертулері қарастырылған. Арнайы дайындықтан өткен тексерушілер өзіне зиян келтірудің елеулі қаупін және тамақтану тәртібінің бұзылуымен байланысты болуы мүмкін мінез-құлық белгілерін анықтаған жағдайда, мұндай ескертулер жіберілуі мүмкін. Шілде айында біз бұл ескертулердің аясын кеңейттік: енді жасөспірімнің аккаунты зорлық-зомбылыққа қатысты пайдалану саясатымызды бұзғаны үшін белсенді емес күйге ауыстырылса, ата-анасына хабар беріледі. Жоғарыда егжей-тегжейлі сипатталғандай, жасөспірім зорлық-зомбылықты қайта-қайта талқылағаны үшін оның аккаунтын уақытша тоқтатқан жағдайда, ата-анасына хабарлама жіберу мүмкіндігін енгізу бағытында жұмыс істеп жатырмыз.
Нақты өмірде орын алатын зорлық-зомбылық оқиғалары жанға батады әрі күрделі сипатқа ие, олардың туындауына көптеген фактор әсер етеді. Мұндай оқиғалар адам мінез-құлқының табиғатынан күрделі екенін ескере отырып, жүйелерімізді үздіксіз әзірлеп, жетілдіру қажеттігін де айқын еске салады. Жасанды интеллект жүйелерінде зорлық-зомбылықтан қорғаудың тиімді тетіктерін әзірлеу қауіп-қатерді анықтау және оған тиісті түрде жауап беру саласындағы жаңа мәселелерді шешуді талап етеді. Біз қолға алған қорғаныс шараларын барынша тиімді жүзеге асыру жолдарын зерттеуге инвестиция салуды, оларды үздіксіз жетілдіруді және жинаған тәжірибемізбен бөлісуді жалғастырамыз. Мұнда сипатталған қорғаныс шаралары алдағы бірнеше апта ішінде кезең-кезеңімен енгізіле бастайды. Біз оларды одан әрі жетілдіріп отырамыз. Біз ChatGPT‑дегі зиян келтіру қаупін азайтуға, көпдеңгейлі қорғаныс тетіктерімізді күшейтуге, теріс пайдалану жағдайларын бақылауға, ережелеріміздің сақталуын қамтамасыз етуге және қажет болған жағдайда нақты өмірде қолдау көрсету мен тиісті араласу шараларын қолдануға бағытталған жұмысымызды жалғастырамыз.
