కమ్యూనిటీ భద్రతా నివేదిక మరియు టీనేజర్ల కోసం కొత్త రక్షణలు
ప్రపంచవ్యాప్తంగా అత్యధికంగా ఉపయోగిస్తున్న AI ఉత్పత్తుల్లో ChatGPT ఒకటి. హాని కలిగించే అంశాలను గుర్తించడం, ఆందోళనకర కార్యకలాపాలను సమీక్షించడం, తీవ్రమైన ముప్పులను ఉన్నతాధికారుల దృష్టికి తీసుకెళ్లడం కోసం రంగంలోనే అత్యంత అధునాతన వ్యవస్థలను నిర్మించేందుకు మేము నిరంతరం పెట్టుబడి పెడుతున్నాము. ఈ దిశగా మా భద్రతా చర్యలను మరింత ముందుకు తీసుకెళ్లేందుకు రెండు కీలక విషయాలను ప్రకటిస్తున్నాము: సరికొత్త 'కమ్యూనిటీ సేఫ్‌గార్డ్స్ రిపోర్ట్', అలాగే మైనర్లకు తుపాకుల కంటెంట్‌పై మరిన్ని ఆంక్షల విధింపు.
కమ్యూనిటీలను సురక్షితంగా ఉంచడం OpenAIకి అత్యంత ప్రాధాన్యంగా కొనసాగుతోంది. మా పనిలో హింసకు సంబంధించిన తక్షణ ముప్పులను చట్ట అమలు సంస్థల దృష్టికి తీసుకెళ్లడం కూడా ఉంది, అలాగే Q3 2026లో మేము చట్ట అమలు సంస్థలకు 200కు పైగా కేసులను సూచించాము. హింసాత్మక పథకాలను అడ్డుకోవడంలో ఈ సూచనలు సానుకూలమైన(కొత్త విండోలో తెరుచుకుంటుంది) ప్రభావాన్ని(కొత్త విండోలో తెరుచుకుంటుంది) చూపుతున్నాయి, అలాగే క్లిష్టమైన కేసులను అంచనా వేయడంలో మాకు సహాయపడటానికి మేము మానసిక ఆరోగ్య మరియు ప్రవర్తనా నిపుణులపై ఆధారపడటం కొనసాగిస్తున్నాము.
అవసరమైన అధికారాలు, సందర్భంపై అవగాహన, క్షేత్రస్థాయిలో చేరువయ్యే సామర్థ్యం కలిగిన చట్ట అమలు సంస్థలు, కుటుంబ సభ్యులు, మానసిక ఆరోగ్య నిపుణులు, విధాన రూపకర్తలతో పాటు AI కంపెనీలకూ ప్రత్యేక పాత్ర ఉందని మేము గుర్తిస్తున్నాం. మా వ్యవస్థలను నిరంతరం బలోపేతం చేస్తూ, నేర్చుకున్న విషయాలను పంచుకుంటూ, క్షేత్రస్థాయిలో చర్యలు తీసుకోగల సమర్థులైన వారితో నేరుగా కలిసి పనిచేస్తూ ఆ పాత్రను పూర్తిస్థాయిలో పోషించేందుకు మేము కట్టుబడి ఉన్నాం.
ప్రజలను, సమాజాలను రక్షించడంలో సహాయపడేందుకు మేము తీసుకునే చర్యలను నిరంతరం బలోపేతం చేస్తున్నాం. అంటే పటిష్టమైన రక్షణ చర్యలను నిర్మించడం, అలాగే అవి ఎంత బాగా పనిచేస్తున్నాయో మరియు వాటిని మెరుగుపరచడానికి మనం ఏమి చేస్తున్నామో పారదర్శకంగా తెలియజేయడం. మా విధానం, హానికర ప్రవర్తనను మా మోడళ్లు ఎలా గుర్తించి స్పందిస్తాయి, వాస్తవ వినియోగంలో మేము గమనించే ప్రమాదాలు, వాటి పరిష్కారానికి మేము తీసుకునే చర్యలపై ప్రజలకు స్పష్టమైన అవగాహన కల్పించడమే మా లక్ష్యం.
హింస నివారణ, ఇతర కమ్యూనిటీ భద్రతా సమస్యలు, మా రక్షణ చర్యల ప్రభావంపై కమ్యూనిటీ భద్రతా నివేదికను విడుదల చేయడానికి మేము కట్టుబడి ఉన్నాం. కమ్యూనిటీ భద్రతా సమస్యలను గుర్తించడానికి, దర్యాప్తు చేయడానికి, వాటిపై స్పందించడానికి మా సిస్టమ్‌లకు ఎలా శిక్షణ ఇస్తామో ఈ నివేదిక వివరిస్తుంది. హింసకు సంబంధించిన హాని ఏ రూపాల్లో కనిపిస్తోందో, మేము ఏమి నేర్చుకుంటున్నామో తెలిపే ఉదాహరణలను గుర్తింపు వివరాలు తొలగించి పంచుకుంటాం. కొత్త నివారణ చర్యలను, విధాన మార్పులను ప్రత్యేకంగా ప్రస్తావిస్తాం. ఈ నిర్ధారణలకు మద్దతుగా సంబంధిత డేటాను కూడా చేర్చుతాం.
2026 రెండో అర్ధభాగానికి సంబంధించిన మా మొదటి నివేదికను 2027 ప్రారంభంలో ప్రచురిస్తాము; ఆ తర్వాత ప్రతి ఆరు నెలలకు అప్‌డేట్‌లు ఇస్తాము. హాని కలిగించే అవకాశం ఉన్న కంటెంట్‌ను మేము ఎలా గుర్తిస్తాము, సమీక్షిస్తాము మరియు ప్రతిస్పందిస్తాము అనే దాని గురించి అర్థవంతమైన పరిశోధన ఫలితాలను పంచుకోవడమే మా నిబద్ధత.
ఎవరైనా హింసకు ప్రణాళిక రచించడానికి లేదా దాన్ని అమలు చేయడానికి తోడ్పడే సూచనలు ఇవ్వకుండా ఉండేలా మా మోడళ్లకు శిక్షణ ఇస్తాం. గతంలో పెద్ద సంఖ్యలో ప్రజలపై జరిగిన దాడులు, వాటికి పాల్పడిన వ్యక్తుల గురించి అడిగే ప్రశ్నలకు ChatGPT ఇచ్చే సమాధానాలపై ఇప్పుడు అదనపు పరిమితులు విధిస్తున్నాం. ఇతర ఆన్‌లైన్ వనరుల్లో సమాచారం అందుబాటులో ఉన్నా, ఈ అంశాలపై తక్కువ వివరాలనే అందించేలా మోడల్‌కు సూచిస్తున్నాం. ఈ ఘటనలను, బాధితులు, సమాజాలపై వాటి ప్రభావాన్ని అర్థం చేసుకోవడానికి, ప్రమాద సూచనలను గుర్తించడం, భవిష్యత్తులో హింసను నివారించడం గురించి తెలుసుకోవడానికి ప్రజలు ChatGPT సాయం కోరగలగాలి. అయితే, గతంలో పెద్ద సంఖ్యలో ప్రజలపై జరిగిన దాడులను పునర్నిర్మించే వివరాలను పరిమితం చేసేందుకు మా విధానాలను కఠినతరం చేస్తున్నాం. ఇందులో ఉపయోగించిన ఆయుధాలు, పరికరాలు, వాటిని ఎలా సంపాదించారనే వివరాలు, దాడికి పాల్పడిన వ్యక్తి అపఖ్యాతిని మరింత పెంచగల నష్టం స్థాయిపై సవివరమైన పోలికలు కూడా ఉన్నాయి. వినియోగదారు వయసు లేదా అడగడానికి కారణం ఏదైనా ఈ పరిమితులు వర్తిస్తాయి.
విడిగా చూస్తే సాధారణంగా అనిపించే అభ్యర్థన, కొన్నిసార్లు ముందరి సంభాషణ నేపథ్యంలో వేరే అర్థాన్ని సంతరించుకుంటుంది. మునుపటి ప్రమాద సూచనల సంక్షిప్త, వాస్తవాధారిత సారాంశాలను ChatGPT ఉపయోగించి తదుపరి సంభాషణలో మరింత జాగ్రత్తగా ఎలా స్పందించగలదో మేలో వివరించాం. ఆ కృషిని మరింత ముందుకు తీసుకెళ్తున్నాం. ఇటీవలి సంభాషణల్లో హింసకు దారితీయగల ప్రమాద సూచనలు కనిపిస్తే, దుర్వినియోగమయ్యే సమాచారాన్ని పంచుకునేటప్పుడు ChatGPT మరింత సంయమనంతో స్పందించేలా చేస్తున్నాం. వినియోగదారుల వయసు 18 ఏళ్లలోపు ఉంటుందని అంచనా వేసినప్పుడు, వారి సంభాషణల్లో హింసాత్మక ఉద్దేశాల సూచనలు లేకపోయినా ఈ కఠిన పరిమితులను వర్తింపజేసేందుకు కూడా కృషి చేస్తున్నాం.
మా హింసాత్మక కార్యకలాపాలపై విధానాలను ఉల్లంఘించాయని మేము నిర్ధారించిన ఖాతాలను నిషేధిస్తాం. మరింత ముందుగానే జోక్యం చేసుకోవడానికి అదనపు స్వయంచాలక మార్గాలపై మానసిక ఆరోగ్య, హింస నివారణ నిపుణులతో కూడా కలిసి పనిచేస్తున్నాం. ఎవరైనా హింస గురించే లేదా మరొకరికి తీవ్రమైన హాని కలిగించాలనే ఆలోచన గురించే పదేపదే ఆలోచిస్తున్నట్లు సంభాషణలో సూచనలు కనిపిస్తే, ఆ ధోరణికి అప్పటికప్పుడే అడ్డుకట్ట వేయడానికి ChatGPT స్వయంచాలకంగా చాట్‌ను ముగించగలదు. ఆ కారణంతో ChatGPT పలు చాట్‌లను ముగిస్తే, మేము ఆ ఖాతాను తాత్కాలికంగా నిలిపివేయవచ్చు. ఇది నిరంతరంగా కొనసాగే ప్రయత్నం. హెచ్చరిక సంకేతాలను ఖచ్చితంగా గుర్తించడం, ఎప్పుడు, ఎలా జోక్యం చేసుకోవాలో నిర్ణయించడంతో పాటు సాంకేతిక, ఆచరణాత్మక రక్షణలను మరింత పటిష్టం చేసేందుకు నిరంతరం కృషి చేస్తున్నాము.
టీనేజ్ వయసువారి కోసం ChatGPT 18 ఏళ్లలోపు వినియోగదారులకు వయసుకు తగిన భద్రతా చర్యలను వర్తింపజేస్తుంది. సున్నితమైన విషయాలు వారికి తక్కువగా ఎదురయ్యేలా పటిష్ఠమైన రక్షణలు, అదనపు పరిమితులు అమలు చేస్తుంది. ప్రశ్న హానికరం కాదని అనిపించినా, టీనేజ్ వయసువారు పొందగల ఆయుధాలకు సంబంధించిన సమాచారంపై మేము ఇప్పుడు మరిన్ని పరిమితులు విధిస్తున్నాం.
మా విధానాలు ఇప్పటికే ఎవరైనా హింసకు పాల్పడాలని పథకం వేయడంలో లేదా హింసను అమలు చేయడంలో సహాయం చేయడాన్ని నిషేధిస్తున్నాయి, అలాగే టీనేజర్లు ఆయుధాలను వెతకడం లేదా పొందడంలో సహాయం చేయడాన్ని పరిమితం చేస్తున్నాయి. హింసకు దోహదపడేలా దుర్వినియోగం చేయగల ఆయుధాలు, భద్రతా వ్యవస్థల గురించిన ఆచరణాత్మక సమాచారాన్ని కూడా పరిమితం చేసేలా ఆ రక్షణలను విస్తరిస్తున్నాము, హింసాత్మక ఉద్దేశం ఉన్నట్లు ఎలాంటి సూచన లేనప్పటికీ. టీనేజర్లు హింసను నివారించడంలో, దాని తీవ్రతను తగ్గించడంలో సహాయం పొందడానికి, మద్దతు కోరడానికి, అలాగే నమ్మకమైన పెద్దవారితో సంప్రదించడానికి ChatGPTని ఇప్పటికీ ఉపయోగించవచ్చు.
గత ఏడాది మేము వయసును అంచనా వేసే విధానాన్ని ప్రవేశపెట్టాం. ఇది ప్రవర్తనా సరళుల వంటి పలు సంకేతాలను విశ్లేషించి, వినియోగదారు వయసు 18 ఏళ్లలోపా, అంతకంటే ఎక్కువా అని అంచనా వేస్తుంది. ChatGPTని ఉపయోగిస్తున్నప్పుడు కనిపించే కొత్త సంకేతాలను నిరంతరం అంచనా వేయడానికి, అలాగే అవసరమైనప్పుడు టీనేజర్లను 18 ఏళ్లలోపు వారి వినియోగ విధానానికి మార్చడానికి మా వయసు అంచనా వ్యవస్థను మరింత బలోపేతం చేశాం. పొరపాటున 18 ఏళ్లలోపు వారి వినియోగ విధానంలోకి చేర్చినవారు, తాము పెద్దవారమని నిర్ధారించుకుని అదనపు టీనేజ్ రక్షణలను తొలగించుకునేందుకు వేగవంతమైన, గోప్యతను కాపాడే మార్గం ఎల్లప్పుడూ అందుబాటులో ఉంటుంది. మా వయసు ధృవీకరణ భాగస్వామి Persona ద్వారా ఈ ప్రక్రియ జరుగుతుంది.
మా పేరెంటల్ కంట్రోల్స్ ద్వారా తల్లిదండ్రులు తమ ChatGPT ఖాతాలను టీనేజ్ వయసులోని తమ పిల్లల ఖాతాలకు అనుసంధానించి, భద్రతా సెట్టింగ్‌లను కలిసి నిర్వహించవచ్చు. అనుసంధానించిన ఖాతాల్లో భద్రతా హెచ్చరికలు ఉంటాయి. ప్రత్యేక శిక్షణ పొందిన సమీక్షకులు తీవ్రమైన స్వీయహాని ప్రమాదాన్ని, ఆహారపు అలవాట్ల రుగ్మతలకు సంబంధించిన ప్రవర్తనలను గుర్తించినప్పుడు ఈ హెచ్చరికలు పంపవచ్చు. హింసకు సంబంధించిన మా వినియోగ విధానాలను ఉల్లంఘించినందుకు టీనేజ్ వయసులోని పిల్లల ఖాతా నిలిపివేయబడితే, తల్లిదండ్రులకు తెలియజేసేలా జూలైలో ఈ హెచ్చరికలను విస్తరించాం. పైన వివరించినట్లుగా, హింస గురించి పదేపదే చర్చించినందుకు వారి టీనేజ్ వయసులోని పిల్లల ఖాతాను మేము తాత్కాలికంగా నిలిపివేస్తే, తల్లిదండ్రులకు నోటిఫికేషన్‌లు పంపే విధానాన్ని ప్రవేశపెట్టేందుకు మేము కృషి చేస్తున్నాం.
నిజజీవిత హింసాత్మక ఘటనలు హృదయవిదారకమైనవి, సంక్లిష్టమైనవి. వాటికి అనేక అంశాలు దోహదపడతాయి. సహజంగానే సంక్లిష్టమైన మానవ ప్రవర్తనా వాస్తవాలను పరిగణనలోకి తీసుకుంటూ మా వ్యవస్థలను రూపకల్పన చేసి, నిరంతరం మెరుగుపరచాల్సిన అవసరాన్ని కూడా ఈ ఘటనలు బలంగా గుర్తుచేస్తాయి. AI వ్యవస్థల్లో హింసను నివారించేందుకు సమర్థవంతమైన రక్షణలను అభివృద్ధి చేయాలంటే, ప్రమాదాన్ని గుర్తించడంలోనూ తగిన విధంగా స్పందించడంలోనూ ఎదురయ్యే కొత్త రకమైన సమస్యలను పరిష్కరించాలి. మేము చేపడుతున్న రక్షణలను అత్యుత్తమంగా ఎలా అమలు చేయాలనే విషయంలో కృషి చేయడం, వాటిని నిరంతరం మెరుగుపరచడం, నేర్చుకున్న విషయాలను పంచుకోవడం కొనసాగిస్తాము. ఇక్కడ వివరించిన రక్షణలు రాబోయే కొన్ని వారాల్లో అందుబాటులోకి రావడం ప్రారంభమవుతుంది. వాటిని మరింత మెరుగుపరచడం కొనసాగిస్తాము. ChatGPTలో హాని ప్రమాదాలను తగ్గించడం, అంచెలంచెల రక్షణలను బలోపేతం చేయడం, దుర్వినియోగాన్ని పర్యవేక్షించడం, మా నిబంధనలను అమలు చేయడం, పరిస్థితి కోరినప్పుడు నిజజీవిత సహాయాన్ని, జోక్యాన్ని అందుబాటులోకి తీసుకురావడం పట్ల మా నిబద్ధత కొనసాగుతుంది.
