समुदायाच्या सुरक्षिततेवरील अहवाल आणि किशोरवयीनांसाठी नवीन संरक्षणात्मक उपाय

ChatGPT हे जगातील सर्वाधिक वापरल्या जाणाऱ्या AI उत्पादनांपैकी एक आहे आणि संभाव्य हानी ओळखण्यासाठी, चिंताजनक हालचालींचे परीक्षण करण्यासाठी आणि विश्वासार्ह धोक्यांची माहिती पुढील कारवाईसाठी संबंधित यंत्रणांपर्यंत पोहोचवण्यासाठी उद्योगातील काही अत्याधुनिक प्रणाली विकसित करण्यात आम्ही गुंतवणूक केली आहे. या क्षेत्रातील आमचे कार्य पुढे नेण्यासाठी आम्ही दोन घोषणा करत आहोत: समुदायाच्या सुरक्षिततेवरील नवीन अहवाल आणि अल्पवयीनांसाठी बंदुकांशी संबंधित आशयावरील अधिक निर्बंध.

समुदायांना सुरक्षित ठेवणे⁠ हे OpenAI साठी सर्वोच्च प्राधान्यांपैकी एक आहे. आमच्या कामात हिंसाचाराच्या आसन्न धोक्यांकडे कायद्याची अंमलबजावणी करणाऱ्या यंत्रणांचे लक्ष वेधणे समाविष्ट आहे, आणि आम्ही Q3 2026 मध्ये 200 हून अधिक प्रकरणे या यंत्रणांकडे पाठवली. ही प्रकरणे यंत्रणांकडे पाठवल्यामुळे हिंसक कट उधळून लावण्यात सकारात्मक⁠(नवीन विंडोमध्ये उघडेल) बदल⁠(नवीन विंडोमध्ये उघडेल) घडत आहे, आणि गुंतागुंतीच्या प्रकरणांचे मूल्यमापन करण्यात मदत मिळावी म्हणून आम्ही मानसिक आरोग्य आणि वर्तनविषयक तज्ज्ञांची मदत घेत आहोत.

कायदा अंमलबजावणी यंत्रणा, कुटुंबीय, मानसिक आरोग्यतज्ज्ञ आणि धोरणकर्ते यांच्यासोबत AI कंपन्यांचीही एक स्वतंत्र भूमिका आहे, याची आम्हाला जाणीव आहे. या घटकांकडे आवश्यक अधिकार, परिस्थितीची जाण आणि प्रत्यक्ष जगात लोकांपर्यंत पोहोचण्याची क्षमता असते. आमच्या प्रणालींना सातत्याने अधिक बळकट करून, शिकलेल्या गोष्टी इतरांना सांगून आणि प्रत्यक्ष जगात कृती करण्यास सर्वाधिक सक्षम असलेल्यांसोबत थेट काम करून ही भूमिका पूर्ण क्षमतेने निभावण्यास आम्ही कटिबद्ध आहोत.

लोकांचे आणि समुदायांचे संरक्षण करण्यासाठी आम्ही करत असलेल्या उपाययोजना सातत्याने अधिक बळकट करत आहोत. याचा अर्थ भक्कम सुरक्षा उपाय उभारणे, तसेच ते किती प्रभावी आहेत आणि त्यांना अधिक बळकट करण्यासाठी आम्ही काय करत आहोत याबाबत पारदर्शक राहणे. आमचा दृष्टिकोन, आमची मॉडेल्स हानिकारक वर्तन कसे ओळखतात आणि त्याला कसा प्रतिसाद देतात, प्रत्यक्षात आम्हाला कोणत्या जोखमी दिसतात आणि त्यांना हाताळण्यासाठी आम्ही कोणती पावले उचलतो, याचे स्पष्ट चित्र लोकांसमोर मांडायचे आहे.

आम्ही हिंसा प्रतिबंध आणि इतर समुदाय सुरक्षा विषयांवर तसेच आमच्या संरक्षणात्मक उपाययोजनांच्या कार्यक्षमतेवर समुदाय सुरक्षा अहवाल प्रकाशित करण्याचे वचन देत आहोत. हा अहवाल आमच्या प्रणालींना समुदाय सुरक्षा समस्या कशा ओळखायच्या, तपासायच्या आणि प्रतिसाद द्यायच्या याचे प्रशिक्षण कसे दिले जाते हे स्पष्ट करेल. आम्ही हिंसा संबंधित मॅनिफेस्ट कशी प्रकट होते याची अनामिक उदाहरणे आणि आम्ही काय शिकत आहोत ते शेअर करू, नवीन शमन उपाय आणि धोरण बदलांना अधोरेखित करू, आणि या निष्कर्षांना आधार देण्यासाठी संबंधित डेटा समाविष्ट करू.

आम्ही 2027 च्या सुरुवातीला आमचा पहिला अहवाल प्रकाशित करू. या अहवालात २०२६ च्या दुसऱ्या सहामाहीचा समावेश असेल आणि त्यानंतर दर सहा महिन्यांनी अद्यतने दिली जातील. संभाव्यतः हानिकारक आशय आम्ही कसा ओळखतो, त्याचे पुनरावलोकन कसे करतो आणि त्याला कसा प्रतिसाद देतो याबद्दलचे अर्थपूर्ण निष्कर्ष सामायिक करण्यास आम्ही कटिबद्ध आहोत.

आमच्या मॉडेल्सना हिंसेची योजना आखण्यास किंवा ती प्रत्यक्षात घडवण्यास कोणाला मदत होईल अशा सूचना न देण्यासाठी प्रशिक्षित केले जाते. पूर्वी झालेल्या सामूहिक हल्ल्यांबद्दल आणि ते करणाऱ्या व्यक्तींबद्दलच्या प्रश्नांना ChatGPT कसा प्रतिसाद देते, यावर आम्ही आता अतिरिक्त निर्बंध आणत आहोत. इतर ऑनलाइन स्रोतांवर माहिती उपलब्ध असली, तरी अशा विषयांबाबत मॉडेलने कमी तपशील द्यावा, असे आम्ही निर्देशित करत आहोत. या घटना समजून घेण्यासाठी, त्यांचा पीडित व्यक्तींवर आणि समुदायांवर झालेला परिणाम जाणून घेण्यासाठी, तसेच धोक्याचे संकेत ओळखणे आणि भविष्यातील हिंसा रोखणे याबद्दल शिकण्यासाठी लोकांना ChatGPT ची मदत घेता आली पाहिजे. मात्र, पूर्वीच्या सामूहिक हल्ल्यांची पुनर्मांडणी, त्यात वापरलेली शस्त्रे आणि उपकरणे तसेच ती कशी मिळवली याचे तपशील, आणि हानीच्या प्रमाणाच्या अशा तपशीलवार तुलना ज्यामुळे हल्लेखोराची कुप्रसिद्धी वाढू शकते, यांवर निर्बंध आणण्यासाठी आम्ही आमची धोरणे अधिक कठोर करत आहोत. वापरकर्त्याचे वय किंवा प्रश्न विचारण्याचे कारण काहीही असले, तरी या मर्यादा लागू होतात.

कधी कधी स्वतंत्रपणे पाहता साधी वाटणारी विनंती, आधीच्या संभाषणाचा संदर्भ लक्षात घेतल्यावर वेगळाच अर्थ धारण करते. नंतरच्या संभाषणात अधिक सावधपणे प्रतिसाद देण्यासाठी, आधी दिसलेल्या धोक्याच्या संकेतांचे संक्षिप्त, तथ्याधारित सारांश ChatGPT कसे वापरू शकते⁠, हे आम्ही मे महिन्यात सांगितले. आम्ही त्या कामाच्या पुढील टप्प्यावर काम करत आहोत. त्यामुळे अलीकडील संभाषणांत संभाव्य हिंसेचे संकेत दिसल्यास, गैरवापर होऊ शकणारी माहिती देताना ChatGPT अधिक सावध भूमिका घेईल. एखाद्या व्यक्तीचे वय 18 वर्षांखालील असल्याचा आमचा अंदाज असल्यास, तिच्या संभाषणांत हिंसक हेतूचे संकेत नसले तरी या अधिक कडक मर्यादा लागू करण्यावरही आम्ही काम करत आहोत.

आमच्या हिंसक कृत्यांबाबतच्या धोरणांचे⁠ उल्लंघन केल्याचे आम्हाला आढळते अशा खात्यांवर आम्ही बंदी घालतो. आधीच हस्तक्षेप करता यावा यासाठी आम्ही मानसिक आरोग्य आणि हिंसाप्रतिबंध क्षेत्रांतील तज्ज्ञांसोबत आणखी काही स्वयंचलित मार्गांवरही काम करत आहोत. जेव्हा संभाषणातून अशी चिन्हे दिसतात की, एखादी व्यक्ती हिंसाचारावर किंवा दुसऱ्या व्यक्तीला गंभीर इजा पोहोचवण्याच्या कल्पनेवरच लक्ष केंद्रित करत आहे, त्या क्षणी ही साखळी तोडण्यासाठी ChatGPT ते संभाषण आपोआप संपवू शकेल. या कारणामुळे ChatGPT ने अनेक संभाषणे संपवली, तर आम्ही खाते तात्पुरते स्थगित करू शकतो. हे प्रयत्न सातत्याने सुरू आहेत आणि आम्ही तांत्रिक व व्यावहारिक संरक्षणात्मक उपाय अधिक बळकट करत आहोत आणि त्यांत गुंतवणूक करत आहोत. यात धोक्याची चिन्हे विश्वासार्हपणे कशी ओळखायची आणि हस्तक्षेप कधी व कसा करायचा हे ठरवण्याचाही समावेश आहे.

किशोरवयीन मुलांसाठी ChatGPT⁠ 18 वर्षांखालील वापरकर्त्यांसाठी वयानुरूप सुरक्षा उपाय लागू करते. संवेदनशील आशयाचा संपर्क कमी करण्यासाठी अधिक कडक संरक्षण आणि अतिरिक्त मर्यादा असतात. प्रश्न निरुपद्रवी वाटत असला तरी, किशोरवयीनांना मिळू शकणाऱ्या शस्त्रांशी संबंधित माहितीवर आम्ही आता आणखी मर्यादा घालत आहोत. 

आमची धोरणे आधीपासूनच कोणालाही हिंसेचे नियोजन करण्यास किंवा ती घडवून आणण्यास मदत करण्यास मनाई करतात आणि किशोरवयीनांना शस्त्रे शोधण्यात किंवा मिळवण्यात मदत करण्यावर मर्यादा घालतात. हिंसेचा हेतू असल्याचे कोणतेही संकेत नसतानाही, हिंसा घडवून आणण्यासाठी गैरवापर होऊ शकणारी शस्त्रे आणि सुरक्षा प्रणालींबद्दलची व्यावहारिक माहिती देण्यावर मर्यादा घालण्यासाठी आम्ही या संरक्षणाचा विस्तार करत आहोत. किशोरवयीन हिंसा रोखण्यासाठी आणि ती कमी करण्यासाठी, मदत मिळवण्यासाठी आणि विश्वासू प्रौढ व्यक्तीशी संपर्क साधण्यासाठी ChatGPT चा वापर करू शकतात. 

गेल्या वर्षी आम्ही वयाचा अंदाज लावणारी प्रणाली⁠ सुरू केली. वापरकर्ता 18 वर्षांखालील असू शकतो की त्याहून मोठा, याचा अंदाज घेण्यासाठी ती वर्तनातील कलांसारख्या अनेक संकेतांचे विश्लेषण करते. लोक ChatGPT वापरत असताना मिळणाऱ्या नव्या संकेतांचे सतत मूल्यमापन करण्यासाठी आणि योग्य असेल तेव्हा किशोरवयीनांना 18 वर्षांखालील वापरकर्त्यांच्या अनुभवात हलवण्यासाठी आम्ही आमची वयाचा अंदाज लावणारी प्रणाली अधिक सक्षम केली. चुकून 18 वर्षांखालील वापरकर्त्यांच्या अनुभवात ठेवलेल्या वापरकर्त्यांना ते प्रौढ असल्याची खात्री करण्याचा आणि किशोरवयीनांसाठीची अतिरिक्त संरक्षणे Persona या आमच्या वय पडताळणी भागीदारामार्फत काढून टाकण्याचा जलद, गोपनीयता जपणारा मार्ग नेहमी उपलब्ध असेल. 

आमच्या पॅरेंटल कंट्रोल्स⁠ मुळे पालकांना त्यांची ChatGPT खाती त्यांच्या किशोरवयीन मुलांच्या खात्यांशी जोडता येतात आणि सुरक्षा सेटिंग्ज एकत्रितपणे व्यवस्थापित करता येतात. जोडलेल्या खात्यांमध्ये सुरक्षाविषयक सूचनांचा⁠ समावेश असतो. विशेष प्रशिक्षण घेतलेल्या परीक्षकांना स्वतःला इजा करण्याची गंभीर जोखीम किंवा खाण्यापिण्याच्या विकृत सवयींशी संबंधित असू शकणारे वर्तन आढळल्यास अशा सूचना पाठवल्या जाऊ शकतात. जुलैमध्ये आम्ही या सूचनांची व्याप्ती वाढवली. आता हिंसेबाबतच्या आमच्या वापर धोरणांचे उल्लंघन केल्यामुळे किशोरवयीन मुलाचे खाते निष्क्रिय केले असल्यास पालकांना कळवले जाते. वर सविस्तर सांगितल्याप्रमाणे, हिंसेबद्दल वारंवार चर्चा केल्यामुळे आम्ही किशोरवयीन मुलाचे खाते तात्पुरते स्थगित केल्यास, त्याच्या पालकांना सूचना देण्याची सुविधा सुरू करण्यावर आम्ही काम करत आहोत.

प्रत्यक्ष जगातील हिंसक घटना हृदयद्रावक आणि गुंतागुंतीच्या असतात. त्यामागे अनेक कारणे असतात. या घटना आपल्याला मानवी वर्तनातील स्वाभाविक गुंतागुंत लक्षात घेऊन आपल्या प्रणालींची रचना आणि त्यांत सुधारणा करत राहण्याची गरजही प्रकर्षाने जाणवून देतात. AI प्रणालींमध्ये हिंसा रोखण्यासाठी प्रभावी सुरक्षा उपाय विकसित करताना जोखीम ओळखणे आणि योग्य प्रतिसाद देणे यांतील नव्या प्रकारच्या समस्यांवर उपाय शोधणे आवश्यक आहे. आम्ही विकसित करत असलेल्या संरक्षणात्मक उपायांची सर्वोत्तम अंमलबजावणी कशी करता येईल यासाठी आम्ही गुंतवणूक करत राहू, सुधारणा करत राहू आणि शिकलेले धडे  सामायिक करत राहू. येथे तपशीलवार दिलेले सुरक्षा उपाय पुढील काही आठवड्यांत लागू होण्यास सुरुवात होईल आणि आम्ही त्यांत सुधारणा करत राहू. ChatGPT मधील हानीची जोखीम कमी करणे, आमचे बहुस्तरीय सुरक्षा उपाय बळकट करणे, गैरवापरावर लक्ष ठेवणे, नियमांची अंमलबजावणी करणे आणि परिस्थितीनुसार प्रत्यक्ष जगातील मदत व हस्तक्षेपाची जोड देणे, यांसाठी आम्ही कटिबद्ध आहोत.