સમુદાયની સલામતી અંગેનો અહેવાલ અને કિશોરો માટેનાં નવા સુરક્ષા પગલાં

ChatGPT વિશ્વમાં સૌથી વધુ વપરાતા AI ઉત્પાદનો પૈકીનું એક છે. સંભવિત નુકસાન શોધવા, ચિંતાજનક પ્રવૃત્તિની સમીક્ષા કરવા અને વિશ્વસનીય ધમકીઓ યોગ્ય અધિકારીઓ સુધી પહોંચાડવા માટે અમે ઉદ્યોગની કેટલીક સૌથી અદ્યતન પ્રણાલીઓ બનાવવામાં રોકાણ કર્યું છે. આ ક્ષેત્રમાં અમારા કાર્યને આગળ વધારવા માટે અમે બે જાહેરાતો કરી રહ્યા છીએ: સમુદાયની સુરક્ષા માટેનાં પગલાં અંગેનો નવો અહેવાલ અને સગીરો માટે અગ્નિહથિયારો સંબંધિત સામગ્રી પર વધુ પ્રતિબંધો.

સમુદાયોને સુરક્ષિત રાખવું⁠ OpenAI માટે હજી પણ મુખ્ય પ્રાથમિકતા છે. અમારા કાર્યમાં હિંસાના નિકટવર્તી જોખમો વિશે કાયદા અમલીકરણ એજન્સીઓને જાણ કરવાનો સમાવેશ થાય છે અને Q3 2026માં અમે કાયદા અમલીકરણ એજન્સીઓને 200થી વધુ રેફરલ્સ મોકલ્યા. હિંસક કાવતરાઓને નિષ્ફળ બનાવવામાં આ રેફરલ્સ હકારાત્મક⁠(નવી વિન્ડોમાં ખૂલે છે) ફેરફાર⁠(નવી વિન્ડોમાં ખૂલે છે) લાવી રહ્યાં છે અને મુશ્કેલ કેસોનું મૂલ્યાંકન કરવામાં મદદ માટે અમે માનસિક સ્વાસ્થ્ય અને વર્તણૂકના નિષ્ણાતો પર ભરોસો રાખવાનું ચાલુ રાખીએ છીએ.

અમે સમજીએ છીએ કે કાયદા અમલીકરણ સંસ્થાઓ, પરિવારજનો, માનસિક આરોગ્યના નિષ્ણાતો અને નીતિ ઘડનારાઓની સાથે AI કંપનીઓની પણ એક વિશિષ્ટ ભૂમિકા છે. આ અન્ય પક્ષો જરૂરી સત્તા, પરિસ્થિતિની સમજ અને વાસ્તવિક જીવનમાં લોકો સુધી પહોંચવાની ક્ષમતા ધરાવે છે. અમારી પ્રણાલીઓને સતત વધુ મજબૂત કરીને, અમે જે શીખીએ તે વહેંચીને અને વાસ્તવિક જીવનમાં પગલાં લેવા માટે સૌથી સક્ષમ પક્ષો સાથે સીધું કામ કરીને અમે આ ભૂમિકાનો પૂરેપૂરો લાભ લેવા પ્રતિબદ્ધ છીએ.

લોકો અને સમુદાયોને સુરક્ષિત રાખવામાં મદદ કરવા માટે અમે જે પગલાં લઈએ છીએ તેમને સતત વધુ મજબૂત બનાવી રહ્યા છીએ. તેનો અર્થ છે મજબૂત સુરક્ષા વ્યવસ્થાઓ ઊભી કરવી, તેમજ તે કેટલી સારી રીતે કામ કરે છે અને તેમને વધુ મજબૂત કરવા અમે શું કરી રહ્યા છીએ તે અંગે પારદર્શક રહેવું. અમારા અભિગમ, અમારા મોડેલો નુકસાનકારક વર્તનને કેવી રીતે ઓળખે છે અને તેનો પ્રતિસાદ આપે છે, વાસ્તવિક ઉપયોગમાં અમને કયાં જોખમો દેખાય છે અને તેમને પહોંચી વળવા અમે કયાં પગલાં લઈએ છીએ તેનું સ્પષ્ટ ચિત્ર અમે લોકોને આપવા માંગીએ છીએ.

અમે હિંસા નિવારણ અને સમુદાયની સલામતીને લગતી અન્ય સમસ્યાઓ તેમજ અમારા સુરક્ષા ઉપાયોની અસરકારકતા અંગેનો સમુદાયની સલામતીનો અહેવાલ પ્રકાશિત કરવા પ્રતિબદ્ધ છીએ. આ અહેવાલ સમજાવશે કે સમુદાયની સલામતીને લગતી સમસ્યાઓ શોધવા, તપાસવા અને તેનો પ્રતિસાદ આપવા માટે અમે અમારી સિસ્ટમોને કેવી રીતે તાલીમ આપીએ છીએ. હિંસા સંબંધિત નુકસાન કેવી રીતે સામે આવે છે અને અમે તેમાંથી શું શીખી રહ્યા છીએ તેના અનામી બનાવેલા ઉદાહરણો અમે શેર કરીશું, નવા જોખમ-નિવારણ ઉપાયો અને નીતિમાં થયેલા ફેરફારોને ઉજાગર કરીશું અને આ તારણોને સમર્થન આપતો સંબંધિત ડેટા સામેલ કરીશું.

અમે 2027ની શરૂઆતમાં અમારો પ્રથમ અહેવાલ પ્રકાશિત કરીશું, જેમાં 2026ના બીજા બીજા છ મહિનાને આવરી લેવામાં આવશે. ત્યારબાદ દર છ મહિને અપડેટ્સ પ્રકાશિત કરીશું. સંભવિત રીતે હાનિકારક સામગ્રીને અમે કેવી રીતે ઓળખીએ છીએ, તેની સમીક્ષા કરીએ છીએ અને તેના પર પ્રતિસાદ આપીએ છીએ તે વિશે અર્થપૂર્ણ તારણો શેર કરવાની અમારી પ્રતિબદ્ધતા છે.

હિંસાનું આયોજન કરવામાં કે તેને આચરવામાં કોઈને મદદરૂપ થાય તેવી સૂચનાઓ ન આપવા માટે અમારા મોડલોને તાલીમ આપવામાં આવે છે. અગાઉ થયેલા સામૂહિક હુમલાઓ અને તેમને અંજામ આપનારા લોકો વિશેના પ્રશ્નોના ChatGPTના જવાબો પર હવે અમે વધારાનાં પ્રતિબંધો મૂકી રહ્યા છીએ. આવી માહિતી અન્ય ઑનલાઇન સ્રોતોમાં ઉપલબ્ધ હોય તો પણ આ વિષયો પર ઓછી વિગતો આપવા અમે મોડલને નિર્દેશ આપી રહ્યા છીએ. લોકો આ ઘટનાઓને સમજવા, પીડિતો અને સમુદાયો પર કેવી અસર થઈ હતી તે જાણવા, તેમજ ચેતવણીના સંકેતોને ઓળખવા અને ભવિષ્યની હિંસાને અટકાવવા વિશે શીખવામાં મદદ મેળવવા માટે ChatGPT ને પૂછી શકવા જોઈએ. પરંતુ અમે ભૂતકાળના સામૂહિક હુમલાઓના પુનઃનિર્માણ પર પ્રતિબંધ મૂકવા માટે અમારી નીતિઓને વધુ કડક બનાવી રહ્યા છીએ, જેમાં ઉપયોગમાં લેવાયેલા હથિયારો અને સાધનો તથા તે કેવી રીતે મેળવવામાં આવ્યા હતા તેની વિગતો, તેમજ હુમલાખોરની કુખ્યાતિને વધારી શકે તેવી નુકસાનના પ્રમાણની વિગતવાર સરખામણીઓનો સમાવેશ થાય છે. વપરાશકર્તાની ઉંમર અથવા પૂછવાના કારણને ધ્યાનમાં લીધા વિના આ મર્યાદાઓ લાગુ પડે છે.

ક્યારેક અલગથી જોતાં સામાન્ય લાગતી વિનંતીનો અગાઉની વાતચીતના સંદર્ભમાં જુદો અર્થ નીકળે છે. મે મહિનામાં અમે જણાવ્યું હતું કે પછીની વાતચીતમાં વધુ સાવચેતીપૂર્વક જવાબ આપવા માટે અગાઉના ચેતવણીના સંકેતોના ટૂંકા, તથ્યાત્મક સારાંશનો ChatGPT કેવી રીતે ઉપયોગ કરી શકે છે⁠. અમે આ કામને આગળ વધારી રહ્યા છીએ, જેથી તાજેતરની વાતચીતોમાં સંભવિત હિંસાના ચેતવણીના સંકેતો દેખાય ત્યારે, દુરુપયોગ થઈ શકે એવી માહિતી આપતી વખતે ChatGPT વધુ સંયમ રાખે. અમારા અનુમાન મુજબ કોઈની ઉંમર 18 વર્ષથી ઓછી હોય, તો તેમની વાતચીતોમાં હિંસક ઇરાદાના સંકેતો ન દેખાતા હોય છતાં આ વધુ કડક મર્યાદાઓ લાગુ કરવા માટે પણ અમે કામ કરી રહ્યા છીએ.

અમારી હિંસક પ્રવૃત્તિ સંબંધિત નીતિઓ⁠નું ઉલ્લંઘન કર્યું હોવાનું અમે નક્કી કરીએ તેવાં એકાઉન્ટ્સ પર અમે પ્રતિબંધ મૂકીએ છીએ. વહેલાસર હસ્તક્ષેપ કરવાની વધારાની, સ્વયંસંચાલિત રીતો પર પણ અમે માનસિક આરોગ્ય અને હિંસા નિવારણના નિષ્ણાતો સાથે કામ કરી રહ્યા છીએ. વાતચીતમાં એવા સંકેતો દેખાય કે કોઈ વ્યક્તિ સતત હિંસા કે અન્ય વ્યક્તિને ગંભીર નુકસાન પહોંચાડવાના વિચાર પર સતત ધ્યાન કેન્દ્રિત કરી રહી છે, ત્યારે તે જ ક્ષણે આ વલણને અટકાવવા માટે ChatGPT આપમેળે ચેટ સમાપ્ત કરી શકશે. જો ChatGPT આ કારણસર ઘણી વાર વાતચીત સમાપ્ત કરે, તો અમે એકાઉન્ટને થોડા સમય માટે સ્થગિત કરી શકીએ છીએ. આ એક સતત ચાલતો પ્રયાસ છે અને અમે તકનીકી તથા વ્યવહારુ સુરક્ષા પગલાંને વધુ મજબૂત બનાવવાનું અને તેમાં રોકાણ કરવાનું ચાલુ રાખીએ છીએ. આમાં ચેતવણીનાં સંકેતોને વિશ્વસનીય રીતે કેવી રીતે ઓળખવા અને ક્યારે તથા કેવી રીતે હસ્તક્ષેપ કરવો તે નક્કી કરવાનો પણ સમાવેશ થાય છે.

કિશોરો માટે ChatGPT⁠ 18 વર્ષથી ઓછી ઉંમરના વપરાશકર્તાઓ માટે વયને અનુરૂપ સુરક્ષા પગલાં લાગુ કરે છે, જેમાં સંવેદનશીલ સામગ્રીનો સંપર્ક ઓછો કરવા માટે વધુ મજબૂત સુરક્ષા અને વધારાની મર્યાદાઓ સામેલ છે. કિશોરો મેળવી શકે તેવી હથિયારો સંબંધિત માહિતી પર હવે અમે વધુ મર્યાદાઓ મૂકી રહ્યા છીએ, ભલે કોઈ પ્રશ્ન નુકસાનરહિત જણાતો હોય. 

અમારી નીતિઓ પહેલેથી જ કોઈને હિંસાનું આયોજન કરવામાં અથવા તે આચરવામાં મદદ કરવા પર પ્રતિબંધ મૂકે છે અને કિશોરોને શસ્ત્રો શોધવામાં અથવા મેળવવામાં મદદ કરવા પર મર્યાદા મૂકે છે. અમે આ સુરક્ષાઓનો વ્યાપ વધારીને શસ્ત્રો અને સુરક્ષા પ્રણાલીઓ વિશેની એવી વ્યવહારુ માહિતી પર પણ મર્યાદા મૂકી રહ્યા છીએ, જેનો હિંસાને આચરવામાં મદદ કરવા માટે દુરુપયોગ થઈ શકે છે—ભલે હિંસક ઇરાદાનો કોઈ સંકેત ન હોય. કિશોરો હિંસા અટકાવવા અને તેની તીવ્રતા ઘટાડવામાં, સહાય મેળવવામાં અને વિશ્વાસુ પુખ્ત વયની વ્યક્તિ સાથે સંપર્ક કરવામાં મદદ માટે ChatGPTનો ઉપયોગ હજી પણ કરી શકે છે. 

ગયા વર્ષે અમે ઉંમરનું અનુમાન⁠ શરૂ કર્યું હતું જે વપરાશકર્તા 18 વર્ષથી ઓછી ઉંમરના છે કે વધુ, તેનો અંદાજ કાઢવા માટે વર્તણૂકની રીતો જેવા બહુવિધ સંકેતોનું વિશ્લેષણ કરે છે. લોકો ChatGPTનો ઉપયોગ કરે તેમ નવા સંકેતોનું સતત મૂલ્યાંકન કરવા માટે અમે અમારી ઉંમર અનુમાન પ્રણાલીને વધુ મજબૂત બનાવી છે અને યોગ્ય હોય ત્યારે કિશોરોને 18 વર્ષથી ઓછી ઉંમરના વપરાશકર્તાઓ માટેના અનુભવમાં ખસેડીએ છીએ. જે વપરાશકર્તાઓને ભૂલથી 18 વર્ષથી ઓછી ઉંમરના વપરાશકર્તાઓ માટેના અનુભવમાં મૂકવામાં આવ્યા હોય, તેઓ અમારી વય ચકાસણી ભાગીદાર Persona મારફતે પોતે પુખ્ત હોવાનું પ્રમાણિત કરી શકે છે અને કિશોરો માટેનાં વધારાનાં સુરક્ષા પગલાં દૂર કરાવી શકે છે. આ માટે ઝડપી અને ગોપનીયતાનું રક્ષણ કરતી રીત હંમેશાં ઉપલબ્ધ રહેશે. 

અમારા પેરેન્ટલ કંટ્રોલ્સ⁠ માતા-પિતાને તેમનાં ChatGPT એકાઉન્ટને તેમનાં એકાઉન્ટ સાથે લિંક કરવાની અને સુરક્ષા સેટિંગ્સનું એકસાથે સંચાલન કરવાની મંજૂરી આપે છે. લિંક કરેલા એકાઉન્ટમાં સુરક્ષા ચેતવણીઓ⁠ સામેલ છે, જે ખાસ તાલીમ પામેલા સમીક્ષકોને પોતાને નુકસાન પહોંચાડવા અંગેની ગંભીર ચિંતા કે ખોરાક લેવાની અસ્વસ્થ રીતો સાથે સંકળાયેલું હોઈ શકે એવું વર્તન જણાય ત્યારે મોકલવામાં આવી શકે છે. જુલાઈમાં અમે આ ચેતવણીઓનો વ્યાપ વધાર્યો, જેથી હિંસા સંબંધિત અમારી ઉપયોગ નીતિઓના ઉલ્લંઘન બદલ કિશોરનું એકાઉન્ટ નિષ્ક્રિય કરવામાં આવે તો તેના માતા-પિતાને જાણ થાય. ઉપર જણાવ્યા મુજબ, વારંવાર હિંસા વિશે ચર્ચા કરવાને કારણે અમે તેમના કિશોરનું એકાઉન્ટ થોડા સમય માટે સ્થગિત કરીએ તો માતા-પિતાને સૂચનાઓ આપવાનું શરૂ કરવા માટે અમે કામ કરી રહ્યા છીએ.

વાસ્તવિક જીવનમાં હિંસાની ઘટનાઓ હૃદયદ્રાવક અને જટિલ હોય છે અને તેની પાછળ અનેક પરિબળો જવાબદાર હોય છે. આ ઘટનાઓ એ વાતની પણ સ્પષ્ટ યાદ અપાવે છે કે માનવીય વર્તનની સ્વભાવગત જટિલતાઓને ધ્યાનમાં રાખીને આપણે આપણી પ્રણાલીઓ ઘડવાનું અને સુધારવાનું ચાલુ રાખવું જોઈએ. AI પ્રણાલીઓમાં હિંસા સામે અસરકારક સુરક્ષા પગલાં વિકસાવવા માટે જોખમને ઓળખવા અને યોગ્ય રીતે પ્રતિસાદ આપવા સંબંધિત નવી સમસ્યાઓ ઉકેલવી જરૂરી છે અને અમે જે સુરક્ષા પગલાં અમલમાં મૂકવા માગીએ છીએ તેને શ્રેષ્ઠ રીતે લાગુ કરવાની રીત અંગે રોકાણ કરવાનું, સુધારા કરતા રહેવાનું અને શીખેલા પાઠ  શેર કરવાનું ચાલુ રાખીશું. અહીં વર્ણવેલા સુરક્ષા પગલાં આગામી થોડા અઠવાડિયામાં લાગુ થવા લાગશે અને અમે તેમાં સુધારા કરતા રહીશું. ChatGPTમાં નુકસાનનાં જોખમો ઘટાડવા, અમારી બહુસ્તરીય સુરક્ષા મજબૂત કરવા, દુરુપયોગ પર નજર રાખવા, અમારા નિયમોનો અમલ કરાવવા અને પરિસ્થિતિની જરૂરિયાત મુજબ વાસ્તવિક જીવનમાં સહાય અને હસ્તક્ષેપની વ્યવસ્થાઓને સામેલ કરવા અમે પ્રતિબદ્ધ છીએ.