کمیونٹی کی حفاظت سے متعلق رپورٹ اور نوعمر صارفین کے تحفظ کے لیے نئے اقدامات

ChatGPT دنیا میں سب سے زیادہ استعمال ہونے والی AI پروڈکٹس میں سے ایک ہے، اور ہم نے ممکنہ نقصانات کا پتا لگانے، تشویش ناک سرگرمیوں کا جائزہ لینے اور قابلِ اعتبار خطرات کو متعلقہ ٹیموں تک پہنچانے کے لیے اس شعبے کے چند جدید ترین سسٹمز تیار کرنے میں سرمایہ کاری کی ہے. اس شعبے میں اپنی کوششوں کو مزید آگے بڑھانے کے لیے ہم دو نئے اقدامات کا اعلان کر رہے ہیں: کمیونٹی کے تحفظ سے متعلق ایک نئی رپورٹ اور نابالغ صارفین کے لیے آتشیں اسلحے سے متعلق مواد پر مزید پابندیاں.

کمیونٹیز کو محفوظ رکھنا⁠ OpenAI کی اولین ترجیحات میں شامل ہے. ہماری کوششوں میں تشدد کے فوری خطرات سے قانون نافذ کرنے والے اداروں کو آگاہ کرنا بھی شامل ہے، اور 2026 کی تیسری سہ ماہی میں ہم نے 200 سے زیادہ معاملات ایسے اداروں کو رپورٹ کیے. ان رپورٹس سے تشدد کے منصوبوں کو ناکام بنانے میں مثبت⁠(نئی ونڈو میں کھلتا ہے) نتائج⁠(نئی ونڈو میں کھلتا ہے) سامنے آ رہے ہیں، اور ہم پیچیدہ معاملات کا جائزہ لینے کے لیے ذہنی صحت اور انسانی رویوں کے ماہرین کی مدد بھی مسلسل حاصل کر رہے ہیں.

ہم تسلیم کرتے ہیں کہ قانون نافذ کرنے والے اداروں، خاندان کے افراد، ذہنی صحت کے ماہرین اور پالیسی سازوں کے ساتھ مل کر AI کمپنیوں کا بھی ایک منفرد کردار ہے. ان تمام فریقوں کے پاس ضروری اختیارات، حالات کی سمجھ بوجھ اور حقیقی دنیا میں مؤثر اقدامات کرنے کی صلاحیت موجود ہے. ہم اپنے سسٹمز کو مسلسل مضبوط بنا کر، حاصل ہونے والی معلومات اور تجربات کا اشتراک کرکے، اور حقیقی دنیا میں مؤثر اقدامات کرنے کی بہترین صلاحیت رکھنے والے افراد اور اداروں کے ساتھ براہِ راست کام کرکے اپنے اس کردار کو بھرپور طریقے سے ادا کرنے کے لیے پُرعزم ہیں.

ہم لوگوں اور کمیونٹیز کے تحفظ کے لیے اپنے اقدامات کو مسلسل مضبوط بنا رہے ہیں. اس میں نہ صرف مؤثر حفاظتی اقدامات تیار کرنا شامل ہے، بلکہ اس بارے میں شفافیت برقرار رکھنا بھی شامل ہے کہ یہ اقدامات کتنے مؤثر ہیں اور ہم انہیں مزید بہتر بنانے کے لیے کیا کر رہے ہیں. ہم چاہتے ہیں کہ لوگوں کو ہمارے طریقہ کار، ہمارے ماڈلز کے نقصان دہ رویوں کی شناخت کرنے اور ان پر ردعمل دینے کے طریقوں، عملی طور پر سامنے آنے والے خطرات، اور ان سے نمٹنے کے لیے ہمارے اقدامات کی واضح سمجھ حاصل ہو.

ہم تشدد کی روک تھام، کمیونٹی کی حفاظت سے متعلق دیگر مسائل اور اپنے حفاظتی اقدامات کی مؤثریت پر کمیونٹی سیفٹی رپورٹ جاری کرنے کا عہد کر رہے ہیں. اس رپورٹ میں وضاحت کی جائے گی کہ ہم کمیونٹی کی حفاظت سے متعلق مسائل کا پتا لگانے، ان کی تحقیقات کرنے اور ان سے نمٹنے کے لیے اپنے سسٹمز کو کس طرح تربیت دیتے ہیں. ہم شناخت ظاہر کیے بغیر ایسی مثالیں پیش کریں گے جو واضح کریں گی کہ تشدد سے متعلق نقصانات کس طرح سامنے آتے ہیں اور ہم ان سے کیا سیکھ رہے ہیں. اس کے علاوہ، ہم خطرات کو کم کرنے کے نئے اقدامات اور پالیسیوں میں تبدیلیوں کو اجاگر کریں گے، اور ان نتائج کی تائید کے لیے متعلقہ ڈیٹا بھی فراہم کریں گے.

ہم اپنی پہلی رپورٹ 2027 کے اوائل میں شائع کریں گے، جس میں 2026 کی دوسری ششماہی کا احاطہ کیا جائے گا. اس کے بعد ہر چھ ماہ بعد تازہ ترین معلومات فراہم کی جائیں گی. ہمارا عزم ہے کہ ہم اس بارے میں اہم نتائج اور معلومات کا اشتراک کریں کہ ہم ممکنہ طور پر نقصان دہ مواد کی شناخت، اس کا جائزہ اور اس سے نمٹنے کے لیے کس طرح اقدامات کرتے ہیں.

ہمارے ماڈلز کو اس طرح تربیت دی گئی ہے کہ وہ ایسی ہدایات فراہم نہ کریں جو کسی کو تشدد کی منصوبہ بندی کرنے یا اس پر عمل کرنے میں مدد دے سکتی ہوں. اب ہم ماضی میں ہونے والے بڑے پیمانے پر حملوں اور انہیں انجام دینے والے افراد سے متعلق سوالات پر ChatGPT کے جوابات کے لیے مزید پابندیاں عائد کر رہے ہیں. ان موضوعات پر ماڈل کو کم تفصیلی معلومات فراہم کرنے کی ہدایت دی جا رہی ہے، چاہے ایسی معلومات دیگر آن لائن ذرائع پر دستیاب ہی کیوں نہ ہوں.لوگوں کو ChatGPT سے ان واقعات کو سمجھنے، متاثرین اور کمیونٹیز پر ان کے اثرات جاننے، خطرے کی انتباہی علامات پہچاننے اور مستقبل میں تشدد کی روک تھام کے طریقوں کے بارے میں معلومات حاصل کرنے کی سہولت ہونی چاہیے. تاہم، ہم اپنی پالیسیوں کو مزید سخت کر رہے ہیں تاکہ ماضی میں ہونے والے بڑے پیمانے پر حملوں کی تفصیلی منظرکشی کو محدود کیا جا سکے. اس میں استعمال ہونے والے ہتھیاروں اور آلات کی تفصیلات، انہیں حاصل کرنے کے طریقے، اور ہونے والے نقصانات کی شدت اور پیمانے کے تفصیلی تقابل شامل ہیں، جو حملہ آور کی شہرت کو مزید بڑھا سکتے ہیں.یہ پابندیاں صارف کی عمر یا سوال پوچھنے کی وجہ سے قطع نظر، تمام صارفین پر لاگو ہوتی ہیں.

بعض اوقات کوئی درخواست بظاہر عام نوعیت کی ہوتی ہے، لیکن سابقہ گفتگو کے تناظر میں اس کا مطلب مختلف ہو سکتا ہے. مئی میں ہم نے بتایا تھا کہ ChatGPT کس طرح پہلے سامنے آنے والی انتباہی علامات کے بارے میں مختصر اور حقائق پر مبنی خلاصوں کا استعمال کر سکتا ہے⁠، تاکہ بعد کی گفتگو میں زیادہ احتیاط سے جواب دے سکے.ہم اس کام کو مزید آگے بڑھا رہے ہیں، تاکہ جب حالیہ گفتگوؤں میں ممکنہ تشدد کی انتباہی علامات سامنے آئیں، تو ChatGPT ایسی معلومات فراہم کرتے وقت زیادہ احتیاط برتے جن کا غلط استعمال کیا جا سکتا ہے.ہم ان سخت پابندیوں کو ایسے صارفین پر بھی لاگو کرنے کے لیے کام کر رہے ہیں جن کی عمر ہمارے اندازے کے مطابق 18 سال سے کم ہے، چاہے ان کی گفتگوؤں میں تشدد کے ارادے کی کوئی علامت موجود نہ ہو.

ہم ایسے اکاؤنٹس پر پابندی عائد کرتے ہیں جن کے بارے میں ہم یہ تعین کرتے ہیں کہ انہوں نے تشدد پر مبنی سرگرمیوں سے متعلق ہماری پالیسیوں⁠ کی خلاف ورزی کی ہے. ہم ذہنی صحت اور تشدد کی روک تھام کے ماہرین کے ساتھ مل کر ابتدائی مرحلے میں مداخلت کے مزید خودکار طریقوں پر بھی کام کر رہے ہیں.جب کسی گفتگو میں یہ علامات ظاہر ہوں کہ کوئی شخص تشدد یا کسی دوسرے شخص کو شدید نقصان پہنچانے کے خیال پر مسلسل توجہ مرکوز کر رہا ہے، تو ChatGPT اس رویے کے تسلسل کو اسی وقت روکنے کے لیے خودکار طور پر گفتگو ختم کر سکے گا. اگر ChatGPT اسی وجہ سے متعدد گفتگوئیں ختم کرتا ہے، تو ہم متعلقہ اکاؤنٹ کو عارضی طور پر معطل کر سکتے ہیں.یہ کوشش مسلسل جاری ہے، اور ہم تکنیکی اور عملی حفاظتی اقدامات کو مزید مضبوط بنانے اور ان میں سرمایہ کاری کرنے کا عمل جاری رکھے ہوئے ہیں. اس میں انتباہی علامات کی قابلِ اعتماد طریقے سے شناخت کرنا اور یہ تعین کرنا بھی شامل ہے کہ کب اور کس طرح مداخلت کی جانی چاہیے.

ChatGPT for Teens⁠ کے تحت 18 سال سے کم عمر صارفین کے لیے عمر کے مطابق حفاظتی اقدامات نافذ کیے جاتے ہیں، جن میں حساس مواد تک رسائی کو کم کرنے کے لیے زیادہ مضبوط تحفظات اور اضافی پابندیاں شامل ہیں. اب ہم نوعمر صارفین کو فراہم کی جانے والی ہتھیاروں سے متعلق معلومات پر مزید پابندیاں عائد کر رہے ہیں، چاہے ان کا سوال بظاہر بے ضرر ہی کیوں نہ ہو. 

ہماری موجودہ پالیسیاں پہلے ہی کسی بھی شخص کو تشدد کی منصوبہ بندی کرنے یا اس پر عمل کرنے میں مدد فراہم کرنے کی ممانعت کرتی ہیں، اور نوعمر صارفین کو ہتھیار تلاش کرنے یا حاصل کرنے میں مدد دینے پر پابندیاں عائد کرتی ہیں. اب ہم ان حفاظتی اقدامات کو مزید وسعت دے رہے ہیں، تاکہ ہتھیاروں اور سیکیورٹی سسٹمز سے متعلق ایسی عملی معلومات کی فراہمی کو محدود کیا جا سکے جن کا تشدد میں سہولت فراہم کرنے کے لیے غلط استعمال ہو سکتا ہے، چاہے تشدد کے ارادے کی کوئی علامت موجود نہ ہو. نوعمر صارفین اب بھی تشدد کی روک تھام، کشیدگی کم کرنے، مدد حاصل کرنے اور کسی قابلِ اعتماد بالغ فرد سے رابطہ کرنے کے لیے ChatGPT استعمال کر سکتے ہیں. 

گزشتہ سال ہم نے عمر کا اندازہ لگانے کا نظام⁠ متعارف کرایا تھا، جو صارف کے رویوں کے نمونوں سمیت مختلف سگنلز کا تجزیہ کرکے یہ اندازہ لگاتا ہے کہ آیا صارف کی عمر 18 سال سے کم ہے یا زیادہ. ہم نے عمر کا اندازہ لگانے کے اپنے نظام کو مزید مضبوط بنایا ہے، تاکہ لوگ جیسے جیسے ChatGPT استعمال کریں، یہ نئے سگنلز کا مسلسل جائزہ لیتا رہے اور مناسب ہونے پر نوعمر صارفین کو 18 سال سے کم عمر افراد کے لیے مخصوص تجربے میں منتقل کر سکے.جن صارفین کو غلطی سے 18 سال سے کم عمر افراد کے لیے مخصوص تجربے میں شامل کر دیا جائے، ان کے پاس ہمیشہ یہ تصدیق کرنے کا ایک تیز اور رازداری کا تحفظ کرنے والا طریقہ موجود ہوگا کہ وہ بالغ ہیں. اس تصدیق کے بعد وہ عمر کی تصدیق کے لیے ہمارے شراکت دار Persona کے ذریعے نوعمر صارفین کے لیے نافذ اضافی حفاظتی پابندیاں ہٹوا سکیں گے. 

ہمارے پیرنٹل کنٹرولز⁠ والدین کو اپنے ChatGPT اکاؤنٹس اپنے نوعمر بچوں کے اکاؤنٹس سے منسلک کرنے اور حفاظتی سیٹنگز کا مل کر انتظام کرنے کی سہولت دیتے ہیں. منسلک اکاؤنٹس میں حفاظتی الرٹس⁠ بھی شامل ہیں، جو اس وقت بھیجے جا سکتے ہیں جب خصوصی تربیت یافتہ جائزہ لینے والے ماہرین خود کو نقصان پہنچانے سے متعلق کسی سنگین خدشے یا کھانے پینے کی غیر صحت مند عادات سے وابستہ ممکنہ رویوں کی نشاندہی کریں.جولائی میں ہم نے ان الرٹس کا دائرہ بڑھایا، تاکہ والدین کو اس صورت میں بھی اطلاع دی جا سکے جب تشدد سے متعلق ہماری استعمال کی پالیسیوں کی خلاف ورزی پر ان کے نوعمر بچے کا اکاؤنٹ غیر فعال کر دیا جائے. ہم والدین کے لیے ایسے نوٹیفکیشنز متعارف کرانے پر بھی کام کر رہے ہیں جو انہیں اس صورت میں مطلع کریں گے جب تشدد کے بارے میں بار بار گفتگو کرنے کی وجہ سے ان کے نوعمر بچے کا اکاؤنٹ عارضی طور پر معطل کیا جائے، جیسا کہ اوپر تفصیل سے بیان کیا گیا ہے.

حقیقی دنیا میں تشدد کے واقعات انتہائی افسوس ناک اور پیچیدہ ہوتے ہیں، جن کے پیچھے کئی عوامل کارفرما ہوتے ہیں. یہ واقعات ہمیں اس حقیقت کی بھی شدت سے یاد دہانی کراتے ہیں کہ ہمیں انسانی رویوں کی فطری پیچیدگیوں کو مدنظر رکھتے ہوئے اپنے سسٹمز کو مسلسل ڈیزائن اور بہتر بناتے رہنا چاہیے.AI سسٹمز میں تشدد کی روک تھام کے لیے مؤثر حفاظتی اقدامات تیار کرنے کی خاطر خطرات کی شناخت اور ان سے  مناسب طریقے سے نمٹنے سے متعلق نئے اور پیچیدہ مسائل حل کرنا ضروری ہے. ہم ان حفاظتی اقدامات کو بہترین طریقے سے نافذ کرنے کے لیے سرمایہ کاری، مسلسل بہتری اور حاصل ہونے والے تجربات اور معلومات کے اشتراک کا عمل جاری رکھیں گے.یہاں بیان کردہ حفاظتی اقدامات آئندہ چند ہفتوں میں مرحلہ وار متعارف کرائے جانے شروع ہوں گے، اور ہم انہیں مسلسل بہتر بناتے رہیں گے.ہم ChatGPT میں ممکنہ نقصانات کے خطرات کو کم کرنے، اپنے کثیر سطحی حفاظتی اقدامات کو مضبوط بنانے، غلط استعمال کی نگرانی کرنے، اپنے قواعد نافذ کرنے، اور ضرورت پڑنے پر حقیقی دنیا میں مدد اور مداخلت فراہم کرنے والے متعلقہ افراد اور اداروں کو شامل کرنے کے لیے پُرعزم ہیں.