تقرير سلامة المجتمع وتدابير حماية جديدة للمراهقين

يُعدّ ChatGPT أحد أكثر منتجات الذكاء الاصطناعي استخدامًا في العالم، وقد استثمرنا في بناء بعض من أكثر الأنظمة تقدّمًا في القطاع لرصد الأضرار المحتملة، ومراجعة الأنشطة المثيرة للقلق، وإحالة التهديدات الجدية إلى الجهات المعنية. ونعلن عن أمرين لمواصلة عملنا في هذا المجال: تقرير جديد عن تدابير حماية المجتمع، وفرض مزيد من القيود على المحتوى المتعلق بالأسلحة النارية الذي يمكن للقاصرين تلقيه.

الحفاظ على سلامة المجتمعات⁠ يظل أولوية قصوى لدى OpenAI. يشمل عملنا تنبيه جهات إنفاذ القانون إلى التهديدات الوشيكة بوقوع أعمال عنف، وقد أجرينا أكثر من 200 إحالة إلى جهات إنفاذ القانون في الربع الثالث من عام 2026. وتسهم هذه الإحالات إيجابيًا⁠(يفتح في نافذة جديدة) في إحداث فرق⁠(يفتح في نافذة جديدة) في تعطيل المخططات العنيفة، ونواصل الاستعانة بخبراء الصحة النفسية والسلوك لمساعدتنا على تقييم الحالات الصعبة.

ندرك أن لشركات الذكاء الاصطناعي دورًا مميزًا تؤديه إلى جانب جهات إنفاذ القانون وأفراد الأسرة والمتخصصين في الصحة النفسية وصنّاع السياسات، الذين يجمعون بين الصلاحيات والمعرفة بالسياق والقدرة على الوصول إلى المعنيين على أرض الواقع، وهي عناصر بالغة الأهمية. ونحن ملتزمون بالاستفادة القصوى من هذا الدور من خلال تعزيز أنظمتنا باستمرار، ومشاركة ما نتعلّمه، والعمل مباشرةً مع الأطراف الأقدر على اتخاذ إجراءات في العالم الحقيقي.

نعمل باستمرار على تعزيز الإجراءات التي نتخذها للمساعدة في حماية الأفراد والمجتمعات. وهذا يعني بناء تدابير حماية قوية، والتحلي أيضًا بالشفافية بشأن مدى فعاليتها وما نفعله لتعزيزها. نريد أن نقدم للناس صورة واضحة عن نهجنا، وكيفية رصد نماذجنا للسلوك الضار واستجابتها له، والمخاطر التي نلاحظها عمليًا، والخطوات التي نتخذها لمعالجتها.

نلتزم بإصدار تقرير سلامة المجتمع حول الوقاية من العنف وغيرها من قضايا سلامة المجتمع، وفعالية تدابيرنا الوقائية. سيوضح التقرير كيفية تدريب أنظمتنا على اكتشاف قضايا سلامة المجتمع والتحقيق فيها والاستجابة لها. وسنشارك أمثلة منزوعة الهوية توضّح كيف يظهر الضرر المرتبط بالعنف وما نتعلمه، ونسلط الضوء على تدابير جديدة للحد من المخاطر وتغييرات في السياسات، ونضمّن بيانات ذات صلة لدعم هذه النتائج.

سننشر تقريرنا الأول في أوائل 2027، وسيتناول النصف الثاني من 2026، ثم سنحدّثه كل ستة أشهر بعد ذلك. ونلتزم بمشاركة نتائج مهمة حول كيفية تحديد المحتوى الذي قد يكون ضارًا ومراجعته والاستجابة له.

دُرّبت نماذجنا على عدم تقديم تعليمات من شأنها مساعدة أي شخص على التخطيط للعنف أو ارتكابه. ونفرض الآن قيودًا إضافية على كيفية استجابة ChatGPT للأسئلة المتعلقة بهجمات سابقة استهدفت أعدادًا كبيرة من الأشخاص وبمن نفّذوها، وذلك بتوجيه النموذج إلى تقديم معلومات أقل تفصيلًا في هذه المجالات، حتى لو كانت متاحة من مصادر أخرى على الإنترنت. ينبغي أن يتمكّن الناس من طلب مساعدة ChatGPT لفهم هذه الأحداث، وكيف تأثّر الضحايا والمجتمعات بها، والتعرّف على كيفية رصد الإشارات التحذيرية والوقاية من العنف مستقبلًا. لكننا نشدّد سياساتنا لتقييد إعادة بناء تفاصيل الهجمات الجماعية السابقة، بما في ذلك تفاصيل الأسلحة والمعدات المستخدمة وكيفية الحصول عليها، والمقارنات التفصيلية لحجم الأضرار التي قد تزيد من شهرة المهاجم. وتنطبق هذه القيود بغض النظر عن عمر المستخدم أو سبب سؤاله.

أحيانًا يكتسب طلب يبدو عاديًا بحد ذاته معنى مختلفًا في ضوء محادثة سابقة. في مايو، أوضحنا كيف يمكن لـ ChatGPT استخدام ملخّصات موجزة تستند إلى الوقائع⁠ بشأن إشارات تحذيرية سابقة للاستجابة بحذر أكبر في دردشة لاحقة. ونواصل تطوير هذا العمل بحيث يستجيب ChatGPT بمزيد من التحفّظ عند مشاركة معلومات قد يُساء استخدامها، إذا أظهرت الدردشات الأخيرة إشارات تحذيرية إلى احتمال وقوع عنف. ونعمل أيضًا على تطبيق هذه القيود الأكثر صرامة عندما نتوقّع أن عمر شخص ما أقل من 18 عامًا، حتى لو لم تُظهر دردشاته أي مؤشرات على نيّة ارتكاب العنف.

نحظر الحسابات التي نقرر أنها انتهكت سياساتنا المتعلقة بالأنشطة العنيفة⁠. ونعمل أيضًا مع خبراء في الصحة النفسية والوقاية من العنف على إيجاد سبل آلية إضافية للتدخل في وقت أبكر. عندما تظهر محادثة مؤشرات على انشغال شخص بالعنف على نحو مفرط أو بفكرة إلحاق أذى جسيم بشخص آخر، سيتمكن ChatGPT من إنهاء الدردشة تلقائيًا لقطع هذا النمط في حينه. وإذا أنهى ChatGPT عدة دردشات لهذا السبب، فقد نعلق الحساب مؤقتًا. وهذه جهود مستمرة، ونواصل تعزيز تدابير الحماية التقنية والعملية والاستثمار فيها، بما في ذلك كيفية التعرف على العلامات التحذيرية بشكل موثوق وتحديد توقيت التدخل وكيفيته.

ChatGPT للمراهقين⁠ يطبّق تدابير حماية ملائمة للعمر للمستخدمين دون 18 عامًا، مع توفير حماية أقوى وفرض قيود إضافية للحد من التعرّض للمحتوى الحساس. ونفرض الآن مزيدًا من القيود على المعلومات المتعلقة بالأسلحة التي يمكن للمراهقين تلقيها، حتى عندما يبدو السؤال غير ضار. 

تحظر سياساتنا بالفعل مساعدة أي شخص على التخطيط لأعمال عنف أو تنفيذها، وتقيّد المساعدة المقدمة للمراهقين للعثور على الأسلحة أو الحصول عليها. ونوسّع نطاق هذه الحمايات لتشمل تقييد المعلومات العملية عن الأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها لتسهيل العنف، حتى في غياب أي مؤشر على نية لممارسة العنف. ولا يزال بإمكان المراهقين استخدام ChatGPT للمساعدة في منع العنف وخفض تصعيده، وطلب الدعم، والتواصل مع شخص بالغ يثقون به. 

أطلقنا العام الماضي نظام التنبؤ بالعمر⁠، الذي يحلّل إشارات متعددة، مثل أنماط السلوك، لتقدير ما إذا كان عمر المستخدم أقل من 18 عامًا أو أكثر. عززنا نظام التنبؤ بالعمر ليقيّم باستمرار إشارات جديدة أثناء استخدام الأشخاص ChatGPT، وينقل المراهقين إلى تجربة من هم دون 18 عامًا عند الاقتضاء. وستظل متاحة دائمًا للمستخدمين الذين يُدرجون خطأً في تجربة من هم دون 18 عامًا طريقة سريعة تحمي خصوصيتهم لتأكيد بلوغهم سن الرشد وإزالة تدابير الحماية الإضافية الخاصة بالمراهقين عبر Persona، شريكنا للتحقق من العمر. 

تتيح أدوات الرقابة الأبوية⁠ لدينا للوالدين ربط حساباتهم في ChatGPT بحسابات أبنائهم المراهقين وإدارة إعدادات السلامة معًا. تتضمن الحسابات المرتبطة تنبيهات السلامة⁠ التي قد تُرسل عندما يرصد مراجعون تلقوا تدريبًا خاصًا مؤشرات مقلقة على خطر جدي لإيذاء النفس وسلوكيات قد ترتبط بأنماط أكل مضطربة. في يوليو، وسعنا نطاق هذه التنبيهات لإخطار الوالدين إذا جرى تعطيل حساب ابنهم المراهق أو ابنتهم المراهقة بسبب مخالفة سياسات الاستخدام لدينا المتعلقة بالعنف. ونعمل على إتاحة إشعارات للوالدين إذا علقنا حساب ابنهم المراهق أو ابنتهم المراهقة بسبب تكرار مناقشة العنف، على النحو المفصل أعلاه.

أعمال العنف في العالم الحقيقي مؤلمة ومعقدة، وتتضافر عوامل كثيرة في حدوثها. وهي تذكرنا بوضوح أيضًا بضرورة مواصلة تصميم أنظمتنا وتحسينها لمراعاة واقع السلوك البشري المعقد بطبيعته. يتطلب تطوير تدابير حماية فعالة للوقاية من العنف في أنظمة الذكاء الاصطناعي حل مشكلات جديدة في التعرف على المخاطر والاستجابة لها على نحو مناسب وسنواصل الاستثمار في هذه التدابير وتحسينها ومشاركة الدروس المستفادة  حول أفضل السبل لتطبيق تدابير الحماية التي نسعى إلى إرسائها. سيبدأ طرح تدابير الحماية المفصلة هنا خلال الأسابيع القليلة المقبلة وسنواصل تحسينها. ونظل ملتزمين بالحد من مخاطر الضرر في ChatGPT، وتعزيز تدابير الحماية المتعددة المستويات لدينا، ورصد إساءة الاستخدام، وإنفاذ قواعدنا، والاستعانة بالدعم والتدخلات في العالم الحقيقي عندما تستدعي الظروف ذلك.