گزارش ایمنی جامعه و تدابیر حفاظتی جدید برای نوجوانان
ChatGPT یکی از پرکاربردترین محصولات AI در جهان است و ما برای توسعه برخی از پیشرفته‌ترین سامانه‌های این صنعت برای شناسایی آسیب‌های احتمالی، بررسی فعالیت‌های نگران‌کننده و ارجاع تهدیدهای معتبر به مراجع مسئول سرمایه‌گذاری کرده‌ایم. برای پیشبرد کارمان در این حوزه، دو خبر را اعلام می‌کنیم: انتشار گزارش جدید تدابیر ایمنی جامعه و اعمال محدودیت‌های بیشتر بر محتوای مربوط به سلاح گرم برای افراد زیر سن قانونی.
حفظ ایمنی جوامع همچنان از اولویت‌های اصلی OpenAI است. اقدامات ما شامل آگاه کردن نهادهای مجری قانون از تهدیدهای قریب‌الوقوع خشونت‌آمیز است و در سه‌ماههٔ سوم سال ۲۰۲۶ بیش از ۲۰۰ مورد را به این نهادها ارجاع داده‌ایم. این ارجاع‌ها در خنثی‌سازی نقشه‌های خشونت‌آمیز تأثیر(در یک پنجره جدید باز می‌شود) مثبتی(در یک پنجره جدید باز می‌شود) دارند و ما همچنان برای ارزیابی موارد دشوار به کمک متخصصان سلامت روان و علوم رفتاری تکیه می‌کنیم.
ما می‌دانیم که شرکت‌های AI در کنار نهادهای مجری قانون، اعضای خانواده، متخصصان سلامت روان و سیاست‌گذاران که از اختیارات ضروری، شناخت شرایط و توانایی اقدام در دنیای واقعی برخوردارند، نقش متمایزی بر عهده دارند. ما متعهدیم با تقویت مستمر سامانه‌هایمان، به اشتراک گذاشتن آموخته‌هایمان و همکاری مستقیم با کسانی که در بهترین موقعیت برای اقدام در دنیای واقعی قرار دارند، این نقش را به بهترین شکل ایفا کنیم.
ما پیوسته اقداماتی را که برای کمک به حفاظت از افراد و جوامع انجام می‌دهیم، تقویت می‌کنیم. این به معنای ایجاد تدابیر ایمنی قدرتمند و همچنین ارائه اطلاعات شفاف درباره میزان کارایی آن‌ها و اقداماتی است که برای بهبودشان انجام می‌دهیم. می‌خواهیم تصویری روشن از رویکردمان، نحوه شناسایی رفتارهای آسیب‌زا و واکنش مدل‌هایمان به آن‌ها، خطرهایی که در عمل مشاهده می‌کنیم و اقداماتی که برای مقابله با آن‌ها انجام می‌دهیم، در اختیار افراد قرار دهیم.
ما متعهد به انتشار گزارش ایمنی جامعه درباره پیشگیری از خشونت، دیگر مسائل مربوط به ایمنی جامعه و اثربخشی تدابیر حفاظتی‌مان هستیم. این گزارش توضیح خواهد داد که چگونه سامانه‌هایمان را برای شناسایی، بررسی و واکنش به مسائل مربوط به ایمنی جامعه آموزش می‌دهیم. نمونه‌هایی را که هویت افراد در آن‌ها ناشناس شده است، برای نشان دادن چگونگی بروز آسیب‌های مرتبط با خشونت و آنچه آموخته‌ایم به اشتراک خواهیم گذاشت، تدابیر جدید برای کاهش آسیب‌ها و تغییرات خط‌مشی‌ها را برجسته خواهیم کرد و داده‌های مرتبط را برای پشتیبانی از این یافته‌ها ارائه خواهیم داد.
نخستین گزارش خود را در اوایل سال ۲۰۲۷ منتشر خواهیم کرد که نیمه دوم سال ۲۰۲۶ را پوشش می‌دهد و پس از آن، هر شش ماه یک‌بار به‌روزرسانی‌هایی ارائه خواهیم داد. ما متعهدیم یافته‌های مهمی را درباره نحوه شناسایی، بررسی و واکنش به محتوای بالقوه آسیب‌زا به اشتراک بگذاریم.
مدل‌های ما طوری آموزش دیده‌اند که دستورالعمل‌هایی ارائه نکنند که به افراد در برنامه‌ریزی یا انجام اقدامات خشونت‌آمیز کمک کنند. اکنون محدودیت‌های بیشتری بر نحوه پاسخ‌گویی ChatGPT به پرسش‌های مربوط به حملات جمعی گذشته و عاملان آن‌ها اعمال می‌کنیم و مدل را هدایت می‌کنیم تا در این زمینه‌ها اطلاعاتی با جزئیات کمتر ارائه دهد، حتی اگر این اطلاعات در سایر منابع آنلاین موجود باشند. افراد باید بتوانند از ChatGPT کمک بگیرند تا این رویدادها و تأثیر آن‌ها بر قربانیان و جوامع را درک کنند و با نحوه شناسایی نشانه‌های هشداردهنده و پیشگیری از خشونت در آینده آشنا شوند. اما خط‌مشی‌هایمان را سخت‌گیرانه‌تر می‌کنیم تا بازسازی حملات جمعی گذشته، از جمله جزئیات مربوط به سلاح‌ها و تجهیزات استفاده‌شده و نحوه تهیه آن‌ها و مقایسه‌های دقیق درباره میزان آسیب‌های واردشده را که ممکن است باعث افزایش شهرت مهاجمان شوند، محدود کنیم. این محدودیت‌ها صرف‌نظر از سن کاربر یا دلیل طرح پرسش اعمال می‌شوند.
گاهی درخواستی که به‌تنهایی عادی به نظر می‌رسد، با در نظر گرفتن مکالمه قبلی، معنای دیگری پیدا می‌کند. در ماه مه، توضیح دادیم که چگونه ChatGPT می‌تواند از خلاصه‌های کوتاه و مبتنی بر واقعیت درباره نشانه‌های هشداردهنده قبلی استفاده کند تا در گفت‌وگوی بعدی با احتیاط بیشتری پاسخ دهد. در ادامه این کار، تلاش می‌کنیم تا وقتی در گفت‌وگوهای اخیر نشانه‌های هشداردهنده خشونت احتمالی دیده می‌شود، ChatGPT در ارائه اطلاعاتی که ممکن است از آن‌ها سوءاستفاده شود، محتاطانه‌تر عمل کند. همچنین در تلاشیم هرگاه پیش‌بینی می‌کنیم فردی زیر ۱۸ سال است، این محدودیت‌های سخت‌گیرانه‌تر را اعمال کنیم، حتی اگر در گفت‌وگوهای او هیچ نشانه‌ای از قصد خشونت وجود نداشته باشد.
حساب‌هایی را که تشخیص دهیم خط‌مشی‌های ما دربارهٔ فعالیت خشونت‌آمیز را نقض کرده‌اند، مسدود می‌کنیم. همچنین با متخصصان سلامت روان و پیشگیری از خشونت همکاری می‌کنیم تا راه‌های خودکار دیگری برای مداخلهٔ زودهنگام‌تر بیابیم. وقتی مکالمه‌ای نشان دهد که فرد ذهن خود را به‌طور وسواس‌گونه درگیر خشونت یا فکر آسیب جدی رساندن به دیگری کرده است، ChatGPT می‌تواند به‌طور خودکار به گفت‌وگو پایان دهد تا همان لحظه این الگو را متوقف کند. اگر ChatGPT چند گفت‌وگو را به این دلیل پایان دهد، ممکن است حساب را موقتاً تعلیق کنیم. این تلاشی مستمر است و ما همچنان در زمینه تدابیر حفاظتی فنی و عملی، از جمله روش‌های تشخیص قابل‌اعتماد نشانه‌های هشداردهنده و تعیین زمان و شیوه مداخله، سرمایه‌گذاری می‌کنیم و این تدابیر را تقویت می‌کنیم.
ChatGPT برای نوجوانان تدابیر ایمنی متناسب با سن را برای کاربران زیر ۱۸ سال اعمال می‌کند و تدابیر حفاظتی قوی‌تر و محدودیت‌های بیشتری را برای کاهش مواجهه با محتوای حساس در نظر می‌گیرد. اکنون حتی زمانی که پرسشی بی‌ضرر به نظر می‌رسد، محدودیت‌های بیشتری بر اطلاعات مرتبط با سلاح‌ها که نوجوانان می‌توانند دریافت کنند، اعمال می‌کنیم.
خط‌مشی‌های ما از پیش کمک به هر کسی برای برنامه‌ریزی یا انجام اقدامات خشونت‌آمیز را ممنوع کرده‌اند و کمک به نوجوانان برای یافتن یا تهیه سلاح را محدود می‌کنند. ما این تدابیر حفاظتی را گسترش می‌دهیم تا ارائه اطلاعات کاربردی درباره سلاح‌ها و سامانه‌های امنیتی را که ممکن است برای تسهیل خشونت مورد سوءاستفاده قرار گیرند، حتی در صورت نبود نشانه‌ای از قصد خشونت‌آمیز، محدود کنیم. نوجوانان همچنان می‌توانند از ChatGPT برای کمک به پیشگیری از خشونت و کاهش تنش در موقعیت‌های خشونت‌آمیز، درخواست حمایت و برقراری ارتباط با یک بزرگسال مورد اعتماد استفاده کنند.
سال گذشته، سامانهٔ پیش‌بینی سن را راه‌اندازی کردیم که با تحلیل نشانه‌های متعدد، مانند الگوهای رفتاری، برآورد می‌کند کاربر احتمالاً زیر ۱۸ سال است یا بالای آن. سامانهٔ پیش‌بینی سن خود را تقویت کردیم تا هم‌زمان با استفادهٔ افراد از ChatGPT، نشانه‌های جدید را به‌طور مستمر ارزیابی کند و در صورت لزوم، نوجوانان را به محیط ویژهٔ افراد زیر ۱۸ سال منتقل کند. کاربرانی که به‌اشتباه در محیط ویژهٔ افراد زیر ۱۸ سال قرار می‌گیرند، همیشه می‌توانند از طریق Persona، شریک ما در تأیید سن، با روشی سریع و با حفظ حریم خصوصی، بزرگسال بودن خود را تأیید کنند و تدابیر حفاظتی اضافی ویژهٔ نوجوانان را از حساب خود لغو کنند.
کنترل های والدین ما به والدین امکان می‌دهد حساب‌های ChatGPT خود را به حساب‌های فرزندان نوجوانشان متصل کنند و تنظیمات ایمنی را با هم مدیریت کنند. حساب‌های متصل‌شده دارای هشدارهای ایمنی هستند که ممکن است زمانی ارسال شوند که بازبینان ویژه آموزش‌دیده، نشانه‌هایی از خطر جدی خودآزاری یا رفتارهایی را شناسایی کنند که ممکن است با اختلالات خوردن مرتبط باشند. در ژوئیه، دامنه این هشدارها را گسترش دادیم تا در صورت غیرفعال شدن حساب فرزند نوجوان به‌دلیل نقض خط‌مشی‌های استفاده ما درباره خشونت، به والدین اطلاع داده شود. همان‌طور که در بالا توضیح داده شد، در حال تلاش برای ارائه اعلان‌هایی هستیم تا اگر حساب فرزند نوجوانی را به‌دلیل گفت‌وگوهای مکرر درباره خشونت موقتاً تعلیق کنیم، والدین او مطلع شوند.
رویدادهای خشونت‌آمیز در دنیای واقعی دلخراش و پیچیده‌اند و عوامل بسیاری در وقوع آن‌ها نقش دارند. این رویدادها همچنین به‌روشنی یادآور می‌شوند که باید به طراحی و بهبود مستمر سامانه‌هایمان ادامه دهیم تا پیچیدگی‌های ذاتی رفتار انسان را در نظر بگیریم. توسعه تدابیر حفاظتی مؤثر در برابر خشونت در سامانه‌های AI مستلزم حل مسائل جدید در زمینه شناسایی خطر و واکنش مناسب است و ما همچنان به سرمایه‌گذاری، اصلاح و بهبود مستمر و به‌اشتراک‌گذاری آموخته‌ها درباره بهترین شیوه اجرای تدابیر حفاظتی موردنظرمان ادامه خواهیم داد. تدابیر حفاظتی شرح‌داده‌شده در اینجا طی چند هفته آینده به‌تدریج اجرا خواهند شد و ما همچنان آن‌ها را بهبود خواهیم داد. ما همچنان متعهدیم خطر آسیب را در ChatGPT کاهش دهیم، تدابیر حفاظتی چندلایه خود را تقویت کنیم، بر سوءاستفاده‌ها نظارت داشته باشیم، قوانینمان را اجرا کنیم و هرگاه شرایط ایجاب کند، از حمایت‌ها و مداخلات در دنیای واقعی کمک بگیریم.
