কমিউনিটির নিরাপত্তা প্রতিবেদন ও কিশোর-কিশোরীদের জন্য নতুন সুরক্ষা

ChatGPT বিশ্বের সবচেয়ে বেশি ব্যবহৃত AI পণ্যগুলোর একটি, আর সম্ভাব্য ক্ষতি শনাক্ত করা, উদ্বেগজনক কার্যকলাপ পর্যালোচনা করা এবং বিশ্বাসযোগ্য হুমকি যথাযথ কর্তৃপক্ষের কাছে তুলে ধরার জন্য আমরা এই খাতের সবচেয়ে উন্নত কিছু ব্যবস্থা তৈরিতে বিনিয়োগ করেছি. এই ক্ষেত্রে আমাদের কাজকে এগিয়ে নিতে আমরা দুটি ঘোষণা দিচ্ছি: একটি নতুন Community Safeguards Report এবং অপ্রাপ্তবয়স্কদের জন্য আগ্নেয়াস্ত্র-সম্পর্কিত কনটেন্টে আরও বিধিনিষেধ.

কমিউনিটিগুলোকে নিরাপদ রাখা⁠ OpenAI-এর অন্যতম শীর্ষ অগ্রাধিকার হিসেবে রয়ে গেছে. আমাদের কাজের মধ্যে রয়েছে আসন্ন সহিংসতার হুমকি সম্পর্কে আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে জানানো, আর 2026 সালের তৃতীয় ত্রৈমাসিকে (Q3) আমরা 200-টিরও বেশি বিষয়ে আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে জানিয়েছি. এভাবে জানানোর ফলে সহিংস পরিকল্পনা নস্যাৎ করার ক্ষেত্রে ইতিবাচক⁠(একটি নতুন উইন্ডোতে খোলে) পরিবর্তন⁠(একটি নতুন উইন্ডোতে খোলে) আসছে, আর জটিল ঘটনাগুলো মূল্যায়নে সহায়তার জন্য আমরা মানসিক স্বাস্থ্য ও আচরণ বিশেষজ্ঞদের উপর নির্ভর করে চলেছি.

আমরা স্বীকার করি, আইনশৃঙ্খলা রক্ষাকারী বাহিনী, পরিবারের সদস্য, মানসিক স্বাস্থ্য পেশাজীবী ও নীতিনির্ধারকদের পাশাপাশি AI কোম্পানিগুলোরও স্বতন্ত্র ভূমিকা রয়েছে. এই অংশীজনদের রয়েছে জরুরি সিদ্ধান্ত নেওয়ার কর্তৃত্ব, পরিস্থিতি বোঝার জ্ঞান এবং বাস্তবে মানুষের কাছে পৌঁছানোর সক্ষমতা. আমাদের ব্যবস্থাগুলোকে ক্রমাগত আরও শক্তিশালী করে, আমরা যা শিখি তা শেয়ার করে নিয়ে এবং বাস্তবে পদক্ষেপ নেওয়ার সবচেয়ে উপযুক্ত অবস্থানে যারা আছেন, তাদের সঙ্গে সরাসরি কাজ করে সেই ভূমিকা যথাসম্ভব কার্যকরভাবে পালনে আমরা প্রতিশ্রুতিবদ্ধ.

মানুষ ও সমাজকে সুরক্ষিত রাখতে আমরা যেসব পদক্ষেপ নিই, সেগুলো ক্রমাগত আরও জোরদার করছি. এর অর্থ হলো শক্তিশালী সুরক্ষা ব্যবস্থা গড়ে তোলা এবং সেগুলো কতটা কার্যকর ও আরও উন্নত করতে আমরা কী করছি, সে বিষয়ে স্বচ্ছ থাকা. আমাদের দৃষ্টিভঙ্গি, আমাদের মডেলগুলো কিভাবে ক্ষতিকর আচরণ শনাক্ত করে ও সাড়া দেয়, বাস্তবে আমরা কী কী ঝুঁকি দেখি এবং সেগুলো মোকাবিলায় কী পদক্ষেপ নিই, সে সম্পর্কে মানুষকে একটি স্পষ্ট ধারণা দিতে চাই.

আমরা সহিংসতা প্রতিরোধ, কমিউনিটির নিরাপত্তা সংক্রান্ত অন্যান্য বিষয় এবং আমাদের সুরক্ষা ব্যবস্থার কার্যকারিতা নিয়ে কমিউনিটির নিরাপত্তা প্রতিবেদন প্রকাশ করার অঙ্গীকার করছি. প্রতিবেদনে ব্যাখ্যা করা হবে, কমিউনিটির নিরাপত্তা সংক্রান্ত বিষয় শনাক্ত, তদন্ত ও মোকাবিলা করতে আমরা কিভাবে আমাদের সিস্টেমগুলোকে প্রশিক্ষণ দিই. সহিংসতা সংক্রান্ত ক্ষতি কিভাবে ঘটে এবং এ থেকে আমরা কী শিখছি, তার পরিচয়-গোপন রাখা উদাহরণ আমরা তুলে ধরব, নতুন ঝুঁকি-প্রশমন ব্যবস্থা ও নীতিগত পরিবর্তনগুলো তুলে ধরব এবং এসব অনুসন্ধানের সমর্থনে প্রাসঙ্গিক তথ্য অন্তর্ভুক্ত করব.

আমরা 2027 সালের শুরুর দিকে আমাদের প্রথম প্রতিবেদন প্রকাশ করব, যেখানে 2026 সালের দ্বিতীয়ার্ধের তথ্য থাকবে; এরপর প্রতি ছয় মাসে হালনাগাদ প্রকাশ করা হবে. সম্ভাব্য ক্ষতিকর কনটেন্ট কিভাবে শনাক্ত, পর্যালোচনা এবং তার প্রতিক্রিয়া জানাই, সে বিষয়ে অর্থবহ তথ্য জানানোই আমাদের অঙ্গীকার.

আমাদের মডেলগুলোকে এমন নির্দেশনা না দেওয়ার জন্য প্রশিক্ষণ দেওয়া হয়, যা কাউকে সহিংসতার পরিকল্পনা করতে বা তা ঘটাতে সাহায্য করবে. অতীতে বহু মানুষের উপর চালানো হামলা এবং সেগুলো যারা ঘটিয়েছে, তাদের সম্পর্কে ChatGPT কিভাবে প্রশ্নের উত্তর দেয়, সে বিষয়ে আমরা এখন অতিরিক্ত সীমাবদ্ধতা আরোপ করছি. এসব বিষয়ে অন্য অনলাইন উৎসে তথ্য পাওয়া গেলেও মডেলকে কম বিস্তারিত তথ্য দিতে বলা হচ্ছে. এসব ঘটনা এবং ভুক্তভোগী ও সমাজের উপর সেগুলোর প্রভাব বুঝতে, বিপদের পূর্বসংকেত চিনতে ও ভবিষ্যতে সহিংসতা প্রতিরোধ সম্পর্কে জানতে মানুষের ChatGPT‑এর সাহায্য চাওয়ার সুযোগ থাকা উচিত. তবে অতীতের বহু মানুষের উপর চালানো হামলার পুনর্নির্মাণ সীমিত করতে আমরা আমাদের নীতি আরও কঠোর করছি. এর মধ্যে রয়েছে ব্যবহৃত অস্ত্র ও সরঞ্জাম এবং সেগুলো কিভাবে সংগ্রহ করা হয়েছিল, সে বিষয়ে বিস্তারিত তথ্য; পাশাপাশি ক্ষয়ক্ষতির মাত্রা নিয়ে এমন বিস্তারিত তুলনা, যা হামলাকারীর কুখ্যাতি বাড়িয়ে তুলতে পারে. ব্যবহারকারীর বয়স বা প্রশ্ন করার কারণ যা-ই হোক না কেন, এই সীমাবদ্ধতাগুলো প্রযোজ্য.

কখনো কোনো অনুরোধ আলাদাভাবে দেখলে সাধারণ মনে হলেও, আগের কথোপকথনের আলোকে তার অর্থ ভিন্ন হয়ে যায়. মে মাসে আমরা জানিয়েছিলাম, পরবর্তী আলাপচারিতায় আরও সতর্কভাবে সাড়া দিতে কিভাবে ChatGPT আগের বিপদের পূর্বসংকেতগুলোর সংক্ষিপ্ত, তথ্যভিত্তিক সারাংশ ব্যবহার করতে পারে⁠. সেই কাজ আমরা আরও এগিয়ে নিচ্ছি, যাতে সাম্প্রতিক আলাপচারিতায় সম্ভাব্য সহিংসতার পূর্বসংকেত দেখা গেলে, অপব্যবহার হতে পারে এমন তথ্য দেওয়ার ক্ষেত্রে ChatGPT আরও সংযতভাবে সাড়া দেয়. কারো বয়স 18 বছরের কম বলে অনুমান করলে, তার আলাপচারিতায় সহিংস অভিপ্রায়ের কোনো লক্ষণ না থাকলেও এই কঠোর সীমাবদ্ধতাগুলো প্রয়োগের জন্য আমরা কাজ করছি.

আমাদের সহিংস কার্যকলাপ-সংক্রান্ত নীতি⁠ লঙ্ঘন করেছে বলে আমরা নির্ধারণ করি এমন অ্যাকাউন্ট আমরা নিষিদ্ধ করি. আরও আগেভাগে হস্তক্ষেপের জন্য অতিরিক্ত স্বয়ংক্রিয় উপায় খুঁজতে আমরা মানসিক স্বাস্থ্য ও সহিংসতা প্রতিরোধ বিশেষজ্ঞদের সঙ্গেও কাজ করছি. কথোপকথনে যদি বোঝা যায় যে কেউ সহিংসতা বা অন্য কারো গুরুতর ক্ষতি করার চিন্তায় আচ্ছন্ন হয়ে পড়ছে, তাহলে সেই প্রবণতায় তাৎক্ষণিকভাবে বাধা দিতে ChatGPT স্বয়ংক্রিয়ভাবে আলাপচারিতা শেষ করতে পারবে. এই কারণে ChatGPT একাধিক আলাপচারিতা শেষ করলে, আমরা অ্যাকাউন্টটি সাময়িকভাবে স্থগিত করতে পারি. এটি একটি চলমান প্রচেষ্টা এবং আমরা প্রযুক্তিগত ও ব্যবহারিক সুরক্ষা ব্যবস্থা আরও শক্তিশালী করতে ও সেগুলোতে বিনিয়োগ করতে থাকছি. এর মধ্যে রয়েছে কিভাবে নির্ভরযোগ্যভাবে সতর্কসংকেত শনাক্ত করা যায় এবং কখন ও কিভাবে হস্তক্ষেপ করতে হবে তা নির্ধারণ করা.

কিশোর-কিশোরীদের জন্য ChatGPT⁠ 18 বছরের কম বয়সী ব্যবহারকারীদের জন্য বয়সোপযোগী সুরক্ষা ব্যবস্থা প্রয়োগ করে. সংবেদনশীল বিষয়বস্তুর সংস্পর্শ কমাতে এতে রয়েছে আরও জোরালো সুরক্ষা ও অতিরিক্ত সীমাবদ্ধতা. এখন কিশোর-কিশোরীরা অস্ত্র-সম্পর্কিত যে তথ্য পেতে পারে, সে বিষয়ে আমরা আরও সীমাবদ্ধতা আরোপ করছি—প্রশ্নটি আপাতদৃষ্টিতে নিরীহ মনে হলেও. 

আমাদের নীতিমালায় ইতিমধ্যেই কাউকে সহিংসতার পরিকল্পনা করতে বা তা ঘটাতে সাহায্য করা নিষিদ্ধ এবং কিশোর-কিশোরীদের অস্ত্র খুঁজে পেতে বা সংগ্রহ করতে সাহায্য করার উপরও বিধিনিষেধ রয়েছে. আমরা এই সুরক্ষাগুলো আরও বাড়িয়ে অস্ত্র ও নিরাপত্তা ব্যবস্থা সম্পর্কে এমন ব্যবহারিক তথ্য দেওয়ার উপরও বিধিনিষেধ আরোপ করছি, যা সহিংসতা ঘটাতে অপব্যবহার করা যেতে পারে—এমনকি সহিংস উদ্দেশ্যের কোনো ইঙ্গিত না থাকলেও. কিশোর-কিশোরীরা এখনও ChatGPT ব্যবহার করে সহিংসতা প্রতিরোধ ও তা কমাতে, সহায়তা চাইতে এবং কোনো বিশ্বস্ত প্রাপ্তবয়স্কের সঙ্গে যোগাযোগ করতে পারে. 

গত বছর আমরা বয়স অনুমান⁠ ব্যবস্থা চালু করেছি. এটি আচরণের ধরনসহ বিভিন্ন সংকেত বিশ্লেষণ করে অনুমান করে, কোনো ব্যবহারকারীর বয়স 18 বছরের কম নাকি বেশি হতে পারে. মানুষ ChatGPT ব্যবহার করার সময় নতুন সংকেতগুলো ক্রমাগত মূল্যায়ন করতে এবং উপযুক্ত ক্ষেত্রে কিশোর-কিশোরীদের 18 বছরের কম বয়সীদের জন্য নির্ধারিত ব্যবস্থায় স্থানান্তর করতে আমরা আমাদের বয়স অনুমান ব্যবস্থাকে আরও শক্তিশালী করেছি. ভুলবশত 18 বছরের কম বয়সীদের ব্যবস্থায় রাখা ব্যবহারকারীরা সব সময় দ্রুত ও গোপনীয়তা-সুরক্ষিত উপায়ে নিজেদের প্রাপ্তবয়স্ক হিসেবে নিশ্চিত করতে পারবেন এবং আমাদের বয়স যাচাইয়ের সহযোগী Persona-এর মাধ্যমে কিশোর-কিশোরীদের জন্য অতিরিক্ত সুরক্ষাগুলো সরিয়ে নিতে পারবেন. 

আমাদের প্যারেন্টাল কন্ট্রোলস⁠ ব্যবহার করে অভিভাবকেরা নিজেদের ChatGPT অ্যাকাউন্টের সঙ্গে তাদের কিশোর-কিশোরী সন্তানদের অ্যাকাউন্ট যুক্ত করতে পারেন এবং একসঙ্গে নিরাপত্তার সেটিংস পরিচালনা করতে পারেন. যুক্ত অ্যাকাউন্টগুলোতে নিরাপত্তা সতর্কতা⁠ অন্তর্ভুক্ত থাকে. বিশেষভাবে প্রশিক্ষিত পর্যালোচকেরা আত্মক্ষতির গুরুতর আশঙ্কা এবং অস্বাভাবিক খাদ্যাভ্যাসের সঙ্গে সম্পর্কিত হতে পারে এমন আচরণ শনাক্ত করলে এসব সতর্কতা পাঠানো হতে পারে. জুলাইয়ে আমরা এই সতর্কতার পরিধি বাড়িয়েছি, যাতে সহিংসতা-সংক্রান্ত ব্যবহারবিধি লঙ্ঘনের কারণে কোনো কিশোর বা কিশোরীর অ্যাকাউন্ট নিষ্ক্রিয় করা হলে তার অভিভাবককে জানানো যায়. উপরে বিস্তারিতভাবে বর্ণিত অনুযায়ী, বারবার সহিংসতা নিয়ে আলোচনা করার কারণে কোনো কিশোর বা কিশোরীর অ্যাকাউন্ট সাময়িকভাবে স্থগিত করলে তার অভিভাবককে জানানোর ব্যবস্থা চালু করতে আমরা কাজ করছি.

বাস্তব জীবনের সহিংস ঘটনা হৃদয়বিদারক ও জটিল, আর এর পেছনে নানা কারণ কাজ করে. এসব ঘটনা আমাদের কঠোরভাবে মনে করিয়ে দেয়, মানুষের আচরণের স্বভাবগত জটিল বাস্তবতাকে বিবেচনায় রেখে আমাদের ব্যবস্থাগুলোর নকশা তৈরি ও ক্রমাগত উন্নয়ন চালিয়ে যেতে হবে. AI সিস্টেমে সহিংসতা প্রতিরোধে কার্যকর সুরক্ষা ব্যবস্থা গড়ে তুলতে ঝুঁকি শনাক্ত করা এবং যথাযথভাবে সাড়া দেওয়ার ক্ষেত্রে নতুন ধরনের সমস্যা সমাধান করতে হয়. আমরা যে সুরক্ষাগুলো বাস্তবায়নের চেষ্টা করছি, সেগুলো কিভাবে সবচেয়ে ভালোভাবে কার্যকর করা যায়, সে বিষয়ে বিনিয়োগ, ক্রমাগত উন্নয়ন এবং আমাদের অর্জিত শিক্ষা  শেয়ার করে নেওয়া আমরা চালিয়ে যাব. এখানে বিস্তারিতভাবে বর্ণিত সুরক্ষাগুলো আগামী কয়েক সপ্তাহের মধ্যে চালু করা শুরু হবে এবং আমরা সেগুলো আরও পরিমার্জন করতে থাকব. ChatGPT‑তে ক্ষতির ঝুঁকি কমানো, আমাদের বহুস্তরীয় সুরক্ষা জোরদার করা, অপব্যবহার শনাক্তে নজর রাখা, নিয়ম কার্যকর করা এবং পরিস্থিতি অনুযায়ী বাস্তব জীবনের সহায়তা ও হস্তক্ষেপের ব্যবস্থা করার বিষয়ে আমরা প্রতিশ্রুতিবদ্ধ রয়েছি.