ანგარიში თემების უსაფრთხოების შესახებ და დაცვის ახალი ზომები მოზარდებისთვის
ChatGPT ხელოვნური ინტელექტის ერთ-ერთი ყველაზე ფართოდ გამოყენებული პროდუქტია მსოფლიოში. მნიშვნელოვანი რესურსები ჩავდეთ, რომ შეგვექნა დარგში ერთ-ერთი ყველაზე მოწინავე სისტემები, რომლებიც პოტენციურ ზიანს ავლენს, შემაშფოთებელ აქტივობას ამოწმებს და სარწმუნო საფრთხეებს შემდგომი რეაგირებისთვის ამისამართებს უფრო მაღალ დონეზე. ამ მიმართულებით ჩვენი საქმიანობის გასაგრძელებლად ორ სიახლეს ვაცხადებთ: ახალი ანგარიში თემის დაცვის ზომების შესახებ და დამატებითი შეზღუდვები არასრულწლოვანთათვის განკუთვნილ შიგთავსზე, რომელიც ცეცხლსასროლ იარაღს ეხება.
თემების უსაფრთხოების დაცვა OpenAI-სთვის კვლავ ერთ-ერთ უმთავრეს პრიორიტეტად რჩება. ჩვენი საქმიანობა მოიცავს სამართალდამცავი ორგანოებისთვის ძალადობის გარდაუვალი საფრთხეების შესახებ ინფორმაციის მიწოდებას. 2026 წლის მესამე კვარტალში სამართალდამცავ ორგანოებს 200-ზე მეტი მიმართვა გავუგზავნეთ. ამ მიმართვებს ძალადობრივი გეგმების ჩაშლაში დადებითი(იხსნება ახალ ფანჯარაში) წვლილი(იხსნება ახალ ფანჯარაში) შეაქვს, ხოლო რთული შემთხვევების შეფასებისას კვლავ ვეყრდნობით ექსპერტებს ფსიქიკური ჯანმრთელობისა და ქცევის ანალიზის საკითხებში.
გვესმის, რომ ხელოვნური ინტელექტის კომპანიებს გამორჩეული როლი აკისრია სამართალდამცავებთან, ოჯახის წევრებთან, ფსიქიკური ჯანმრთელობის სპეციალისტებსა და პოლიტიკის შემქმნელებთან ერთად. მათ უფლებამოსილებას, კონტექსტის ცოდნასა და რეალურ სამყაროში მოქმედების შესაძლებლობას გადამწყვეტი მნიშვნელობა აქვს. ვისწრაფვით, მაქსიმალურად გამოვიყენოთ ეს როლი: უწყვეტად ვაძლიერებთ ჩვენს სისტემებს, სხვებს ვუზიარებთ, რასაც ვსწავლობთ, და პირდაპირ ვთანამშრომლობთ მათთან, ვისაც ყველაზე ეფექტიანად შეუძლია მოქმედება რეალურ სამყაროში.
მუდმივად ვაძლიერებთ ზომებს, რომლებსაც ადამიანებისა და თემების დასაცავად ვიყენებთ. ეს ნიშნავს ძლიერი დამცავი მექანიზმების შექმნას და ამასთანავე, გამჭვირვალეობას იმის შესახებ, თუ რამდენად კარგად მუშაობს ისინი და რას ვაკეთებთ მათ დასახვეწად. გვინდა, ადამიანებს მკაფიო წარმოდგენა შევუქმნათ ჩვენი მიდგომის შესახებ: როგორ ამოიცნობს ჩვენი მოდელები საზიანო ქცევას და როგორ რეაგირებს მასზე, რა რისკებს ვხედავთ პრაქტიკაში და რა ნაბიჯებს ვდგამთ მათ შესამცირებლად.
ვიღებთ ვალდებულებას, გამოვაქვეყნოთ ანგარიში თემების უსაფრთხოების შესახებ. ეს ანგარიში ეხება ძალადობის პრევენციისა და საზოგადოების უსაფრთხოებასთან დაკავშირებულ სხვა საკითხებს ისევე, როგორც ჩვენი დაცვითი ზომების ეფექტიანობის შესახებ. ანგარიშში განვმარტავთ, როგორ ვწვრთნით ჩვენს სისტემებს თემების უსაფრთხოებასთან დაკავშირებული საკითხების აღმოსაჩენად, გამოსაძიებლად და მათზე რეაგირებისთვის. გაგიზიარებთ ანონიმიზებულ მაგალითებს იმისა, თუ როგორ ვლინდება ძალადობასთან დაკავშირებული ზიანი, და რას ვსწავლობთ, გაგაცნობთ რისკების შესამცირებელ ახალ ზომებსა და პოლიტიკის ცვლილებებს. ამასთანავე, თან დავურთავთ შესაფერის მონაცემებს, რომლებიც ამ მიგნებებს ადასტურებს.
პირველ ანგარიშს 2027 წლის დასაწყისში გამოვაქვეყნებთ. ის 2026 წლის მეორე ნახევარს მოიცავს, შემდეგ კი განახლებებს ყოველ ექვს თვეში ერთხელ გამოვაქვეყნებთ. ვალდებულებას ვიღებთ, მნიშვნელოვანი მიგნებები გაგიზიაროთ იმის შესახებ, თუ როგორ ვავლენთ და განვიხილავთ პოტენციურად საზიანო შიგთავსს და როგორ ვრეაგირებთ მასზე.
ჩვენი მოდელები ისეა გაწვრთნილი, რომ არ გასცეს ისეთი მითითებები, რომლებიც ვინმეს ძალადობის დაგეგმვასა თუ განხორციელებაში შეიძლება დაეხმაროს. ახლა დამატებით ვზღუდავთ, თუ როგორ უპასუხებს ChatGPT შეკითხვებს წარსულში მომხდარი მასობრივი თავდასხმებისა და მათი ჩამდენი პირების შესახებ. მოდელმა ამ საკითხებზე ნაკლებად დაწვრილებითი ინფორმაცია უნდა გასცეს მაშინაც კი, თუ ის სხვა ონლაინწყაროებში ხელმისაწვდომია. ადამიანებს უნდა შეეძლოთ, ChatGPT‑ს მიმართონ, რომ გაერკვნენ ამ მოვლენებში და მათ ზეგავლენაში მსხვერპლებსა და საზოგადოებაზე და ამასთანავე, შეიტყონ, როგორ ამოიცნონ საფრთხის ნიშნები და მომავალში თავიდან აიცილონ ძალადობა. მიუხედავად ამისა, ჩვენ ვამკაცრებთ წესებს, რომ შევზღუდოთ წარსულში მომხდარი მასობრივი თავდასხმების რეკონსტრუქცია, რაც მოიცავს დაწვრილებით ინფორმაციას გამოყენებულ იარაღსა და აღჭურვილობაზე, ისევე როგორც მათ მოპოვებაზე. იზღუდება ზიანის მასშტაბის დაწვრილებითი შედარებები, რომლებმაც თავდამსხმელი უფრო ცნობილი შეიძლება გახადოს. ეს შეზღუდვები მოქმედებს იმის მიუხედავად, თუ რა ასაკისაა მომხმარებელი და რა მიზეზით ითხოვს პასუხს.
ზოგჯერ მოთხოვნა, რომელიც ცალკე აღებული ჩვეულებრივად გამოიყურება, წინა საუბრის გათვალისწინებით განსხვავებულ მნიშვნელობას იძენს. მაისში გაგიზიარეთ, თუ როგორ შეუძლია ChatGPT‑ს მოკლე, ფაქტობრივი შეჯამებების გამოყენება მანამდე გამოვლენილი საფრთხის ნიშნების შესახებ, რომ მოგვიანებით მეტი სიფრთხილით გიპასუხოთ ჩატში. ამ მუშაობას ვაგრძელებთ: როცა ბოლოდროინდელ ჩატებში შესაძლო ძალადობის ნიშნები გამოჩნდება, ChatGPT მეტ თავშეკავებას გამოიჩენს ისეთი ინფორმაციის გაზიარებისას, რომელიც ბოროტად შეიძლება იქნეს გამოყენებული. ამასთანავე, ვმუშაობთ იმაზე, რომ ეს გამკაცრებული შეზღუდვები გავრცელდეს მომხმარებლებზე, რომლებსაც, ჩვენი პროგნოზით, 18 წელი არ შესრულებიათ, მაშინაც კი, თუ მათ ჩატებში ძალადობრივი განზრახვის ნიშნები არ ჩანს.
ვბლოკავთ ანგარიშებს, თუ დავადგენთ, რომ მათ დაარღვია ჩვენი წესები ძალადობრივი ქმედებების შესახებ. ამასთანავე, ვთანამშრომლობთ ექსპერტებთან ფსიქიკური ჯანმრთელობისა და ძალადობის პრევენციის საკითხებში, რომ უფრო ადრეულ ეტაპზე ჩარევის დამატებითი ავტომატიზებული გზები შევიმუშაოთ. როცა საუბარში გამოიკვეთება, რომ ადამიანი აკვიატებულად ფიქრობს ძალადობაზე ან სხვისთვის სერიოზული ზიანის მიყენებაზე, ChatGPT‑ს შეეძლება ჩატის ავტომატურად დასრულება, რათა ეს პროცესი მაშინვე შეწყვიტოს. თუ ChatGPT ამ მიზეზით რამდენიმე ჩატს დაასრულებს, ანგარიშის მოქმედება შეიძლება დროებით შევაჩეროთ. ეს უწყვეტი ძალისხმევაა: ვაგრძელებთ ტექნიკური და პრაქტიკული დაცვის ზომების გაძლიერებასა და მათში ინვესტირებას, რაშიც შედის გამაფრთხილებელი ნიშნების საიმედო ამოცნობა და იმის განსაზღვრა, თუ როდის და როგორ ჩავერიოთ.
„ChatGPT მოზარდებისთვის“ ასაკის შესაბამის უსაფრთხოების ზომებს იყენებს 18 წლამდე ასაკის მომხმარებლებისთვის. გაძლიერებული დაცვითი ზომები და დამატებითი შეზღუდვები ხელს უწყობს საშიშ შიგთავსთან შეხების შემცირებას. ახლა დამატებით ვზღუდავთ მოზარდებისთვის ხელმისაწვდომ ინფორმაციას იარაღის შესახებ მაშინაც კი, თუ შეკითხვა უწყინარი ჩანს.
ჩვენი წესები უკვე კრძალავს ვინმეს დახმარებას ძალადობის დაგეგმვასა თუ განხორციელებაში და ზღუდავს მოზარდებისთვის მხარდაჭერის გაწევას იარაღის მოძიებასა თუ მოპოვებაში. ამ დაცვით ზომებს ვაფართოებთ, რათა შეიზღუდოს იარაღისა და უსაფრთხოების სისტემების შესახებ ისეთი პრაქტიკული ინფორმაციის მიწოდება, რომლის ბოროტად გამოყენებამაც ძალადობას შეიძლება შეუწყოს ხელი მაშინაც კი, როცა ძალადობრივი განზრახვის ნიშნები არ არსებობს. მოზარდებს ძველებურად შეუძლიათ ChatGPT‑ს გამოყენება ძალადობის პრევენციისა და ესკალაციის შემცირების მიზნით, მხარდაჭერის მოსაძიებლად და სანდო ზრდასრულ პირთან დასაკავშირებლად.
გასულ წელს დავნერგეთ ასაკის პროგნოზირების სისტემა, რომელიც სხვადასხვა სიგნალს, მაგალითად, ქცევის თავისებურებებს აანალიზებს იმის შესაფასებლად, მომხმარებელი მიწევნულია თუ არა მომხმარებელი 18 წლის ასაკს. ასაკის პროგნოზირების სისტემა გავაძლიერეთ, რათა ChatGPT‑ს გამოყენებისას მუდმივად აფასებდეს ახალ სიგნალებს და საჭიროების შემთხვევაში მოზარდები 18 წლის ასაკს მიუწევნელი პირებისთვის განკუთვნილ რეჟიმში გადაიყვანოს. მომხმარებლებს, რომლებიც შეცდომით აღმოჩნდებიან 18 წლის ასაკს მიუწევნელი პირებისთვის განკუთვნილ რეჟიმში, ყოველთვის ექნებათ საშუალება, გამოიყენონ სწრაფი და კონფიდენციალურობის დაცვაზე ორიენტირებული მეთოდი იმის დასადასტურებლად, რომ სრულწლოვანები არიან. ასაკის შემოწმების საკითხებში ჩვენი პარტნიორის, Persona-ს, მეშვეობით ისინი შეძლებენ მოიხსნან დამატებითი შეზღუდვები, რომლებიც მოზარდებისთვისაა განკუთვნილი.
ჩვენი მშობლისმიერი კონტროლი მშობლებს საშუალებას აძლევს, თავიანთი ChatGPT‑ს ანგარიშები მოზარდების ანგარიშებს დაუკავშირონ და უსაფრთხოების პარამეტრები ერთად მართონ. დაკავშირებული ანგარიშები მოიცავს გამაფრთხილებელ შეტყობინებებს უსაფრთხოების შესახებ. ეს შეტყობინებები შეიძლება გამოიგზავნოს, თუ სპეციალურად მომზადებული შემმოწმებლები გამოავლენენ თვითდაზიანების სერიოზულ საფრთხეს ან ქცევებს, რომლებიც კვებით დარღვევებს შეიძლება უკავშირდებოდეს. ივლისში ამ შეტყობინებების მოქმედების მასშტაბი გავაფართოვეთ: ახლა მშობლები შეტყობინებას მიიღებენ, თუ მათი მოზარდის ანგარიში გაუქმდა იმ წესების დარღვევის გამო, რომლებიც ძალადობას ეხება. როგორც ზემოთ დაწვრილებით აღვწერეთ, ვმუშაობთ იმაზე, რომ მშობლებისთვის ნოტიფიკაციები შემოვიღოთ იმ შემთხვევაშიც, თუ მათი მოზარდის ანგარიშის მოქმედებას დროებით შევაჩერებთ ძალადობის მრავალჯერ განხილვის გამო.
რეალურ ცხოვრებაში ძალადობის შემთხვევები გულსატკენი და რთული მოვლენებია, რომლებსაც მრავალი ფაქტორი განაპირობებს. ისინი ასევე მკაფიოდ გვახსენებს, რომ ჩვენი სისტემების შემუშავება და დახვეწა უნდა განვაგრძოთ ისე, რომ ადამიანის ქცევის თანდაყოლილი სირთულე გავითვალისწინოთ. AI-სისტემებში ძალადობისგან დაცვის ეფექტიანი ზომების შემუშავება მოითხოვს ისეთი ახალი ამოცანების გადაწყვეტას, რომლებიც დაკავშირებულია რისკების ამოცნობასა და სათანადო რეაგირებასთან. ჩვენ გავაგრძელებთ ამ ზომებში ინვესტირებასა და მათ ეტაპობრივად დახვეწას. ამასთანავე, გაგიზიარებთ დასკვნებს იმის შესახებ, თუ როგორ უნდა დანერგოთ ისინი მაქსიმალურად ეფექტიანად. აქ დაწვრილებით აღწერილი დამცავი ზომები მომდევნო რამდენიმე კვირაში დაიწყებს ამოქმედებას, ხოლო ჩვენ მათ დახვეწას გავაგრძელებთ. ძველებურად ვისწრაფვით, შევამციროთ ChatGPT‑ს გამოყენებისას ზიანის მიყენების რისკები, გავაძლიეროთ მრავალდონიანი დაცვა, ვაკონტროლოთ არასათანადო გამოყენება, უზრუნველვყოთ ჩვენი წესების აღსრულება და საჭიროების შემთხვევაში საქმეში ჩავრთოთ ისინი, ვისაც რეალურ ცხოვრებაში შეუძლია დახმარების გაწევა და ჩარევა.
