फ़्रंटियर AI का लोकतांत्रिक गवर्नेंस, भाग II: साइबर डिफ़ेंडर्स को सशक्त बनाना
AI साइबर सिक्योरिटी की रफ़्तार, पैमाने और लागत के समीकरण बदल रहा है. यह डिफ़ेंडर्स को कमज़ोरियाँ ढूँढने और दूर करने, घुसपैठ का पता लगाने और हमलों का जवाब देने में मदद कर सकता है—लेकिन यही क्षमताएँ दुर्भावनापूर्ण इरादे रखने वालों की भी मदद कर सकती हैं और जब AI सिस्टम अपनी तय सीमाओं से बाहर जाकर काम करते हैं, तो नए जोखिम पैदा कर सकती हैं. अभी डिफ़ेंडर्स के पास एक सीमित अवसर है: साइबर हमलों की एडवांस्ड क्षमताएँ व्यापक रूप से उपलब्ध होने से पहले, डिफ़ेंडर्स को एडवांस्ड AI देना और सुरक्षा उपायों को मज़बूत करना.
आज हम साइबर डिफ़ेंडर्स को सशक्त बनाने के लिए एक ब्लूप्रिंट प्रकाशित कर रहे हैं, जो हमारे पहले के साइबर सिक्योरिटी ऐक्शन प्लान और फ़्रंटियर सेफ़्टी ब्लूप्रिंट(एक नई विंडो में खुलेगा) को आगे बढ़ाता है. हमारे अपने मॉडल्स से जुड़े मिसअलाइनमेंट और सुरक्षा संबंधी घटनाओं के अनुभव बताते हैं कि पूरी इंडस्ट्री में मज़बूत सुरक्षा उपायों और जवाबदेही की ज़रूरत है. इन अनुभवों से मिली सीख के आधार पर, यह ब्लूप्रिंट सरकारों और इंडस्ट्री के लिए तीन क्षेत्रों में ठोस प्रस्ताव रखता है:
उन्नत एआई की सुरक्षा और संरक्षा को मज़बूत करना: अत्याधुनिक मॉडलों और एजेंटों को सुरक्षित रखने, ख़तरनाक व्यवहार का पता लगाने और हर संगठन के नियंत्रण में आने वाले संचालन को बंद करने के लिए विश्वसनीय नियंत्रण बनाए रखने की ज़िम्मेदारियाँ अधिक स्पष्ट रूप से तय करना.
एडवांस्ड AI की सेफ़्टी और सिक्योरिटी को मज़बूत बनाना: फ़्रंटियर मॉडल्स और एजेंट्स को सुरक्षित रखने, ख़तरनाक व्यवहार का पता लगाने और हर संगठन के नियंत्रण में होने वाले ऑपरेशंस को बंद करने के लिए भरोसेमंद शटडाउन कंट्रोल बनाए रखने की ज़िम्मेदारियाँ ज़्यादा स्पष्ट रूप से तय करें.
संकटों से उबरने और बदलावों के मुताबिक ढलने में सक्षम सार्वजनिक संस्थान बनाना: सरकारी इवैल्यूएशन और स्वतंत्र टेक्निकल असेसमेंट को मज़बूत बनाएँ, घटनाओं की रिपोर्टिंग के लिए एकसमान ज़रूरतें तय करें और आपसी तालमेल से घटनाओं का जवाब देने और उनसे उबरने की प्रक्रिया बेहतर बनाएँ.
AI लैब्स की ज़िम्मेदारी है कि वे अपने सिस्टम से पैदा होने वाले जोखिमों से निपटें और समाज की सुरक्षा मज़बूत करने में मदद करें. AI की क्षमताएँ बढ़ने के साथ, सरकारों के पास भी जनता की सुरक्षा के लिए ज़रूरी विशेषज्ञता, संसाधन और अधिकार होने चाहिए. हम नीति बनाने वालों से अभी कदम उठाने का आग्रह करते हैं—सुरक्षा उपाय तय करें, अनुभव से सीखें और टेक्नोलॉजी के विकसित होने के साथ ज़रूरी मानकों को और मज़बूत बनाएँ.
पूरी ब्लूप्रिंट यहाँ(एक नई विंडो में खुलेगा) पढ़ें.
