En üst seviye yapay zekâda demokratik yönetişim, bölüm II: Siber savunucuları güçlendirmek
Yapay zekâ, siber güvenliğin hızını, ölçeğini ve ekonomik dinamiklerini değiştiriyor. Savunucuların güvenlik açıklarını bulup gidermesine, izinsiz erişimleri tespit etmesine ve saldırılara müdahale etmesine yardımcı olabiliyor. Ancak aynı yetenekler, kötü niyetli aktörlerin de işini kolaylaştırabiliyor ve yapay zekâ sistemleri öngörülen sınırların dışında hareket ettiğinde yeni riskler yaratabiliyor. Savunucular için bir fırsat penceresi açılmış durumda: Gelişmiş siber saldırı yetenekleri yaygın olarak erişilebilir hâle gelmeden önce, ileri düzey yapay zekâyı savunucuların kullanımına sunmak ve koruma önlemlerini güçlendirmek için sınırlı bir fırsatımız var.
Bugün, daha önce yayımladığımız siber güvenlik eylem planımızı ve en üst seviye yapay zekâ güvenliğine ilişkin yol haritamızı(yeni bir pencerede açılır) temel alan, siber savunucuları güçlendirmeye yönelik bir yol haritası yayımlıyoruz. Kendi modellerimizin hedeflenen davranışlarla uyumsuzluğu ve bu modellerin yer aldığı güvenlik olayları konusunda edindiğimiz deneyimler, sektör genelinde daha güçlü koruma önlemlerine ve hesap verebilirliğe duyulan ihtiyacı ortaya koyuyor. Bu deneyimlerden çıkarılan derslere dayanan yol haritası, hükümetlere ve sektöre üç alanda somut öneriler sunuyor:
İleri düzey yapay zekânın güvenliğini ve emniyetini artırmak: En üst seviye modellerin ve ajanların güvenliğini sağlama, tehlikeli davranışları tespit etme ve her kuruluşun kendi kontrolündeki işlemler için güvenilir durdurma mekanizmalarını sürdürme konusundaki sorumlulukları daha net tanımlamak.
Siber güvenliği yapay zekâ çağına uyarlamak: Savunuculara gelişmiş araçlar, eğitim ve teknik destek sağlamak; uzun süredir devam eden siber güvenlik zafiyetlerini gidermek; temel hizmetlerin güvenliğini sağlamaya ve eski sistemleri yenilemeye yatırım yapmak.
Dayanıklı ve uyum sağlayabilen kamu kurumları oluşturmak: Kamu kurumlarının yürüttüğü değerlendirmeleri ve bağımsız teknik değerlendirmeleri güçlendirmek, tutarlı olay bildirim yükümlülükleri getirmek, koordineli müdahale ve toparlanma süreçlerini iyileştirmek.
Yapay zekâ laboratuvarları, sistemlerinin yarattığı riskleri ele almak ve toplumun savunmasını güçlendirmeye yardımcı olmakla sorumludur. Hükümetler de yapay zekânın yetenekleri geliştikçe toplumu koruyabilecek uzmanlığa, kaynaklara ve yetkiye sahip olmalıdır. Politika yapıcıları şimdiden harekete geçmeye; koruma önlemleri oluşturmaya, deneyimlerden ders çıkarmaya ve teknoloji geliştikçe gereklilikleri sıkılaştırmaya çağırıyoruz.
Yol haritasının tamamını buradan(yeni bir pencerede açılır) okuyabilirsiniz.
