OpenAI ve Polonya’nın NASK kurumundan yapay zeka güvenliği ve siber güvenlik için iş birliği
OpenAI ve Polonya’nın NASK Ulusal Araştırma Enstitüsü, yapay zekâ güvenliği, siber güvenlik ve teknik araştırmalarda iş birliği olanaklarını değerlendirmek üzere bir anlaşma imzaladı. Bu ortaklık, yeni ortaya çıkan riskleri daha iyi anlamak, koruma önlemlerini güçlendirmek ve gelişmiş yapay zekânın daha güvenli ve dayanıklı bir dijital ekosisteme nasıl katkı sağlayabileceğini araştırmak için iki kuruluşun uzmanlığını bir araya getirecek.
Yapay zekâ sistemlerinin yetenekleri geliştikçe, bu sistemlerin risklerini anlamak ve daha güçlü koruma önlemleri oluşturmak için geliştiriciler ile kamu araştırma kurumları arasında uluslararası iş birliği hayati önem taşıyacak. OpenAI’ın ABD Süper Zekâ Standartlarını ve İnovasyonunu Geliştirme Merkezi (CAISSI), Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü (AISI) ve dünyanın dört bir yanındaki diğer kamu araştırma kurumlarıyla yürüttüğü çalışmalar, şimdiden koruma önlemlerinin güçlendirilmesine, yapay zekâ ajanlarındaki güvenlik açıklarının belirlenip giderilmesine ve en üst seviye yapay zekâ güvenliğinin geliştirilmesine katkıda bulundu.
Anlaşma kapsamında, Polonya Yapay Zekâ Güvenliği Enstitüsü (AISI) olarak görev yapan NASK Yapay Zekâ Güvenliği Araştırma Merkezi ile OpenAI, yapay zekâ güvenliği araştırmalarında iş birliği yapacak. Bu çalışmalar, yetenekleri giderek artan yapay zekâ sistemlerini değerlendirmenin, olası güvenlik açıklarını belirlemenin ve koruma önlemlerini güçlendirmenin yollarını araştıracak.
OpenAI, yapay zekâ güvenliği enstitülerinin ve standart kuruluşlarının uzmanlığından yararlanarak, en üst seviye yapay zekâya yönelik uluslararası teknik standartlar konusunda dünyanın dört bir yanındaki ülkelerle birlikte çalışması için ABD’ye çağrıda bulundu. Yetenekleri ve riskleri değerlendirme, koruma önlemlerini test etme ve olayları raporlama konusunda ortak yaklaşımlar benimsemek, ülkelerin bulguları karşılaştırmasına ve sınır ötesi risklere karşı harekete geçmesine yardımcı olabilir. NASK ile yapılan iş birliği, ulusal uzmanlığın bu daha geniş kapsamlı çalışmalara katılmasının değerini yansıtıyor.
NASK’ın uzmanlığı, doğrudan kamu hizmetlerinin ve Polonya’nın dijital bilgi ekosisteminin korunmasında kullanılan kapsamlı yapay zekâ güvenliği araştırmalarına dayanıyor. NASK gibi ulusal ortaklar olmadan, küresel yapay zekâ güvenliği standartları, yapay zekânın fiilen kullanıldığı ortamların gerçeklerinden kopuk kalabilir.
Anlaşma aynı zamanda OpenAI’ın Polonya’daki siber savunma ekipleriyle yürüttüğü çalışmaları temel alıyor. Temmuz ayında, NASK bünyesinde faaliyet gösteren CERT Polska, Daybreak aracılığıyla OpenAI’ın siber yeteneklere sahip modellerine erişim elde etti(yeni bir pencerede açılır). Ekip, OpenAI modellerinin yardımıyla MikroTik RouterOS’ta altı güvenlik açığı keşfetti. Bunlar arasında, birlikte kullanıldığında etkilenen cihazların kimlik doğrulaması olmadan ele geçirilmesine olanak tanıyabilecek açıklar da vardı. Üretici düzeltmeler yayımladı; CERT Polska da bu düzeltmelerin gözlemlediği saldırıları önlediğini doğruladı.
