OpenAI dan NASK Poland bekerjasama untuk memajukan keselamatan dan sekuriti AI
OpenAI dan Institut Penyelidikan Kebangsaan NASK di Poland telah menandatangani perjanjian untuk meneroka kerjasama dalam keselamatan, sekuriti dan penyelidikan teknikal AI. Kerjasama ini akan menggabungkan kepakaran kedua-dua organisasi untuk lebih memahami risiko baharu, memperkukuh perlindungan dan meneroka cara AI termaju dapat menyumbang kepada ekosistem digital yang lebih selamat dan berdaya tahan.
Seiring peningkatan keupayaan sistem AI, kerjasama antarabangsa antara pembangun dengan institusi penyelidikan awam amat penting untuk memahami risikonya dan membangunkan perlindungan yang lebih kukuh. Kerjasama sedia ada OpenAI dengan Pusat Pemajuan Piawaian dan Inovasi untuk Kecerdasan Super (CAISSI) AS, Institut Sekuriti AI (AISI) UK dan institusi penyelidikan awam lain di seluruh dunia telah membantu memperkukuh perlindungan, mengenal pasti dan membaiki kelemahan sekuriti dalam ejen AI, serta memajukan keselamatan AI perbatasan.
Melalui perjanjian ini, Pusat Penyelidikan Keselamatan AI NASK—yang berperanan sebagai Institut Keselamatan Kecerdasan Buatan (AISI) Poland—dan OpenAI akan bekerjasama dalam penyelidikan keselamatan AI. Kerjasama ini akan meneroka cara menilai sistem AI yang semakin berkeupayaan, mengenal pasti potensi kelemahan dan memperkukuh perlindungan.
OpenAI telah menyeru AS agar bekerjasama dengan negara-negara di seluruh dunia dalam usaha membangunkan piawaian teknikal antarabangsa untuk AI perbatasan, dengan memanfaatkan kepakaran institut keselamatan AI dan badan piawaian. Pendekatan bersama untuk menilai keupayaan dan risiko, menguji perlindungan serta melaporkan insiden dapat membantu negara-negara membandingkan bukti dan menangani risiko rentas sempadan. Kerjasama dengan NASK mencerminkan pentingnya sumbangan kepakaran negara dalam usaha yang lebih luas ini.
Bagi NASK, kepakaran ini berteraskan penyelidikan menyeluruh dalam keselamatan AI yang diterapkan secara langsung untuk melindungi perkhidmatan awam dan ekosistem maklumat digital Poland. Tanpa rakan kerjasama di peringkat negara seperti NASK, piawaian keselamatan AI global mungkin terus terpisah daripada realiti penggunaan sebenar AI.
Perjanjian ini juga mengembangkan kerjasama sedia ada OpenAI dengan pihak pertahanan siber di Poland. Pada bulan Julai, CERT Polska, yang beroperasi di bawah NASK, mendapat akses(dibuka dalam tetingkap baru) kepada model OpenAI yang berkeupayaan siber melalui Daybreak. Pasukan itu menggunakan model OpenAI untuk membantu menemukan enam kelemahan dalam MikroTik RouterOS, termasuk kelemahan yang boleh dieksploitasi secara gabungan untuk mengambil alih kawalan peranti terjejas tanpa pengesahan. Vendor tersebut mengeluarkan pembaikan yang disahkan oleh CERT Polska berjaya menghalang serangan yang telah dikesannya.
