Tata kelola demokratis AI terdepan, bagian II: Memberdayakan tim pertahanan siber
AI mengubah kecepatan, skala, dan aspek ekonomi keamanan siber. AI dapat membantu tim pertahanan siber menemukan dan memperbaiki kerentanan, mendeteksi penyusupan, serta merespons serangan. Namun, kemampuan yang sama juga dapat dimanfaatkan oleh pelaku kejahatan dan menimbulkan risiko baru ketika sistem AI bertindak di luar batas yang ditetapkan. Saat ini ada peluang bagi tim pertahanan siber, tetapi waktunya terbatas: kita perlu membekali mereka dengan AI canggih dan memperkuat perlindungan sebelum kemampuan serangan siber tingkat lanjut tersedia secara luas.
Hari ini, kami menerbitkan cetak biru untuk memberdayakan tim pertahanan siber, yang dikembangkan dari rencana aksi keamanan siber dan cetak biru keselamatan AI terdepan(terbuka di jendela baru) kami sebelumnya. Pengalaman kami menghadapi ketidakselarasan dan insiden keamanan yang melibatkan model kami sendiri menegaskan perlunya pengamanan dan akuntabilitas yang lebih kuat di seluruh industri. Berdasarkan pelajaran tersebut, cetak biru ini mengajukan usulan konkret bagi pemerintah dan industri dalam tiga bidang:
Memperkuat keselamatan dan keamanan AI canggih: Menetapkan tanggung jawab yang lebih jelas untuk mengamankan model dan agen AI terdepan, mendeteksi perilaku berbahaya, serta menjaga keandalan mekanisme penghentian operasi yang berada di bawah kendali masing-masing organisasi.
Memodernisasi keamanan siber untuk era kecerdasan: Membekali tim pertahanan siber dengan alat canggih, pelatihan, dan dukungan teknis; mengatasi kelemahan keamanan siber yang sudah lama ada; serta berinvestasi dalam pengamanan layanan esensial dan penggantian sistem usang.
Membangun lembaga publik yang tangguh dan adaptif: Memperkuat evaluasi oleh pemerintah dan penilaian teknis independen, menetapkan persyaratan pelaporan insiden yang konsisten, serta meningkatkan koordinasi respons dan pemulihan.
Laboratorium AI bertanggung jawab untuk menangani risiko yang ditimbulkan oleh sistem mereka dan membantu memperkuat pertahanan masyarakat. Pemerintah juga harus memiliki keahlian, sumber daya, dan kewenangan untuk melindungi masyarakat seiring meningkatnya kemampuan AI. Kami mendorong para pembuat kebijakan untuk bertindak sekarang—menetapkan langkah pengamanan, belajar dari pengalaman, dan memperkuat persyaratan seiring perkembangan teknologi.
Baca cetak biru selengkapnya di sini(terbuka di jendela baru).
