Tadbir urus demokratik AI termaju, bahagian II: Memperkasa pembela siber
AI sedang mengubah kepantasan, skala dan ekonomi keselamatan siber. AI boleh membantu pembela siber mengenal pasti dan membaiki kelemahan, mengesan pencerobohan serta bertindak balas terhadap serangan—namun keupayaan yang sama juga boleh membantu pihak berniat jahat dan mewujudkan risiko baharu apabila sistem AI bertindak melangkaui batas yang ditetapkan. Kini ada peluang yang terhad untuk memperkukuh pertahanan siber: membekalkan AI termaju kepada pembela siber dan mengukuhkan perlindungan sebelum keupayaan serangan siber termaju tersedia secara meluas.
Hari ini, kami menerbitkan rangka tindakan untuk memperkasa pembela siber, berasaskan pelan tindakan keselamatan siber terdahulu dan rangka tindakan keselamatan AI termaju(dibuka dalam tetingkap baru) kami. Pengalaman kami menghadapi ketidakselarasan dan insiden keselamatan yang melibatkan model kami sendiri menegaskan perlunya langkah perlindungan dan akauntabiliti yang lebih kukuh di seluruh industri. Berdasarkan pengajaran tersebut, rangka tindakan ini mengemukakan cadangan konkrit untuk kerajaan dan industri dalam tiga bidang:
Memperkukuh keselamatan dan sekuriti AI termaju: Tetapkan tanggungjawab yang lebih jelas untuk melindungi model dan ejen AI termaju, mengesan tingkah laku berbahaya serta mengekalkan kawalan penutupan yang boleh diandalkan bagi operasi di bawah kawalan setiap organisasi.
Memodenkan keselamatan siber untuk era kecerdasan: Lengkapkan pembela siber dengan alat termaju, latihan dan sokongan teknikal; tangani kelemahan keselamatan siber yang berlarutan; serta labur dalam perlindungan perkhidmatan penting dan penggantian sistem usang.
Membina institusi awam yang berdaya tahan dan mudah menyesuaikan diri: Perkukuh penilaian kerajaan dan penilaian teknikal bebas, tetapkan keperluan pelaporan insiden yang konsisten serta tingkatkan penyelarasan tindak balas dan pemulihan.
Makmal AI bertanggungjawab untuk menangani risiko yang diwujudkan oleh sistem mereka dan membantu memperkukuh pertahanan masyarakat. Kerajaan juga mesti mempunyai kepakaran, sumber dan kuasa untuk melindungi orang ramai seiring dengan peningkatan keupayaan AI. Kami menggalakkan penggubal dasar untuk bertindak sekarang—menetapkan langkah perlindungan, belajar daripada pengalaman dan memperketat keperluan seiring dengan perkembangan teknologi.
Baca rangka tindakan penuh di sini(dibuka dalam tetingkap baru).
