Demokratikong pamamahala sa frontier AI, bahagi II: Pagpapalakas sa mga cyber defender
Binabago ng AI ang bilis, lawak, at mga gastos sa cybersecurity. Makakatulong ito sa mga cyber defender na mahanap at maayos ang mga kahinaan sa seguridad, matukoy ang mga panghihimasok, at makatugon sa mga pag-atake—ngunit maaari ding magamit ang mga kakayahang ito ng mga may masamang layunin at magdulot ng mga bagong panganib kapag lumampas ang mga AI system sa itinakdang mga hangganan nito. May pagkakataon ngayon ang mga cyber defender na makalamang: limitado ang panahong mayroon tayo para maibigay sa kanila ang advanced AI at mapatibay ang mga proteksiyon bago lumaganap ang mga advanced na kakayahan sa cyber attack.
Ngayon, inilalathala namin ang isang plano para palakasin ang mga cyber defender, na nakabatay sa nauna naming plano ng pagkilos para sa cybersecurity at plano para sa kaligtasan ng frontier AI(magbubukas sa bagong window). Ang karanasan namin sa paglihis ng sarili naming mga modelo at sa mga insidente sa seguridad na kinasasangkutan ng mga ito ay nagpapakita ng pangangailangan para sa mas matibay na mga pananggalang at pananagutan sa buong industriya. Batay sa mga aral na iyon, naglalatag ang plano ng mga kongkretong panukala para sa mga pamahalaan at industriya sa tatlong larangan:
Pagpapatibay ng kaligtasan at seguridad para sa advanced AI: Magtakda ng mas malinaw na mga responsibilidad sa pagprotekta sa mga frontier model at agent, pagtukoy sa mapanganib na gawi, at pagpapanatili ng maaasahang mga kontrol sa pag-shutdown para sa mga operasyong saklaw ng kontrol ng bawat organisasyon.
Pagmordenisa ng cybersecurity para sa panahon ng AI: Bigyan ang mga cyber defender ng mga advanced na tool, pagsasanay, at teknikal na suporta; tugunan ang matagal nang mga kahinaan sa cybersecurity; at mamuhunan sa pagprotekta sa mahahalagang serbisyo at pagpapalit ng mga lumang sistema.
Pagbuo ng matatag at adaptibong mga pampublikong institusyon: Pagbutihin ang mga pagsusuri ng pamahalaan at mga independiyenteng teknikal na pagtatasa, magtakda ng pare-parehong mga kinakailangan sa pag-uulat ng insidente, at pahusayin ang koordinasyon sa pagtugon at pagbangon.
Responsibilidad ng mga AI lab na tugunan ang mga panganib na dulot ng kanilang mga sistema at tumulong na patibayin ang mga depensa ng lipunan. Dapat ding magkaroon ang mga pamahalaan ng kadalubhasaan, mga mapagkukunan, at awtoridad na kailangan para maprotektahan ang publiko habang umuunlad ang mga kakayahan ng AI. Hinihikayat namin ang mga gumagawa ng patakaran na kumilos ngayon—magtatag ng mga pananggalang, matuto mula sa karanasan, at higpitan ang mga kinakailangan habang umuunlad ang teknolohiya.
Basahin ang buong plano dito(magbubukas sa bagong window).
