Demokratsko upravljanje najnaprednijim AI-jem, II. dio: Podrška kibernetičkoj obrani
Umjetna inteligencija mijenja brzinu, razmjere i ekonomiku kibernetičke sigurnosti. Stručnjacima za kibernetičku obranu može pomoći u pronalaženju i otklanjanju ranjivosti, otkrivanju upada i odgovoru na napade. No te iste sposobnosti mogu pomoći i zlonamjernim akterima te stvoriti nove rizike kada sustavi umjetne inteligencije djeluju izvan predviđenih granica. Trenutačno imamo ograničenu priliku da stručnjacima za kibernetičku obranu stavimo na raspolaganje naprednu umjetnu inteligenciju i ojačamo zaštitu prije nego što napredne sposobnosti za kibernetičke napade postanu široko dostupne.
Danas objavljujemo plan za osnaživanje stručnjaka za kibernetičku obranu, koji se nadovezuje na naš raniji akcijski plan za kibernetičku sigurnost i plan za sigurnost najnaprednije umjetne inteligencije(otvara se u novom prozoru). Naša iskustva s neusklađenim ponašanjem i sigurnosnim incidentima koji su uključivali naše modele naglašavaju potrebu za snažnijim zaštitnim mjerama i većom odgovornošću u cijelom sektoru. Na temelju tih iskustava plan donosi konkretne prijedloge za vlade i industriju u trima područjima:
Jačanje sigurnosti i zaštite napredne umjetne inteligencije: Jasnije odrediti odgovornosti za zaštitu najnaprednijih modela i agenata, otkrivanje opasnog ponašanja te održavanje pouzdanih mehanizama za zaustavljanje operacija pod nadzorom pojedine organizacije.
Modernizacija kibernetičke sigurnosti za doba umjetne inteligencije: Stručnjacima za kibernetičku obranu osigurati napredne alate, obuku i tehničku podršku; otkloniti dugogodišnje slabosti kibernetičke sigurnosti te ulagati u zaštitu ključnih usluga i zamjenu zastarjelih sustava.
Izgradnja otpornih i prilagodljivih javnih institucija: Ojačati evaluacije koje provode državna tijela i neovisne tehničke procjene, uspostaviti ujednačene zahtjeve za prijavljivanje incidenata te poboljšati koordinaciju odgovora i oporavka.
Laboratoriji za umjetnu inteligenciju odgovorni su za ublažavanje rizika koje stvaraju njihovi sustavi i za doprinos jačanju obrambenih sposobnosti društva. Kako sposobnosti umjetne inteligencije napreduju, vlade također moraju imati stručna znanja, resurse i ovlasti potrebne za zaštitu javnosti. Pozivamo donositelje javnih politika da djeluju odmah: da uspostave zaštitne mjere, uče iz iskustva i postrožuju zahtjeve u skladu s razvojem tehnologije.
Cijeli plan pročitajte ovdje(otvara se u novom prozoru).
