Demokratično upravljanje prelomne UI, II. del: Podpora strokovnjakom za kibernetsko obrambo
Umetna inteligenca spreminja hitrost, obseg in ekonomiko kibernetske varnosti. Strokovnjakom za kibernetsko obrambo lahko pomaga pri iskanju in odpravljanju ranljivosti, zaznavanju vdorov ter odzivanju na napade. Toda iste zmogljivosti lahko koristijo tudi zlonamernim akterjem in ustvarjajo nova tveganja, kadar sistemi umetne inteligence delujejo zunaj predvidenih meja. Trenutno imamo časovno omejeno priložnost, da strokovnjakom za kibernetsko obrambo zagotovimo napredno umetno inteligenco in okrepimo zaščito, še preden postanejo napredne zmogljivosti za kibernetske napade široko dostopne.
Danes objavljamo načrt za podporo strokovnjakom za kibernetsko obrambo, ki nadgrajuje naš prejšnji akcijski načrt za kibernetsko varnost in načrt za varnost prelomne umetne inteligence(odpre se v novem oknu). Naše izkušnje z neusklajenostjo vedenja modelov s predvidenimi cilji in z varnostnimi incidenti, v katere so bili vpleteni naši lastni modeli, poudarjajo potrebo po močnejših zaščitnih ukrepih in večji odgovornosti v celotni panogi. Na podlagi teh spoznanj načrt vladam in panogi predlaga konkretne ukrepe na treh področjih:
Krepitev varnosti in zaščite napredne umetne inteligence: Jasneje določiti odgovornosti za zaščito prelomnih modelov in agentov, zaznavanje nevarnega vedenja ter vzdrževanje zanesljivih mehanizmov za zaustavitev delovanja, ki je pod nadzorom posamezne organizacije.
Posodobitev kibernetske varnosti za dobo umetne inteligence: Strokovnjakom za kibernetsko obrambo zagotoviti napredna orodja, usposabljanje in tehnično podporo; odpraviti dolgoletne pomanjkljivosti v kibernetski varnosti ter vlagati v zaščito bistvenih storitev in zamenjavo zastarelih sistemov.
Vzpostavljanje odpornih in prilagodljivih javnih institucij: Okrepiti vrednotenja, ki jih izvajajo državni organi, in neodvisne tehnične presoje, določiti enotne zahteve za poročanje o incidentih ter izboljšati usklajeno odzivanje in okrevanje.
Laboratoriji za umetno inteligenco so odgovorni za obvladovanje tveganj, ki jih ustvarjajo njihovi sistemi, in za pomoč pri krepitvi obrambnih zmogljivosti družbe. Tudi vlade morajo imeti strokovno znanje, sredstva in pristojnosti za zaščito javnosti ob napredku teh zmogljivosti. Oblikovalce politik pozivamo, naj ukrepajo že zdaj: uvedejo naj zaščitne ukrepe, se učijo iz izkušenj in z razvojem tehnologije zaostrujejo zahteve.
Celoten načrt preberite tukaj(odpre se v novem oknu).
