Demokratické riadenie prelomovej AI, II. časť: Posilnenie kybernetických obrancov
AI mení tempo, rozsah aj ekonomiku kybernetickej bezpečnosti. Môže odborníkom na kybernetickú obranu pomôcť nachádzať a odstraňovať zraniteľnosti, odhaľovať prieniky a reagovať na útoky. Tie isté schopnosti však môžu pomáhať aj útočníkom a vytvárať nové riziká, keď systémy AI prekročia stanovené hranice. Práve teraz majú kybernetickí obrancovia jedinečnú, no časovo obmedzenú príležitosť: môžeme im dať do rúk pokročilú AI a posilniť ochranu skôr, než sa pokročilé možnosti kybernetických útokov stanú široko dostupnými.
Dnes zverejňujeme plán na posilnenie kybernetických obrancov, ktorý nadväzuje na náš predchádzajúci akčný plán kybernetickej bezpečnosti a plán bezpečnosti prelomovej AI(otvorí sa v novom okne). Naše skúsenosti s nesúladom správania našich modelov so zamýšľanými cieľmi a s bezpečnostnými incidentmi, ktoré sa ich týkali, zdôrazňujú potrebu silnejších ochranných opatrení a väčšej zodpovednosti v celom odvetví. Na základe týchto poznatkov plán predkladá konkrétne návrhy pre vlády a odvetvie v troch oblastiach:
Posilnenie bezpečnosti a zabezpečenia pokročilej AI: Jasnejšie vymedziť zodpovednosť za zabezpečenie prelomových modelov a agentov, odhaľovanie nebezpečného správania a udržiavanie spoľahlivých mechanizmov na zastavenie činností, ktoré má každá organizácia pod kontrolou.
Modernizácia kybernetickej bezpečnosti pre vek inteligencie: Poskytnúť obrancom pokročilé nástroje, školenia a technickú podporu, riešiť dlhodobé slabiny kybernetickej bezpečnosti a investovať do zabezpečenia základných služieb a nahrádzania zastaraných systémov.
Budovanie odolných a prispôsobivých verejných inštitúcií: Posilniť hodnotenia vykonávané štátom a nezávislé technické posudzovanie, zaviesť jednotné požiadavky na hlásenie incidentov a zlepšiť koordinovanú reakciu a obnovu.
Organizácie vyvíjajúce AI majú zodpovednosť riešiť riziká, ktoré ich systémy vytvárajú, a pomáhať posilňovať obranu spoločnosti. Aj vlády musia mať odborné znalosti, zdroje a právomoci na ochranu verejnosti s tým, ako sa schopnosti AI rozvíjajú. Vyzývame tvorcov politík, aby konali už teraz – zavádzali ochranné opatrenia, učili sa zo skúseností a sprísňovali požiadavky s vývojom technológie.
Celý plán si môžete prečítať tu(otvorí sa v novom okne).
