Demokratisk styring av banebrytende KI, del II: Et sterkere cyberforsvar
KI endrer tempoet, omfanget og de økonomiske forutsetningene for cybersikkerhet. KI kan hjelpe cyberforsvarere med å finne og rette sårbarheter, oppdage inntrenging og håndtere angrep. Men de samme evnene kan også utnyttes av ondsinnede aktører og skape nye risikoer når KI-systemer handler utenfor sine tiltenkte rammer. Vi har nå et tidsvindu for å styrke cyberforsvaret: en begrenset mulighet til å gi cyberforsvarere tilgang til avansert KI og styrke beskyttelsen før avanserte evner til cyberangrep blir allment tilgjengelige.
I dag publiserer vi et veikart for å styrke cyberforsvarere. Det bygger på vår tidligere handlingsplan for cybersikkerhet og vårt veikart for trygg banebrytende KI(åpnes i et nytt vindu). Våre erfaringer med egne modeller som ikke handler i tråd med tiltenkte mål, og med sikkerhetshendelser knyttet til dem, understreker behovet for sterkere sikkerhetstiltak og tydeligere ansvar i hele bransjen. Med utgangspunkt i disse erfaringene presenterer veikartet konkrete forslag til myndigheter og næringsliv på tre områder:
Styrke tryggheten og sikkerheten ved avansert KI: Fastsette tydeligere ansvar for å sikre banebrytende modeller og agenter, oppdage farlig atferd og opprettholde pålitelige mekanismer for å stanse operasjoner som den enkelte organisasjonen kontrollerer.
Modernisere cybersikkerheten for intelligensens tidsalder: Gi cyberforsvarere avanserte verktøy, opplæring og teknisk støtte, utbedre langvarige svakheter i cybersikkerheten og investere i å sikre samfunnsviktige tjenester og erstatte utdaterte systemer.
Bygge robuste og tilpasningsdyktige offentlige institusjoner: Styrke myndighetenes evalueringer og uavhengige tekniske vurderinger, innføre enhetlige krav til hendelsesrapportering og forbedre samordnet håndtering og gjenoppretting.
KI-laboratorier har et ansvar for å håndtere risikoene systemene deres skaper, og bidra til å styrke samfunnets forsvar. Myndighetene må også ha kompetansen, ressursene og fullmaktene som trengs for å beskytte befolkningen etter hvert som KI blir mer kapabel. Vi oppfordrer politiske beslutningstakere til å handle nå – innføre sikkerhetstiltak, lære av erfaringer og skjerpe kravene i takt med teknologiutviklingen.
Les hele veikartet her(åpnes i et nytt vindu).
