Demokratisk styring af banebrydende AI, del II: Styrkelse af cyberforsvarere
AI ændrer cybersikkerhedens tempo, omfang og økonomi. AI kan hjælpe cyberforsvarere med at finde og udbedre sårbarheder, opdage indtrængen og reagere på angreb – men de samme mulighder kan også gøre det lettere for ondsindede aktører at handle og skabe nye risici, når AI-systemer handler uden for deres tilsigtede rammer. Cyberforsvaret har lige nu et tidsbegrænset mulighedsrum: Vi kan give cyberforsvarere adgang til avanceret AI og styrke beskyttelsen, inden avancerede offensive cyberkapaciteter bliver bredt tilgængelige.
I dag offentliggør vi en plan for at styrke cyberforsvarere. Den bygger videre på vores tidligere handlingsplan for cybersikkerhed og vores plan for sikkerhed ved banebrydende AI(åbner i et nyt vindue). Vores erfaringer med manglende måltilpasning og sikkerhedshændelser i vores egne modeller understreger behovet for stærkere sikkerhedsforanstaltninger og større ansvarlighed i hele branchen. Med afsæt i disse erfaringer fremsætter planen konkrete forslag til regeringer og branchen på tre områder:
Styrkelse af sikkerheden i og omkring avanceret AI: Fastlæg en klarere ansvarsfordeling for at sikre banebrydende modeller og agenter, opdage farlig adfærd og opretholde pålidelige mekanismer til at standse aktiviteter under den enkelte organisations kontrol.
Modernisering af cybersikkerhed i AI-alderen: Giv cyberforsvarere avancerede værktøjer, uddannelse og teknisk støtte, afhjælp langvarige svagheder i cybersikkerheden, og investér i at sikre samfundsvigtige tjenester og udskifte forældede systemer.
Opbygning af robuste og omstillingsparate offentlige institutioner: Styrk myndighedernes evalueringer og uafhængige tekniske vurderinger, indfør ensartede krav til indberetning af hændelser, og sørg for bedre koordinering af indsats og genopretning.
AI-laboratorier har et ansvar for at håndtere de risici, deres systemer skaber, og bidrage til at styrke samfundets forsvar. Regeringer skal også have den ekspertise, de ressourcer og de beføjelser, der er nødvendige for at beskytte befolkningen, i takt med at AI bliver mere avanceret. Vi opfordrer politiske beslutningstagere til at handle nu – indføre sikkerhedsforanstaltninger, lære af erfaringerne og skærpe kravene, i takt med at teknologien udvikler sig.
Læs hele planen her(åbner i et nyt vindue).
