Demokratisk styrning av banbrytande AI, del II: Stöd till cyberförsvarare
AI förändrar cybersäkerhetens tempo, omfattning och ekonomiska förutsättningar. AI kan hjälpa cyberförsvarare att hitta och åtgärda sårbarheter, upptäcka intrång och hantera attacker – men samma förmågor kan också hjälpa illasinnade aktörer och skapa nya risker när AI-system agerar utanför sina avsedda ramar. Just nu har cyberförsvarare ett möjlighetsfönster: en begränsad tid då vi kan ge dem tillgång till avancerad AI och stärka skyddet innan avancerade förmågor för cyberangrepp blir allmänt tillgängliga.
I dag publicerar vi en plan för att stärka cyberförsvarare. Den bygger vidare på vår tidigare handlingsplan för cybersäkerhet och vår plan för säkerhet inom banbrytande AI(öppnas i ett nytt fönster). Våra erfarenheter av att våra egna modeller inte alltid agerat i linje med avsedda mål, och av säkerhetsincidenter som rört dem, understryker behovet av starkare skyddsåtgärder och tydligare ansvar i hela branschen. Med dessa lärdomar som grund presenterar planen konkreta förslag för regeringar och branschen inom tre områden:
Stärk säkerheten och skyddet för avancerad AI: Tydliggör ansvaret för att skydda banbrytande modeller och agenter, upptäcka farligt beteende och upprätthålla tillförlitliga avstängningsmekanismer för verksamhet som respektive organisation kontrollerar.
Modernisera cybersäkerheten för intelligensens tidsålder: Ge cyberförsvarare avancerade verktyg, utbildning och tekniskt stöd, åtgärda långvariga brister i cybersäkerheten och investera i att skydda samhällsviktiga tjänster och ersätta föråldrade system.
Bygg motståndskraftiga och anpassningsbara offentliga institutioner: Stärk myndigheters utvärderingar och oberoende tekniska bedömningar, inför enhetliga krav på incidentrapportering och förbättra samordningen av insatser och återställning.
AI-labb har ett ansvar att hantera de risker som deras system skapar och bidra till att stärka samhällets försvar. Stater måste också ha den expertis, de resurser och de befogenheter som krävs för att skydda allmänheten i takt med att förmågorna utvecklas. Vi uppmanar beslutsfattare att agera nu – genom att införa skyddsåtgärder, dra lärdom av erfarenheter och skärpa kraven i takt med att tekniken utvecklas.
Läs hela planen här(öppnas i ett nytt fönster).
