Democratisch bestuur van grensverleggende AI, deel II: Cyberverdedigers versterken
AI verandert de snelheid, schaal en economische verhoudingen binnen cyberbeveiliging. AI kan verdedigers helpen kwetsbaarheden op te sporen en te verhelpen, inbraken te detecteren en op aanvallen te reageren. Maar diezelfde mogelijkheden kunnen ook kwaadwillenden helpen en nieuwe risico's creëren wanneer AI-systemen buiten hun beoogde grenzen handelen. We hebben nu een beperkte kans om verdedigers een voorsprong te geven: door geavanceerde AI in hun handen te leggen en de bescherming te versterken voordat geavanceerde mogelijkheden voor cyberaanvallen breed beschikbaar komen.
Vandaag publiceren we een blauwdruk om cyberverdedigers te versterken. Deze bouwt voort op ons eerdere actieplan voor cyberbeveiliging en onze blauwdruk voor de veiligheid van grensverleggende AI(opent in een nieuw venster). Onze ervaringen met gedrag dat afwijkt van onze bedoelingen en met beveiligingsincidenten rond onze eigen modellen onderstrepen de noodzaak van sterkere waarborgen en verantwoording in de hele sector. Op basis van die lessen doet de blauwdruk concrete voorstellen voor overheden en de sector op drie gebieden:
Veiligheid en beveiliging van geavanceerde AI versterken: Leg duidelijker vast wie verantwoordelijk is voor het beveiligen van grensverleggende modellen en agents, het detecteren van gevaarlijk gedrag en het in stand houden van betrouwbare uitschakelmogelijkheden voor de activiteiten die elke organisatie beheert.
Cyberbeveiliging moderniseren voor het tijdperk van intelligentie: Voorzie verdedigers van geavanceerde tools, training en technische ondersteuning; pak hardnekkige zwakke plekken in de cyberbeveiliging aan; en investeer in het beveiligen van essentiële diensten en het vervangen van verouderde systemen.
Weerbare en flexibele overheidsinstellingen opbouwen: Versterk evaluaties door de overheid en onafhankelijke technische beoordelingen, stel consistente meldplichten voor incidenten vast en verbeter de coördinatie van de respons en het herstel.
AI-labs hebben de verantwoordelijkheid om de risico's van hun systemen aan te pakken en de weerbaarheid van de samenleving te helpen versterken. Ook overheden moeten beschikken over de expertise, middelen en bevoegdheden om de bevolking te beschermen naarmate de mogelijkheden toenemen. We moedigen beleidsmakers aan om nu te handelen: waarborgen vastleggen, leren van ervaringen en eisen aanscherpen naarmate de technologie zich ontwikkelt.
Lees hier(opent in een nieuw venster) de volledige blauwdruk.
