Demokratische Governance von Frontier-KI, Teil II: Cyberabwehrteams stärken
KI verändert das Tempo, die Größenordnung und die wirtschaftlichen Rahmenbedingungen der Cybersicherheit. Sie kann Cyberabwehrteams helfen, Schwachstellen zu finden und zu beheben, unbefugtes Eindringen zu erkennen und auf Angriffe zu reagieren. Dieselben Fähigkeiten können aber auch böswillige Akteur:innen unterstützen und neue Risiken schaffen, wenn KI-Systeme außerhalb ihrer vorgesehenen Grenzen agieren. Wir befinden uns im Handlungsfenster der Cyberabwehr: eine begrenzte Gelegenheit, Cyberabwehrteams mit fortschrittlicher KI auszustatten und Schutzmaßnahmen zu stärken, bevor fortschrittliche Fähigkeiten für Cyberangriffe weithin verfügbar werden.
Heute veröffentlichen wir ein Konzept zur Stärkung von Cyberabwehrteams. Es baut auf unserem früheren Aktionsplan für Cybersicherheit und unserem Konzept für die Sicherheit von Frontier-KI(wird in einem neuen Fenster geöffnet) auf. Unsere Erfahrungen mit Fehlausrichtung und Sicherheitsvorfällen bei unseren eigenen Modellen unterstreichen, wie wichtig stärkere Schutzmaßnahmen und Rechenschaftspflichten in der gesamten Branche sind. Auf Grundlage dieser Erkenntnisse enthält das Konzept konkrete Vorschläge für Regierungen und Unternehmen in drei Bereichen:
Sicherheit und Schutz fortschrittlicher KI stärken: Klarere Zuständigkeiten für die Absicherung von Frontier-Modellen und -Agenten, die Erkennung gefährlichen Verhaltens und die Aufrechterhaltung zuverlässiger Abschaltmechanismen für Abläufe im Verantwortungsbereich der jeweiligen Organisation festlegen.
Cybersicherheit für das Zeitalter der Intelligenz modernisieren: Cyberabwehrteams mit fortschrittlichen Werkzeugen, Schulungen und technischer Unterstützung ausstatten, langjährige Schwachstellen in der Cybersicherheit beheben und in die Absicherung essenzieller Dienste sowie den Ersatz veralteter Systeme investieren.
Resiliente und anpassungsfähige öffentliche Institutionen aufbauen: Staatliche Evaluierungen und unabhängige technische Bewertungen stärken, einheitliche Meldepflichten für Vorfälle festlegen und die koordinierte Reaktion sowie die Wiederherstellung verbessern.
KI-Labore tragen die Verantwortung, die Risiken ihrer Systeme anzugehen und zur Stärkung der Abwehrfähigkeit der Gesellschaft beizutragen. Auch Regierungen müssen über das Fachwissen, die Ressourcen und die Befugnisse verfügen, um die Bevölkerung angesichts fortschreitender Fähigkeiten zu schützen. Wir rufen die politisch Verantwortlichen dazu auf, jetzt zu handeln: Schutzmaßnahmen einzuführen, aus Erfahrungen zu lernen und die Anforderungen mit der Weiterentwicklung der Technologie zu verschärfen.
Lies hier(wird in einem neuen Fenster geöffnet) das vollständige Konzept.
