OpenAI und Polens NASK kooperieren für mehr KI-Sicherheit und Schutz vor Angriffen
OpenAI und das polnische NASK National Research Institute haben eine Vereinbarung unterzeichnet, um Möglichkeiten der Zusammenarbeit bei KI-Sicherheit, Schutz vor Angriffen und technischer Forschung auszuloten. Die Partnerschaft wird das Fachwissen beider Organisationen zusammenführen, um neue Risiken besser zu verstehen, Schutzmaßnahmen zu stärken und zu untersuchen, wie fortschrittliche KI zu einem sichereren und widerstandsfähigeren digitalen Ökosystem beitragen kann.
Da KI-Systeme immer leistungsfähiger werden, ist die internationale Zusammenarbeit zwischen KI-Entwicklungsunternehmen und öffentlichen Forschungseinrichtungen unerlässlich, um die Risiken dieser Systeme zu verstehen und wirksamere Schutzmaßnahmen zu entwickeln. OpenAI arbeitet bereits mit dem US-amerikanischen Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), dem britischen AI Security Institute (AISI) und weiteren öffentlichen Forschungseinrichtungen weltweit zusammen. Diese Arbeit hat bereits dazu beigetragen, Schutzmaßnahmen zu stärken, Sicherheitslücken in KI-Agenten zu erkennen und zu beheben sowie die Sicherheit von Frontier-KI zu verbessern.
Im Rahmen der Vereinbarung werden das AI Safety Research Center von NASK, das als polnisches Artificial Intelligence Safety Institute (AISI) fungiert, und OpenAI gemeinsam zur KI-Sicherheit forschen. Dabei werden sie untersuchen, wie sich zunehmend leistungsfähige KI-Systeme bewerten, mögliche Schwachstellen erkennen und Schutzmaßnahmen stärken lassen.
OpenAI hat gefordert, dass die USA mit Ländern weltweit an internationalen technischen Standards für Frontier-KI arbeiten und dabei das Fachwissen von KI-Sicherheitsinstituten und Normungsorganisationen nutzen. Gemeinsame Ansätze zur Bewertung von Fähigkeiten und Risiken, zur Prüfung von Schutzmaßnahmen und zur Meldung von Vorfällen können Ländern helfen, Erkenntnisse zu vergleichen und auf grenzüberschreitende Risiken zu reagieren. Die Zusammenarbeit mit NASK zeigt, wie wertvoll es ist, nationales Fachwissen in diese übergreifenden Bemühungen einzubringen.
Bei NASK beruht dieses Fachwissen auf umfangreicher Forschung zur KI-Sicherheit, die unmittelbar dem Schutz öffentlicher Dienste und des digitalen Informationsökosystems Polens dient. Ohne nationale Partnerorganisationen wie NASK könnten globale KI-Sicherheitsstandards die tatsächlichen Bedingungen des KI-Einsatzes verfehlen.
Die Vereinbarung baut auch auf der bisherigen Zusammenarbeit von OpenAI mit Fachleuten für Cyberabwehr in Polen auf. Im Juli erhielt(wird in einem neuen Fenster geöffnet) das bei NASK angesiedelte CERT Polska über Daybreak Zugang zu OpenAI-Modellen mit Fähigkeiten im Bereich Cybersicherheit. Mithilfe von OpenAI-Modellen entdeckte das Team sechs Schwachstellen in MikroTik RouterOS. Darunter waren Sicherheitslücken, die sich kombinieren ließen, um ohne Authentifizierung die Kontrolle über betroffene Geräte zu übernehmen. Der Hersteller veröffentlichte Fehlerbehebungen. CERT Polska bestätigte, dass diese die vom Team beobachteten Angriffe verhinderten.
