OpenAI og polske NASK samarbejder om at styrke AI-sikkerhed og cybersikkerhed
OpenAI og Polens nationale forskningsinstitut NASK har underskrevet en aftale om at undersøge mulighederne for samarbejde om AI-sikkerhed, cybersikkerhed og teknisk forskning. Partnerskabet samler ekspertise fra begge organisationer for bedre at forstå nye risici, styrke sikkerhedsforanstaltninger og undersøge, hvordan avanceret AI kan bidrage til et mere sikkert og modstandsdygtigt digitalt økosystem.
I takt med at AI-systemer bliver mere avancerede, vil internationalt samarbejde mellem udviklere og offentlige forskningsinstitutioner være afgørende for at forstå risiciene og udvikle stærkere sikkerhedsforanstaltninger. OpenAI's eksisterende samarbejde med det amerikanske Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), det britiske AI Security Institute (AISI) og andre offentlige forskningsinstitutioner verden over har allerede bidraget til at styrke sikkerhedsforanstaltninger, identificere og afhjælpe sikkerhedssårbarheder i AI-agenter og forbedre sikkerheden i banebrydende AI.
Gennem aftalen vil NASK's forskningscenter for AI-sikkerhed – der fungerer som Polens institut for sikkerhed inden for kunstig intelligens (AISI) – og OpenAI samarbejde om forskning i AI-sikkerhed. De vil undersøge metoder til at evaluere stadig mere avancerede AI-systemer, identificere potentielle sårbarheder og styrke sikkerhedsforanstaltninger.
OpenAI har opfordret USA til at samarbejde med lande verden over om internationale tekniske standarder for banebrydende AI med afsæt i ekspertisen hos institutter for AI-sikkerhed og standardiseringsorganer. Fælles tilgange til at evaluere kapaciteter, vurdere risici, teste sikkerhedsforanstaltninger og rapportere hændelser kan hjælpe lande med at sammenligne resultater og håndtere grænseoverskridende risici. Samarbejdet med NASK viser værdien af at inddrage national ekspertise i denne bredere indsats.
Hos NASK bygger denne ekspertise på omfattende forskning i AI-sikkerhed, som anvendes direkte til at beskytte offentlige tjenester og Polens digitale informationsøkosystem. Uden nationale partnere som NASK risikerer globale standarder for AI-sikkerhed at forblive løsrevet fra den virkelighed, hvor AI faktisk bruges.
Aftalen bygger også videre på OpenAI's eksisterende samarbejde med cybersikkerhedsaktører i Polen. I juli fik CERT Polska, som er en del af NASK, adgang(åbner i et nyt vindue) til OpenAI's modeller med cybersikkerhedskapaciteter gennem Daybreak. Teamet brugte OpenAI-modeller til at hjælpe med at opdage seks sårbarheder i MikroTik RouterOS, herunder fejl, der kunne kombineres til at overtage kontrollen over berørte enheder uden autentificering. Leverandøren udgav rettelser, og CERT Polska bekræftede, at de forhindrede de angreb, teamet havde observeret.
