OpenAI og polske NASK samarbeider for å gjøre KI tryggere og sikrere
OpenAI og det polske nasjonale forskningsinstituttet NASK har signert en avtale om å utforske samarbeid om trygg og sikker KI og teknisk forskning. Partnerskapet vil samle ekspertise fra begge organisasjonene for å forstå nye risikoer bedre, styrke sikkerhetstiltak og utforske hvordan avansert KI kan bidra til et sikrere og mer robust digitalt økosystem.
Etter hvert som KI-systemer blir mer kapable, vil internasjonalt samarbeid mellom utviklere og offentlige forskningsinstitusjoner være avgjørende for å forstå risikoene ved dem og utvikle sterkere sikkerhetstiltak. OpenAIs eksisterende samarbeid med amerikanske Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), britiske AI Security Institute (AISI) og andre offentlige forskningsinstitusjoner verden over har allerede bidratt til å styrke sikkerhetstiltak, avdekke og utbedre sikkerhetssårbarheter i KI-agenter og forbedre sikkerheten i banebrytende KI.
Gjennom avtalen skal NASKs forskningssenter for KI-sikkerhet – som fungerer som Polens institutt for sikkerhet i kunstig intelligens (AISI) – og OpenAI samarbeide om forskning på KI-sikkerhet. De skal utforske metoder for å evaluere stadig mer kapable KI-systemer, identifisere potensielle sårbarheter og styrke sikkerhetstiltak.
OpenAI har oppfordret USA til å samarbeide med land verden over om internasjonale tekniske standarder for banebrytende KI, med støtte i ekspertisen til institutter for KI-sikkerhet og standardiseringsorganer. Felles metoder for å evaluere evner, vurdere risiko, teste sikkerhetstiltak og rapportere hendelser kan hjelpe land med å sammenligne kunnskapsgrunnlag og håndtere risikoer som krysser landegrenser. Samarbeidet med NASK viser verdien av å trekke nasjonal ekspertise inn i dette bredere arbeidet.
Hos NASK bygger denne ekspertisen på omfattende forskning på KI-sikkerhet, som brukes direkte til å beskytte offentlige tjenester og Polens digitale informasjonsøkosystem. Uten nasjonale partnere som NASK kan globale standarder for KI-sikkerhet forbli løsrevet fra forholdene der KI faktisk brukes.
Avtalen bygger også på OpenAIs eksisterende samarbeid med aktører som forsvarer mot cybertrusler i Polen. I juli fikk CERT Polska, som er en del av NASK, tilgang(åpnes i et nytt vindu) til OpenAIs modeller med cybersikkerhetskapasiteter gjennom Daybreak. Ved hjelp av OpenAI-modeller avdekket teamet seks sårbarheter i MikroTik RouterOS, blant annet feil som kunne kombineres for å ta kontroll over berørte enheter uten autentisering. Leverandøren ga ut feilrettinger, og CERT Polska bekreftet at disse forhindret angrepene teamet hadde observert.
