OpenAI en het Poolse NASK werken samen aan betere AI-veiligheid en -beveiliging
OpenAI en het Poolse nationale onderzoeksinstituut NASK hebben een overeenkomst getekend om samenwerking op het gebied van AI-veiligheid, beveiliging en technisch onderzoek te verkennen. De samenwerking bundelt de expertise van beide organisaties om nieuwe risico’s beter te begrijpen, beschermingsmaatregelen te versterken en te onderzoeken hoe geavanceerde AI kan bijdragen aan een veiliger en weerbaarder digitaal ecosysteem.
Naarmate AI-systemen meer kunnen, wordt internationale samenwerking tussen ontwikkelaars en publieke onderzoeksinstellingen essentieel om de risico’s van deze systemen te begrijpen en sterkere beschermingsmaatregelen te ontwikkelen. OpenAI’s bestaande samenwerking met het Amerikaanse Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), het Britse AI Security Institute (AISI) en andere publieke onderzoeksinstellingen wereldwijd heeft al geholpen om beschermingsmaatregelen te versterken, beveiligingslekken in AI-agents op te sporen en te verhelpen, en de veiligheid van grensverleggende AI te verbeteren.
Op basis van de overeenkomst gaan het AI Safety Research Center van NASK, dat fungeert als het Poolse Artificial Intelligence Safety Institute (AISI), en OpenAI samenwerken aan onderzoek naar AI-veiligheid. Daarbij onderzoeken ze manieren om steeds capabelere AI-systemen te evalueren, mogelijke kwetsbaarheden op te sporen en beschermingsmaatregelen te versterken.
OpenAI heeft de VS opgeroepen om samen met landen over de hele wereld te werken aan internationale technische normen voor grensverleggende AI, met behulp van de expertise van instituten voor AI-veiligheid en normalisatie-instellingen. Een gezamenlijke aanpak voor het evalueren van capaciteiten, beoordelen van risico’s, testen van beschermingsmaatregelen en melden van incidenten kan landen helpen om bevindingen te vergelijken en te reageren op grensoverschrijdende risico’s. De samenwerking met NASK laat zien hoe waardevol nationale expertise is voor deze bredere inspanning.
Bij NASK berust die expertise op uitgebreid onderzoek naar AI-veiligheid, dat direct wordt ingezet om publieke diensten en het digitale informatie-ecosysteem van Polen te beschermen. Zonder nationale partners zoals NASK bestaat het risico dat wereldwijde normen voor AI-veiligheid onvoldoende aansluiten bij de praktijk waarin AI wordt gebruikt.
De overeenkomst bouwt ook voort op OpenAI’s bestaande samenwerking met cyberbeveiligers in Polen. In juli kreeg(opent in een nieuw venster) CERT Polska, dat onderdeel is van NASK, via Daybreak toegang tot OpenAI’s modellen met cybercapaciteiten. Het team ontdekte met behulp van OpenAI-modellen zes kwetsbaarheden in MikroTik RouterOS, waaronder fouten die in combinatie konden worden gebruikt om zonder authenticatie de controle over getroffen apparaten over te nemen. De leverancier bracht beveiligingsupdates uit. CERT Polska bevestigde dat deze de waargenomen aanvallen blokkeerden.
