OpenAI i poljski NASK sklapaju partnerstvo za unapređenje sigurnosti i zaštite AI-ja
OpenAI i poljski Nacionalni istraživački institut NASK potpisali su sporazum o razmatranju saradnje u oblasti sigurnosti i zaštite umjetne inteligencije te tehničkih istraživanja. Partnerstvo će objediniti stručna znanja obje organizacije radi boljeg razumijevanja novih rizika, jačanja zaštitnih mjera i istraživanja načina na koje napredna umjetna inteligencija može doprinijeti sigurnijem i otpornijem digitalnom ekosistemu.
Kako sistemi umjetne inteligencije postaju sve sposobniji, međunarodna saradnja između njihovih razvojnih timova i javnih istraživačkih institucija bit će ključna za razumijevanje rizika tih sistema i razvoj snažnijih zaštitnih mjera. Dosadašnja saradnja kompanije OpenAI s američkim Centrom za unapređenje standarda i inovacija za superinteligenciju (CAISSI), britanskim Institutom za sigurnost umjetne inteligencije (AISI) i drugim javnim istraživačkim institucijama širom svijeta već je doprinijela jačanju zaštitnih mjera, otkrivanju i otklanjanju sigurnosnih ranjivosti u AI agentima te unapređenju sigurnosti granične umjetne inteligencije.
U okviru sporazuma, NASK-ov Centar za istraživanje sigurnosti umjetne inteligencije, koji djeluje kao poljski Institut za sigurnost umjetne inteligencije (AISI), i OpenAI sarađivat će na istraživanjima sigurnosti umjetne inteligencije, razmatrajući načine za evaluaciju sve sposobnijih AI sistema, otkrivanje potencijalnih ranjivosti i jačanje zaštitnih mjera.
OpenAI je pozvao SAD da sa zemljama širom svijeta radi na međunarodnim tehničkim standardima za graničnu umjetnu inteligenciju, oslanjajući se na stručna znanja instituta za sigurnost umjetne inteligencije i tijela za standardizaciju. Zajednički pristupi evaluaciji sposobnosti, procjeni rizika, testiranju zaštitnih mjera i prijavljivanju incidenata mogu pomoći zemljama da upoređuju dokaze i odgovore na rizike koji prelaze državne granice. Saradnja s NASK-om pokazuje koliko je važno uključiti stručna znanja pojedinačnih zemalja u ove šire napore.
U slučaju NASK-a, ta stručnost počiva na opsežnim istraživanjima sigurnosti umjetne inteligencije koja se direktno primjenjuju u zaštiti javnih usluga i digitalnog informacijskog ekosistema Poljske. Bez nacionalnih partnera poput NASK-a, globalni standardi sigurnosti umjetne inteligencije mogli bi ostati nepovezani sa stvarnim uslovima u kojima se ona koristi.
Sporazum se nadovezuje i na dosadašnju saradnju kompanije OpenAI sa stručnjacima za kibernetičku odbranu u Poljskoj. U julu je CERT Polska, koji djeluje u okviru NASK-a, putem programa Daybreak dobio pristup(otvara se u novom prozoru) modelima kompanije OpenAI sa sposobnostima za rad u oblasti kibernetičke sigurnosti. Tim je uz pomoć modela kompanije OpenAI otkrio šest ranjivosti u sistemu MikroTik RouterOS, uključujući propuste čijim bi se kombinovanjem mogla preuzeti kontrola nad pogođenim uređajima bez autentifikacije. Proizvođač je objavio ispravke, a CERT Polska je potvrdio da su one spriječile napade koje je tim uočio.
