OpenAI i poljski NASK udružuju snage radi unaprjeđenja sigurnosti i zaštite AI-ja
OpenAI i poljski Nacionalni istraživački institut NASK potpisali su sporazum o razmatranju mogućnosti suradnje u području sigurnosti i zaštite umjetne inteligencije te tehničkih istraživanja. Partnerstvo će objediniti stručna znanja obiju organizacija radi boljeg razumijevanja novih rizika, jačanja zaštitnih mjera i istraživanja načina na koje napredna umjetna inteligencija može pridonijeti sigurnijem i otpornijem digitalnom ekosustavu.
Kako AI sustavi postaju sve sposobniji, međunarodna suradnja između njihovih razvojnih timova i javnih istraživačkih ustanova bit će ključna za razumijevanje rizika tih sustava i razvoj snažnijih zaštitnih mjera. Dosadašnja suradnja OpenAI-ja s američkim Centrom za unaprjeđenje standarda i inovacija za superinteligenciju (CAISSI), britanskim Institutom za sigurnost umjetne inteligencije (AISI) i drugim javnim istraživačkim ustanovama diljem svijeta već je pridonijela jačanju zaštitnih mjera, otkrivanju i otklanjanju sigurnosnih ranjivosti u AI agentima te unaprjeđenju sigurnosti granične umjetne inteligencije.
U okviru sporazuma NASK-ov Centar za istraživanje sigurnosti umjetne inteligencije, koji djeluje kao poljski Institut za sigurnost umjetne inteligencije (AISI), i OpenAI surađivat će na istraživanju sigurnosti AI-ja. Pritom će istraživati načine vrednovanja sve sposobnijih AI sustava, prepoznavanja mogućih ranjivosti i jačanja zaštitnih mjera.
OpenAI je pozvao SAD na suradnju sa zemljama diljem svijeta u izradi međunarodnih tehničkih standarda za graničnu umjetnu inteligenciju, oslanjajući se na stručna znanja instituta za sigurnost umjetne inteligencije i normizacijskih tijela. Zajednički pristupi vrednovanju sposobnosti, procjeni rizika, testiranju zaštitnih mjera i prijavljivanju incidenata mogu pomoći zemljama da uspoređuju nalaze i odgovore na rizike koji prelaze državne granice. Suradnja s NASK-om pokazuje koliko je važno uključiti nacionalna stručna znanja u te šire napore.
U slučaju NASK-a ta se stručnost temelji na opsežnim istraživanjima sigurnosti AI-ja koja se izravno primjenjuju u zaštiti javnih usluga i poljskog digitalnog informacijskog ekosustava. Bez nacionalnih partnera poput NASK-a globalni standardi sigurnosti AI-ja mogli bi ostati odvojeni od stvarnih uvjeta u kojima se umjetna inteligencija upotrebljava.
Sporazum se nadovezuje i na dosadašnju suradnju OpenAI-ja sa stručnjacima za kibernetičku obranu u Poljskoj. U srpnju je CERT Polska, koji djeluje u sklopu NASK-a, putem programa Daybreak dobio pristup(otvara se u novom prozoru) modelima OpenAI-ja sa sposobnostima za rad u području kibernetičke sigurnosti. Tim je uz pomoć modela OpenAI-ja otkrio šest ranjivosti u sustavu MikroTik RouterOS, uključujući propuste čijim bi se kombiniranim iskorištavanjem mogla preuzeti kontrola nad zahvaćenim uređajima bez autentifikacije. Proizvođač je objavio ispravke, a CERT Polska potvrdio je da su spriječili napade koje je tim uočio.
