OpenAI in poljski NASK v partnerstvu za izboljšanje varnosti in zaščite umetne inteligence
OpenAI in poljski nacionalni raziskovalni inštitut NASK sta podpisala sporazum o preučitvi možnosti sodelovanja na področju varnosti, zaščite in tehničnih raziskav umetne inteligence. Partnerstvo bo povezalo strokovno znanje obeh organizacij za boljše razumevanje novih tveganj, krepitev zaščitnih ukrepov in raziskovanje, kako lahko napredna umetna inteligenca prispeva k varnejšemu in odpornejšemu digitalnemu ekosistemu.
Ker postajajo sistemi umetne inteligence vse zmogljivejši, bo mednarodno sodelovanje med razvijalci in javnimi raziskovalnimi ustanovami ključno za razumevanje tveganj teh sistemov in razvoj učinkovitejših zaščitnih ukrepov. Dosedanje sodelovanje družbe OpenAI z ameriškim Centrom za spodbujanje standardov in inovacij na področju superinteligence (CAISSI), britanskim Inštitutom za varnost umetne inteligence (AISI) in drugimi javnimi raziskovalnimi ustanovami po svetu je že pripomoglo h krepitvi zaščitnih ukrepov, odkrivanju in odpravljanju varnostnih ranljivosti v agentih umetne inteligence ter izboljšanju varnosti prelomne umetne inteligence.
V okviru sporazuma bosta NASK-ov Center za raziskave varnosti umetne inteligence, ki deluje kot poljski Inštitut za varnost umetne inteligence (AISI), in OpenAI sodelovala pri raziskavah varnosti umetne inteligence. Preučevala bosta načine za vrednotenje vse zmogljivejših sistemov umetne inteligence, odkrivanje morebitnih ranljivosti in krepitev zaščitnih ukrepov.
OpenAI je pozval ZDA, naj z državami po svetu sodelujejo pri oblikovanju mednarodnih tehničnih standardov za prelomno umetno inteligenco ter se pri tem oprejo na strokovno znanje inštitutov za varnost umetne inteligence in organov za standardizacijo. Skupni pristopi k vrednotenju zmogljivosti, ocenjevanju tveganj, preizkušanju zaščitnih ukrepov in poročanju o incidentih lahko državam pomagajo primerjati ugotovitve in se odzivati na tveganja, ki presegajo državne meje. Sodelovanje z inštitutom NASK kaže, kako pomembno je v ta širša prizadevanja vključevati strokovno znanje posameznih držav.
Pri inštitutu NASK to znanje temelji na obsežnih raziskavah varnosti umetne inteligence, ki jih neposredno uporabljajo za zaščito javnih storitev in poljskega digitalnega informacijskega ekosistema. Brez nacionalnih partnerjev, kot je NASK, lahko svetovni standardi za varnost umetne inteligence ostanejo ločeni od dejanskih razmer, v katerih se umetna inteligenca uporablja.
Sporazum nadgrajuje tudi dosedanje sodelovanje družbe OpenAI s strokovnjaki za kibernetsko obrambo na Poljskem. Julija je CERT Polska, ki deluje v okviru inštituta NASK, prek programa Daybreak pridobil dostop(odpre se v novem oknu) do modelov OpenAI z zmogljivostmi za kibernetsko varnost. Ekipa je s pomočjo modelov OpenAI odkrila šest ranljivosti v sistemu MikroTik RouterOS, vključno s pomanjkljivostmi, ki bi jih bilo mogoče združiti za prevzem nadzora nad prizadetimi napravami brez preverjanja pristnosti. Ponudnik je izdal popravke, za katere je CERT Polska potrdil, da so preprečili opažene napade.
