OpenAI a poľský NASK spájajú sily na posilnenie bezpečnosti a zabezpečenia AI
OpenAI a poľský Národný výskumný ústav NASK podpísali dohodu o preskúmaní možností spolupráce v oblasti bezpečnosti a zabezpečenia AI a technického výskumu. Partnerstvo spojí odborné znalosti oboch organizácií s cieľom lepšie porozumieť vznikajúcim rizikám, posilniť ochranné opatrenia a preskúmať, ako môže pokročilá AI prispieť k bezpečnejšiemu a odolnejšiemu digitálnemu ekosystému.
S rastúcimi schopnosťami systémov AI bude medzinárodná spolupráca medzi vývojármi a verejnými výskumnými inštitúciami nevyhnutná na pochopenie rizík týchto systémov a vytváranie účinnejších ochranných opatrení. Doterajšia spolupráca OpenAI s americkým Centrom pre rozvoj štandardov a inovácií v oblasti superinteligencie (CAISSI), britským Inštitútom pre bezpečnosť AI (AISI) a ďalšími verejnými výskumnými inštitúciami po celom svete už pomohla posilniť ochranné opatrenia, identifikovať a odstrániť bezpečnostné zraniteľnosti agentov AI a zvýšiť bezpečnosť prelomovej AI.
Na základe dohody budú Centrum výskumu bezpečnosti AI pri NASK, ktoré plní úlohu poľského Inštitútu pre bezpečnosť umelej inteligencie (AISI), a OpenAI spolupracovať na výskume bezpečnosti AI. Budú skúmať spôsoby, ako hodnotiť čoraz schopnejšie systémy AI, identifikovať potenciálne zraniteľnosti a posilňovať ochranné opatrenia.
OpenAI vyzvala USA, aby spolupracovali s krajinami po celom svete na medzinárodných technických štandardoch pre prelomovú AI a využili pritom odborné znalosti inštitútov pre bezpečnosť AI a normalizačných orgánov. Spoločné prístupy k hodnoteniu schopností, posudzovaniu rizík, testovaniu ochranných opatrení a hláseniu incidentov môžu krajinám pomôcť porovnávať zistenia a reagovať na riziká presahujúce hranice. Spolupráca s NASK ukazuje, aké dôležité je zapojiť do tohto širšieho úsilia odborné znalosti z jednotlivých krajín.
V prípade NASK tieto odborné znalosti vychádzajú z rozsiahleho výskumu bezpečnosti AI, ktorý sa priamo uplatňuje pri ochrane verejných služieb a poľského digitálneho informačného ekosystému. Bez partnerov v jednotlivých krajinách, ako je NASK, môžu globálne štandardy bezpečnosti AI zostať odtrhnuté od podmienok, v ktorých sa AI skutočne používa.
Dohoda nadväzuje aj na doterajšiu spoluprácu OpenAI s odborníkmi na kybernetickú obranu v Poľsku. V júli tím CERT Polska, ktorý pôsobí v rámci NASK, získal prístup(otvorí sa v novom okne) k modelom OpenAI so schopnosťami v oblasti kybernetickej bezpečnosti prostredníctvom programu Daybreak. Tím pomocou modelov OpenAI odhalil šesť zraniteľností v systéme MikroTik RouterOS vrátane chýb, ktorých kombináciou bolo možné prevziať kontrolu nad dotknutými zariadeniami bez autentifikácie. Dodávateľ vydal opravy a tím CERT Polska potvrdil, že zabránili útokom, ktoré zaznamenal.
