OpenAI и полскиот NASK во партнерство за унапредување на безбедноста и сигурноста на ВИ
OpenAI и полскиот национален истражувачки институт NASK потпишаа договор за разгледување можности за соработка во областа на безбедноста и сигурноста на ВИ и техничките истражувања. Партнерството ќе ја обедини експертизата на двете организации за подобро разбирање на новите ризици, зајакнување на заштитните мерки и истражување како напредната ВИ може да придонесе за посигурен и поотпорен дигитален екосистем.
Како што системите за ВИ стануваат поспособни, меѓународната соработка меѓу развивачите и јавните истражувачки институции ќе биде неопходна за разбирање на ризиците што ги носат и за развивање посилни заштитни мерки. Досегашната соработка на OpenAI со американскиот Центар за унапредување на стандардите и иновациите за суперинтелигенција (CAISSI), британскиот Институт за сигурност на ВИ (AISI) и други јавни истражувачки институции ширум светот веќе помогна да се зајакнат заштитните мерки, да се откријат и отстранат сигурносни ранливости кај агентите со ВИ и да се унапреди безбедноста на граничната ВИ.
Во рамките на договорот, Центарот за истражување на безбедноста на ВИ при NASK — кој ја врши улогата на Полски институт за безбедност на вештачката интелигенција (AISI) — и OpenAI ќе соработуваат на истражувања за безбедноста на ВИ. Тие ќе разгледуваат начини за оценување на сè поспособните системи за ВИ, откривање потенцијални ранливости и зајакнување на заштитните мерки.
OpenAI повика САД да соработуваат со земјите ширум светот на меѓународни технички стандарди за гранична ВИ, користејќи ја експертизата на институтите за безбедност на ВИ и телата за стандардизација. Заедничките пристапи кон оценувањето на способностите, процената на ризиците, тестирањето на заштитните мерки и пријавувањето инциденти можат да им помогнат на земјите да ги споредуваат доказите и да одговорат на ризиците што ги надминуваат државните граници. Соработката со NASK ја покажува вредноста на вклучувањето на националната експертиза во овој поширок потфат.
Кај NASK, оваа експертиза се темели на обемни истражувања за безбедноста на ВИ, кои директно се применуваат за заштита на јавните услуги и дигиталниот информациски екосистем на Полска. Без национални партнери како NASK, глобалните стандарди за безбедност на ВИ може да останат одвоени од реалните услови во кои се користи ВИ.
Договорот се надоврзува и на досегашната соработка на OpenAI со стручњаците за сајберодбрана во Полска. Во јули, CERT Polska, кој работи во рамките на NASK, доби пристап(се отвора во нов прозорец) до моделите на OpenAI со способности за сајберзадачи преку Daybreak. Тимот ги користеше моделите на OpenAI како помош при откривањето шест ранливости во MikroTik RouterOS, вклучително и пропусти кои, во комбинација, би можеле да овозможат преземање контрола над засегнатите уреди без автентикација. Производителот објави поправки, а CERT Polska потврди дека тие ги спречуваат нападите што ги забележал.
