OpenAI и пољски NASK склапају партнерство за унапређење безбедности и заштите ВИ
OpenAI и пољски Национални истраживачки институт NASK потписали су споразум о разматрању могућности сарадње у области безбедности, заштите и техничких истраживања вештачке интелигенције. Партнерство ће објединити стручна знања обе организације ради бољег разумевања нових ризика, јачања заштитних мера и истраживања начина на које напредна ВИ може допринети безбеднијем и отпорнијем дигиталном екосистему.
Како системи ВИ постају све способнији, међународна сарадња између оних који их развијају и јавних истраживачких институција биће кључна за разумевање њихових ризика и успостављање снажнијих заштитних мера. Досадашња сарадња компаније OpenAI са америчким Центром за унапређење стандарда и иновација у области суперинтелигенције (CAISSI), британским Институтом за безбедност ВИ (AISI) и другим јавним истраживачким институцијама широм света већ је допринела јачању заштитних мера, откривању и отклањању безбедносних рањивости у ВИ агентима и унапређењу безбедности граничних модела ВИ.
У оквиру споразума, Центар за истраживање безбедности ВИ при NASK-у — који обавља улогу Пољског института за безбедност вештачке интелигенције (AISI) — и OpenAI сарађиваће на истраживању безбедности ВИ, испитујући начине за процену све способнијих система ВИ, откривање потенцијалних рањивости и јачање заштитних мера.
OpenAI је позвао САД да са земљама широм света раде на међународним техничким стандардима за граничне моделе ВИ, ослањајући се на стручност института за безбедност ВИ и тела за стандардизацију. Заједнички приступи процени способности и ризика, тестирању заштитних мера и пријављивању инцидената могу помоћи земљама да упоређују налазе и одговоре на ризике који прелазе границе. Сарадња са NASK-ом показује колико је важно укључити национална стручна знања у ове шире напоре.
У случају NASK-а, та стручност почива на опсежним истраживањима безбедности ВИ, која се непосредно примењују у заштити јавних служби и дигиталног информационог екосистема Пољске. Без националних партнера попут NASK-а, глобални стандарди безбедности ВИ могу остати одвојени од стварних услова у којима се ВИ користи.
Споразум се такође надовезује на досадашњу сарадњу компаније OpenAI са стручњацима за сајбер одбрану у Пољској. У јулу је CERT Polska, који делује у оквиру NASK-а, добио приступ(отвара се у новом прозору) моделима компаније OpenAI са способностима за рад у сајбер домену путем програма Daybreak. Тим је уз помоћ модела компаније OpenAI открио шест рањивости у систему MikroTik RouterOS, укључујући пропусте чијим се комбиновањем могла преузети контрола над погођеним уређајима без аутентификације. Произвођач је објавио исправке, а CERT Polska је потврдио да су оне спречиле нападе које је уочио.
