OpenAI и полският NASK си партнират за по-голяма безопасност и сигурност на ИИ
OpenAI и полският Национален изследователски институт NASK подписаха споразумение за проучване на възможностите за сътрудничество в областта на безопасността, сигурността и техническите изследвания на ИИ. Партньорството ще обедини експертните знания на двете организации, за да се разберат по-добре нововъзникващите рискове, да се засилят защитните мерки и да се проучи как усъвършенстваният ИИ може да допринесе за по-сигурна и устойчива цифрова екосистема.
С нарастването на възможностите на системите с ИИ международното сътрудничество между разработчиците и публичните изследователски институции ще бъде от съществено значение за разбирането на рисковете и изграждането на по-надеждни защитни механизми. Досегашната работа на OpenAI с американския Център за развитие на стандартите и иновациите в областта на свръхинтелекта (CAISSI), британския Институт за сигурност на ИИ (AISI) и други публични изследователски институции по света вече допринесе за засилване на защитните мерки, откриване и отстраняване на уязвимости в сигурността на ИИ агентите и повишаване на безопасността на авангардния ИИ.
По силата на споразумението Центърът за изследване на безопасността на ИИ към NASK, който изпълнява ролята на Полски институт за безопасност на изкуствения интелект (AISI), и OpenAI ще си сътрудничат в изследванията на безопасността на ИИ. Те ще проучват начини за оценяване на системи с ИИ с все по-големи възможности, откриване на потенциални уязвимости и засилване на защитните мерки.
OpenAI призова САЩ да работят със страни от цял свят по международни технически стандарти за авангардния ИИ, като използват експертните знания на институтите за безопасност на ИИ и органите по стандартизация. Общите подходи към оценяването на възможностите и рисковете, изпитването на защитните мерки и докладването на инциденти могат да помогнат на държавите да съпоставят данни и да реагират на рискове, които надхвърлят националните граници. Сътрудничеството с NASK показва колко е ценно националният експертен опит да бъде включен в тези по-широки усилия.
При NASK този опит се основава на обширни изследвания в областта на безопасността на ИИ, които се прилагат пряко за защита на обществените услуги и цифровата информационна екосистема на Полша. Без национални партньори като NASK глобалните стандарти за безопасност на ИИ може да останат откъснати от реалните условия, в които се използва ИИ.
Споразумението надгражда и досегашната работа на OpenAI със специалисти по киберзащита в Полша. През юли CERT Polska, който е част от NASK, получи достъп(отваря се в нов прозорец) чрез Daybreak до моделите на OpenAI с възможности в областта на киберсигурността. С помощта на модели на OpenAI екипът откри шест уязвимости в MikroTik RouterOS, включително слабости, които в комбинация могат да позволят поемане на контрол над засегнатите устройства без удостоверяване. Доставчикът пусна корекции, а CERT Polska потвърди, че те предотвратяват наблюдаваните от екипа атаки.
