OpenAI і польський NASK об’єднують зусилля для підвищення безпеки та захищеності ШІ
OpenAI і польський Національний дослідницький інститут NASK підписали угоду, щоб розглянути можливості співпраці у сфері безпеки, захищеності ШІ та технічних досліджень. Партнерство об’єднає досвід обох організацій, щоб краще розуміти нові ризики, посилювати захисні механізми та досліджувати, як розвинений ШІ може сприяти створенню безпечнішої та стійкішої цифрової екосистеми.
Зі зростанням можливостей систем ШІ міжнародна співпраця між розробниками та державними дослідницькими установами матиме вирішальне значення для розуміння ризиків цих систем і створення надійніших захисних механізмів. Співпраця OpenAI з американським Центром розвитку стандартів та інновацій у сфері суперінтелекту (CAISSI), британським Інститутом безпеки ШІ (AISI) та іншими державними дослідницькими установами в усьому світі вже допомогла посилити захисні механізми, виявити й усунути вразливості в ШІ-агентах і підвищити безпеку передового ШІ.
У межах угоди Центр досліджень безпеки ШІ при NASK, який виконує функції Польського інституту безпеки штучного інтелекту (AISI), та OpenAI спільно досліджуватимуть безпеку ШІ, зокрема способи оцінювання дедалі потужніших систем ШІ, виявлення потенційних вразливостей і посилення захисних механізмів.
OpenAI закликала США співпрацювати з країнами світу над міжнародними технічними стандартами для передового ШІ, спираючись на досвід інститутів безпеки ШІ та органів стандартизації. Спільні підходи до оцінювання можливостей і ризиків, перевірки захисних механізмів та звітування про інциденти можуть допомогти країнам зіставляти дані й реагувати на ризики, що виходять за межі кордонів. Співпраця з NASK підкреслює цінність залучення національного досвіду до цих ширших зусиль.
У випадку NASK цей досвід ґрунтується на масштабних дослідженнях безпеки ШІ, результати яких безпосередньо застосовують для захисту державних послуг і цифрової інформаційної екосистеми Польщі. Без національних партнерів, таких як NASK, глобальні стандарти безпеки ШІ можуть залишатися відірваними від реальних умов його використання.
Угода також розвиває наявну співпрацю OpenAI з фахівцями з кіберзахисту в Польщі. У липні CERT Polska, що працює у складі NASK, отримала доступ(відкривається у новому вікні) через Daybreak до моделей OpenAI з можливостями у сфері кібербезпеки. За допомогою моделей OpenAI команда виявила шість вразливостей у MikroTik RouterOS, зокрема недоліки, поєднання яких могло дозволити перехопити керування вразливими пристроями без автентифікації. Виробник випустив виправлення, і CERT Polska підтвердила, що вони унеможливили атаки, які команда спостерігала.
