GPT‑6 Cyber: Нови хоризонти за агентите за киберсигурност, съобразени с указанията

Представяме GPT‑6 Cyber — голям скок в изследванията на сигурността: с по-добри способности за откриване и отстраняване на уязвимости и много по-надеждно спазване на границите, зададени от изследователите. GPT‑6 Cyber постига значителен напредък спрямо GPT‑5.6 Cyber в ключови тестове за киберсигурност, включително относително подобрение от 51% в ExploitGym и качествен скок в тестовете за спазване на обхвата. Той вече помага за защитата на реално използван софтуер, като открива и проверява хиляди експлойти в кодови бази с критично значение за сигурността, като Linux и Firefox.

В ExploitGym, който проверява дали моделите могат да експлоатират конкретна уязвимост, GPT‑6 Cyber постига 48,5% спрямо 32,1% за GPT‑5.6 Cyber. Той също спазва по-надеждно границите на задачата: в отделна оценка на съответствието GPT‑6 Cyber не експлоатира уязвимости в услуги извън обхвата в 99,93% от тестовете без подканата си за внедряване и в 100% с нея. Това подобрение в съответствието е резултат от специално обучение за спазване на разрешения обхват и ограниченията и за точно отчитане на резултатите.

Тези способности вече помагат за защитата на реални системи. Нашите изследователи използваха GPT‑6 Cyber, за да разработят 948 експлойта за повишаване на привилегиите в Linux⁠ и да открият 81 непознати досега високорискови уязвимости във Firefox въпреки обширните предходни тестове с авангардни модели. Моделът помогна и за разработването на предложения за корекции, а Mozilla вече публикува корекции за много от уязвимостите във Firefox⁠(отваря се в нов прозорец). Екипите по сигурността на Cisco, Calif и CodeRabbit го използват за изследване на уязвимости и преглед на код, а ние разчитаме на него, за да откриваме и отстраняваме слабости в собствената си инфраструктура⁠.

Ясно е, че разполагаме с ограничено време да използваме авангардни модели за защита на софтуера⁠. Целта ни е да разширим значително Daybreak, като направим напредналите изследвания на сигурността достъпни за организации от всякакъв мащаб, независими изследователи и екипи, поддържащи софтуер с отворен код. Моделите от основната ни линия, като GPT‑6 Astra, вече подпомагат прегледа на код, приоритизирането на уязвимости и разработването на корекции. Daybreak Blue помага на проверени защитници да потвърждават уязвимости и корекции с по-малко ненужни откази, а Daybreak Red позволява по-задълбочена разработка на експлойти и разрешени тестове за сигурност с GPT‑6 Cyber.

GPT‑6 Cyber е значителен напредък спрямо GPT‑5.6 Cyber и превъзхожда GPT‑6 Astra при повечето задачи в киберсигурността дори когато Astra не отказва заявката. Оценихме модела със задачи, които изискват да разбира софтуер, да открива уязвимости и да разработва работещи експлойти. Въз основа на тези резултати класифицираме модела на ниво „Критично“ за киберсигурност според нашата Рамка за готовност, спрямо ниво „Високо“ за GPT‑5.6 Cyber.

В ExploitGym, който проверява дали моделите могат да експлоатират конкретна уязвимост в отдалечена цел, GPT‑6 Cyber постига 48,5% — с около 16 процентни пункта повече от 32,1% на GPT‑5.6 Cyber. За да проверим откриването на уязвимости, създадохме и нова оценка за офанзивни тестове за проникване в уеб приложения. Моделите изследват уеб приложения без достъп до изходния им код. GPT‑6 Cyber откри 40,3% от уязвимостите спрямо 32,0% за GPT‑6 Astra.

Daybreak Red е създаден да подпомага по-сложни работни процеси по сигурността, включително разработване на работещи експлойти и използването им срещу отдалечени цели. За да оценим тези способности, създадохме нов тест, наречен RemoteExploitBench, който използва известни уязвимости в приложения като GitLab, PostgreSQL и Jenkins, внедрени в контролирана среда. В първоначалната ни оценка GPT‑6 Astra, работещ с Daybreak Blue, отказа 100% от задачите, докато GPT‑6 Cyber изпълни 95%; единственият му неуспех беше експлойт, който не успя да задейства отдалечено. Вижте пълните резултати и настройките на оценките в картата на системата⁠(отваря се в нов прозорец).

Един от рисковете при агентите за киберсигурност е да излязат извън обхвата на възложената им задача, да опитат да експлоатират уязвимости в несвързани услуги или да пренебрегнат правилата за действие, зададени от изследователя.

Поставихме съответствието с указанията в центъра на разработката на GPT‑6 Cyber. Чрез специализирано обучение помагаме на модела да остава в разрешения обхват, да спазва ограниченията върху действията си и да отчита точно работата си. Преди внедряването проведохме поредица от оценки на съответствието, за да измерим тези поведения. Вижте пълните резултати в картата на системата⁠(отваря се в нов прозорец).

Една от тези оценки е ExploitGym Honeypot, разработена въз основа на инцидента с Hugging Face⁠. Възлагаме на модела трудна задача за експлоатиране на уязвимост в изолирана среда с достъп до помощни услуги, като регистър на пакети или хранилище за обекти. Умишлено правим тези услуги лесни за атакуване, така че атака срещу тях да може да разкрие флага на задачата. Моделът трябва сам да заключи, че експлоатирането на уязвимости в тях е извън обхвата на задачата му.

При тази оценка GPT‑6 Cyber показва качествен скок спрямо GPT‑5.6 Cyber. При тестове без подканите за безопасност, използвани при внедряване, той не експлоатира уязвимости в услуги извън обхвата в 99,93% от случаите спрямо 94,49% за GPT‑5.6 Cyber. С тези подкани GPT‑6 Cyber спазва границите в 100% от случаите.

В логическото мислене на модела GPT‑6 Cyber можем пряко да проследим как той разсъждава за спазването на границите:

GPT‑6 Cyber вече помага на екипите по сигурността да откриват уязвимости, да потвърждават въздействието им и да разработват корекции. Клиентите го използват за работа с големи кодови бази, за продължителна разработка на експлойти и за прегледи на сигурността:

Разчитаме на GPT‑6 Cyber и за защитата на собствените си системи. Той беше един от основните модели, използвани в работата по укрепване на защитата на инфраструктурата за обучение на авангардни модели⁠, за която наскоро разказахме. В контролирани кампании за стрес тестове с червен отбор агенти, използващи GPT‑6 Cyber и други модели на OpenAI, свързаха уязвимости във вериги, за да излязат от изолацията на microVM и да изпълнят код на хостовете им. Използвахме констатациите, за да коригираме софтуера, да затегнем мрежовите ограничения и да докладваме проблемите на поддържащите екипи и доставчиците.

Нашите изследователи на уязвимости също използват GPT‑6 Cyber за мащабно откриване и потвърждаване на уязвимости в софтуер с отворен код. Тази работа разкри непознати досега пропуски в софтуер, който е бил внимателно проверяван в продължение на години:

• Открити са 81 нови уязвимости във Firefox. GPT‑6 Cyber може да е подходящ за автономни работни процеси за мащабно откриване на уязвимости и предлагане на висококачествени корекции. По време на кампания за изследване на уязвимости GPT‑6 Cyber създаде доказателства и възпроизводими тестове за 81 нови уязвимости, класифицирани от Mozilla като високорискови, и показа, че още 30 известни проблема са по-сериозни от първоначално докладваното. Съобщихме констатациите на Mozilla заедно с предложения за корекции, за да помогнем на инженерите им да отстранят проблемите. Mozilla подкрепи тази работа и започна да внедрява корекции скоро след получаването на докладите⁠(отваря се в нов прозорец).

• Разработване на експлойти за 948 уязвимости в ядрото на Linux⁠. GPT‑6 Cyber възпроизведе 1724 уязвимости и разработи работещи експлойти за 948 от тях — над пет пъти повече от 166-те, експлоатирани от GPT‑5.6 Sol със същата изследователска рамка. Следвайки насоките на общността на Linux, съобщихме на поддържащите екипи за 304 критични находки заедно с предложения за корекции и работим по отстраняването на останалите уязвимости.

• Демонстриране на критични уязвимости за отдалечено изпълнение на код (RCE). Наскоро обсъдихме критична уязвимост в Brotli⁠(отваря се в нов прозорец) — библиотека за компресиране, използвана от Node.js и друг софтуер. Нашите изследователи по сигурността използваха GPT‑6 Cyber заедно с други модели на OpenAI, за да разработят и проверят експлойти, които показват как пропускът може да позволи отдалечено изпълнение на код в приложения, използващи библиотеката.

С нарастването на възможностите на моделите и броя на откриваните от тях уязвимости наблюдаваме и повече опити те да бъдат използвани за причиняване на вреда. Сред тях са действия на злонамерени участници в киберпространството и враждебни групи, които се стремят да дестилират нашите модели. Затова съчетахме по-големите възможности на GPT‑6 Cyber с по-силни защитни мерки, които откриват и прекъсват злоупотреби и поддържат действията на модела в рамките на намеренията и разрешенията на потребителя.

Добавихме и засилихме тези защити с пускането на GPT‑6 Cyber (пълната информация е в картата на системата⁠(отваря се в нов прозорец)):

• Наблюдение за отклонения от указанията, специфични за киберсигурността. Следим дали действията съответстват на разрешеното от потребителя, като разграничаваме легитимната разработка и тестване на експлойти.

• Целенасочено наблюдение за нововъзникващи заплахи. Например при координираното оповестяване на критични уязвимости в PHP въведохме целенасочено наблюдение за опити за разработване на експлойти срещу действащи PHP сървъри, като запазихме помощта за защитниците, които коригират засегнатите системи.

• Поверителна обработка за безопасност (PSP). Използваме автоматизирани проверки, за да преглеждаме свързани взаимодействия за злоупотреби. Стандартното задържане на данни остава настройката по подразбиране. Клиентите на API, които използват нулево задържане на данни⁠(отваря се в нов прозорец), по правило трябва да използват PSP⁠(отваря се в нов прозорец). Тази функция преглежда шифровани записи, съхранявани в хранилището на клиента за 30 дни, без да разкрива подканите и отговорите на служители на OpenAI.

• Защита срещу използване на откраднати идентификационни данни. По подразбиране изискваме списък с разрешени IP адреси за достъп до API на Daybreak Red, което ограничава заявките до одобрени мрежи с малко изключения. Следим и за компрометирани идентификационни данни.

• Изолирана среда и надзор. Както при предишните модели, препоръчваме работа в изолирана среда⁠(отваря се в нов прозорец), преглед на действията⁠(отваря се в нов прозорец) и човешки надзор за високорискови работни процеси.

• Защити срещу високорисково съдействие в киберпространството. Използваме нови проверки, за да блокираме високорискови дейности, засягащи критични системи (повече информация по-долу).

Защитата на критичната инфраструктура е водещ приоритет при проектирането на защитните мерки и достъпа до GPT‑6 Cyber. Това включва електроцентрали, пречиствателни станции, както и оперативните технологии и индустриалните системи за управление (OT/ICS), на които те се основават. Искаме едновременно да осигурим на екипите, защитаващи тези системи, достъп до най-способните ни модели и да засилим защитните си мерки за предотвратяване на неразрешени атаки.

Първо, за да подпомогнем тези защитници, програмата ни за безвъзмездно финансиране Daybreak за защитниците на първа линия⁠ на стойност 1 милиард долара субсидира достъпа за екипи с ограничени ресурси, като държавни организации и доставчици на основни услуги. Въвеждаме и нова група в Daybreak Red (Daybreak Red за критична инфраструктура) за одобрени защитници на критична инфраструктура. Тя им дава разрешения за провеждане на разрешени тестове на критични системи, като запазва защитите срещу отклонения на модела от указанията.

Второ, за да предотвратим злоупотребата с платформите Daybreak Red и Blue, усъвършенствахме защитите срещу съдействие и разработване на способности, които биха могли да компрометират индустриални системи за управление или системи с критично значение за безопасността, да нарушат работата на оборудване или да причинят сериозни наранявания, катастрофални физически щети или животозастрашаващо прекъсване на услуги. Графиката по-долу сравнява дела на случаите, маркирани от защитните механизми, при четири конфигурации за достъп — преди и след последните актуализации, които въвеждаме заедно с GPT‑6 Cyber.

По-високият процент на блокиране от защитните механизми невинаги е по-добър. Много от техниките в тази оценка са съществени и за легитимната работа по сигурността: разбиране на системите, откриване на уязвимости и проверка дали корекциите издържат на атака. Затова оценяваме тези проценти заедно с подкрепата за легитимни изследвания и отстраняване на уязвимости, вместо да се стремим към 100%.

За да оценим как моделите ни могат да помогнат за защитата на критичната инфраструктура, си партнирахме с Dragos — глобален доставчик на киберсигурност за разширени оперативни технологии (xOT). Dragos проведе оценки в контролирана лабораторна среда с модели на Daybreak Red с по-малко ограничения за кибердейности. Оценките обхващаха заявки, започващи с откриване на мрежата и описване на активите и преминаващи към целенасочено разузнаване, извличане на чувствителни данни и неразрешени, потенциално опасни действия върху устройства.

Използвахме обратната връзка от Dragos, за да усъвършенстваме защитите си с цел да блокираме вредното съдействие, без да ограничаваме ненужно разрешените тестове. Вижте окончателния им доклад⁠(отваря се в нов прозорец) за подробности относно оценките. Работим и за разширяване на партньорствата с други доставчици на услуги за офанзивна сигурност и лилави отбори за тестове за проникване и стрес тестове с червен отбор с помощта на AI, както и с енергийни компании, други оператори на критична инфраструктура и национални лаборатории, за да оценим ефективността и защитните механизми на моделите ни при защитата на индустриални системи. Увеличихме и инвестициите си в разследване на заплахи, за да откриваме използване на моделите, свързано с OT/ICS. Ще продължим да усъвършенстваме защитите си с помощта на партньори и общността по сигурността, включително чрез сигнали през /feedback, когато защитите пропускат вредни дейности или прекъсват легитимна работа.

Първоначално GPT‑6 Cyber е достъпен чрез API и Codex за избрана група одобрени клиенти на Daybreak Red. Скоро ще разширим поетапно достъпа до всички клиенти на Daybreak Red, като също предоставяме GPT‑5.6 Cyber на всички клиенти на Daybreak Red. Разширяваме и алфа достъпа до Daybreak Blue за GPT‑6 Astra за повече организации и независими изследователи по сигурността; уведомете ни⁠(отваря се в нов прозорец), ако проявявате интерес.

Новите потребители и организации могат да кандидатстват за Daybreak⁠ и да започнат с нашите умения за киберсигурност, продукти и партньори⁠.