Як Ultrafast скоротив розслідування інцидентів в OpenAI з годин до хвилин

Це частина нашої серії матеріалів про те, як OpenAI використовує власні технології та API. Ці інструменти застосовуються всередині OpenAI, а тут ми розповідаємо про них, щоб на конкретних прикладах показати, як передовий ШІ допомагає нашим командам виконувати різноманітні завдання.

Ultrafast — це високошвидкісний режим у Codex, який інженери OpenAI вже зазвичай обирають для реагування на інциденти. Коли щось виходить із ладу, інженери часто не мають часу чекати відповіді кілька хвилин, поки проблема загострюється. З Ultrafast вони можуть одночасно перевіряти кілька можливих причин і отримувати відповіді, не розпорошуючи уваги.

Аарон Фріл, фахівець технічної команди OpenAI, зазвичай координує роботу під час інциденту. Він створює канал у Slack для реагування на інцидент, а потім залучає Codex до розв’язання проблеми: просить стежити за ситуацією, проводити розслідування й відповідати на запитання в міру їх надходження. «У будь-якому інциденті зазвичай є багато ланок, у яких щось могло піти не так. І знайти потрібну голку в потрібній копиці сіна — це, власне, головне завдання учасників цього каналу», — каже він. «З Ultrafast я можу, по суті, шукати в усіх цих копицях одночасно й реагувати на інциденти набагато швидше».

Ей Джей Трбоєвич, фахівець технічної команди й архітектор безпеки дата-центрів, розповідає: раніше під час розслідування проблем із безпекою потрібно було годину-дві, щоб зібрати структуровані й неструктуровані дані, нормалізувати їх і підготувати контекст для ухвалення рішення. «Тепер на це йде 10–15 хвилин, — каже він. — А часом усе відбувається майже в реальному часі».

Адам Перрі та Саян Сісодія працюють у команді, що розробляє ядро агента: пишуть код, завдяки якому Codex може виконувати дії, запускати команди й користуватися інструментами. Ultrafast змінив їхній підхід до роботи під час інцидентів безпеки. «Раніше я просив Codex розібратися в чомусь і водночас починав розбиратися сам, бо знав: він не впорається досить швидко, щоб я міг просто чекати, — каже Адам. — Тепер з Ultrafast Codex працює досить швидко, тож я можу залишатися зосередженим, а не розпорошувати увагу».

Саян цінує те, що Ultrafast дає змогу миттєво отримувати відповіді з кількох джерел даних: «Під час інциденту я використовую Codex не лише для пошуку в журналах, а й для пошуку в Slack: перевіряю, чи є згадки про зміни, які могли спричинити проблему, або чи обговорюють десь у Slack схожі симптоми», — каже він.

Джефф Ню, ще один фахівець технічної команди, каже: якщо пошук відповіді за допомогою ШІ триває понад 30 секунд, він уже перемикається на Slack або розмову з колегою. Та тепер з Ultrafast він отримує відповіді на більшість робочих запитів швидше. Раніше він ставив Codex запитання, перемикався на щось інше, поки той міркував, а коли повертався, уже втрачав нитку думки. Тепер розмова відбувається в реальному часі, що допомагає йому зосереджуватися на поточному завданні.

З Ultrafast Джефф також охочіше береться за масштабний рефакторинг, адже перероблення наявного коду займає менше часу. «Тепер позбуватися технічного боргу значно легше, ніж будь-коли раніше, — каже він. — Писати код недорого, а тепер ще й дуже швидко. Рефакторинг, який раніше потребував значних витрат, відбувається майже миттєво».

Адам веде постійну розмову з Codex, який у ній виконує роль керівника його апарату. Щоранку Codex розповідає йому про заплановані зустрічі й повідомлення, на які він, можливо, забув відповісти. «Він уже переглянув усі дані, щоб скласти це зведення, тож, коли я ставлю уточнювальне запитання, йому не треба витрачати час на пошук додаткової інформації, — каже він. — Я можу й далі ставити запитання в тій самій розмові, як справжньому керівникові апарату».

Саян доручає Codex нудну ручну роботу в браузері, наприклад заповнення форм. Раніше він цього не робив, бо Codex працював надто повільно. «Він відкривав браузер, п’ять секунд думав, щось натискав, знову завмирав», — каже Саян. Новітні моделі краще працюють із комп’ютером, тож тепер він упевненіше довіряє цю роботу Codex. «Тепер я цілком спокійно дозволяю йому працювати в браузері: він досить швидкий, тож я не втрачаю часу, доручаючи це йому, а не роблячи сам».

Під час реагування на інциденти, щоденного планування й рефакторингу Ultrafast дає технічним фахівцям OpenAI змогу працювати з Codex у темпі, в якому в них виникають запитання. Вони можуть уточнити відповідь, спробувати інший підхід і продовжувати роботу, не втрачаючи нитки думки. Коротше очікування також змінює те, за що вони готові братися: від рефакторингу, який відкладали, до рутинного завдання, яке нарешті є сенс делегувати.