Как с Ultrafast OpenAI съкрати разследването на инциденти от часове до минути

Този материал е част от поредицата ни с примери за това как OpenAI използва собствените си технологии и API. Тези инструменти се използват вътрешно в OpenAI и ги представяме тук, за да покажем как авангардният ИИ подпомага работата на различните ни екипи.

Ultrafast е високоскоростен режим в Codex, който инженерите в OpenAI вече използват по подразбиране при реакция на инциденти. Когато нещо се повреди, инженерите често нямат време да чакат минути за отговор, докато проблемът се задълбочава. С Ultrafast те могат да проучват няколко възможни причини едновременно и да получават отговори, без да разпиляват вниманието си.

Аарън Фрил, член на техническия екип на OpenAI, обикновено е човекът, който координира действията при инцидент. Той създава канал в Slack за реакция на инцидента, след което насочва Codex към проблема и му възлага да следи ситуацията, да проучва и да отговаря на въпросите, когато възникнат. „При всеки инцидент обикновено има много звена по веригата, в които нещо може да се е объркало. Основната задача на хората в този канал всъщност е да намерят правилната игла в правилната купа сено“, казва той. „С Ultrafast на практика мога да претърся всички тези купи сено едновременно и да реагирам на инциденти много по-бързо.“

Ей Джей Търбоевич, член на техническия екип и архитект по сигурността на центровете за данни, казва, че преди при разследване на проблеми със сигурността са били нужни час-два, за да се съберат структурирани и неструктурирани данни, да се нормализират и да се осигури контекст за вземане на решение. „Сега това става за 10–15 минути“, казва той. „А понякога — почти в реално време.“

Адам Пери и Саян Сисодия работят в екипа за основния Агент и разработват кода, който позволява на Codex да предприема действия, да изпълнява команди и да използва инструменти. Ultrafast е променил начина, по който работят при инциденти със сигурността. „Преди възлагах на Codex да проучи нещо и едновременно с това започвах да го проучвам сам, защото знаех, че няма да е достатъчно бърз, за да си струва просто да чакам“, казва Адам. „Сега с Ultrafast Codex е достатъчно бърз, за да остана съсредоточен, вместо да разпилявам вниманието си.“

Саян оценява възможността с Ultrafast да получава незабавни отговори от множество източници на данни: „При инцидент използвам Codex не само за преглед на логове, но и за търсене в Slack — проверявам дали се споменават промени, които може да са причина за проблема, или дали някъде другаде в Slack хората обсъждат подобни симптоми“, казва той.

Джеф Ню, също член на техническия екип, казва, че ако намирането на отговор с ИИ отнеме повече от 30 секунди, той ще провери Slack или ще заговори колега. Но с Ultrafast при повечето му задачи чакането вече е под този праг. Преди задавал въпрос на Codex, захващал се с нещо друго, докато моделът мисли, и когато се връщал, вече бил изгубил нишката на мисълта си. Сега разговорът протича в реално време и му помага да остане съсредоточен върху текущата задача.

С Ultrafast Джеф е и по-склонен да се заема с мащабно рефакториране, защото преработването на съществуващ код отнема по-малко време. „Сега е по-лесно от всякога да намаляваме техническия дълг“, казва той. „Кодът е евтин, а вече се създава и много бързо. Рефакториране, което преди изискваше много ресурси, сега става почти мигновено.“

Адам поддържа постоянен разговор с Codex, който нарича свой началник на кабинета. Всяка сутрин Codex му казва какви срещи има и на кои съобщения може да е забравил да отговори. „Вече е прегледал всички данни, за да напише това обобщение, така че когато задам допълнителен въпрос, не се налага да чакам да извлече още информация“, казва той. „Мога просто да продължа да задавам въпроси в същия разговор, сякаш говоря с истински началник на кабинета.“

Саян използва Codex за досадна ръчна работа в браузъра, като попълване на формуляри — нещо, което преди е избягвал да му възлага, защото е било твърде бавно. „Отваряше браузър, стоеше и мислеше пет секунди, щракваше върху нещо, после пак чакаше“, казва той. Благодарение на подобрените умения на най-новите модели за работа с компютър той вече по-спокойно поверява тази работа на Codex. „Сега съм напълно спокоен да го оставя да работи в браузъра. Достатъчно бърз е, така че не губя време, като му възлагам задачата, вместо да я свърша сам.“

Независимо дали реагират на инциденти, планират деня си или рефакторират код, с Ultrafast членовете на техническия екип на OpenAI получават отговори от Codex толкова бързо, колкото задават въпросите си. Те могат да зададат уточняващ въпрос, да изпробват друг подход и да продължат работа, без да губят нишката на мисълта си. По-краткото чакане ги прави и по-склонни да се заемат със задачи, които иначе биха пропуснали — от отлагано рефакториране до рутинна работа, която най-сетне си струва да делегират.