Како је Ultrafast у привредном друштву OpenAI скратио истрагу инцидената са сати на минуте

Ово је део нашег серијала у ком делимо интерне примере коришћења сопствене технологије и API-ја у привредном друштву OpenAI. Ове алатке користимо интерно, у привредном друштву OpenAI, а овде их представљамо као примере који илуструју како гранична вештачка интелигенција подржава рад различитих тимова.

Ultrafast је режим велике брзине у услузи Codex, а инжењерима привредног друштва OpenAI постао је уобичајени избор при реаговању на инциденте. Када нешто престане да ради, инжењери често немају времена да минутима чекају одговор док проблем расте. Уз Ultrafast могу истовремено да истраже више могућих узрока и добију одговоре без расипања пажње.

Арон Фрил, члан техничког тима привредног друштва OpenAI, обично води реаговање на инциденте. Отвори канал у апликацији Slack за реаговање на инцидент, а затим упути Codex на проблем и затражи да прати ситуацију, истражује и одговара на питања чим се појаве. „Код сваког инцидента обично постоји више тачака у ланцу на којима је нешто могло да пође како не треба. Главни задатак људи на том каналу заправо је да пронађу праву иглу у правом пласту сена”, каже он. „Уз Ultrafast могу практично да претражим све те пластове сена истовремено и много брже реагујем на инциденте.”

Еј Џеј Трбојевић, члан техничког тима и архитекта безбедности центара података, каже да је у истрагама безбедносних проблема раније требало сат или два да се обједине структурирани и неструктурирани подаци, уједначи њихов формат и обезбеди контекст за доношење одлуке. „Сада се то обави за 10 до 15 минута”, каже он. „А понекад готово у реалном времену.”

Адам Пери и Сајан Сисодија раде у основном тиму за агенте и развијају код који омогућава услузи Codex да предузима радње, извршава команде и користи алатке. Ultrafast је променио њихов начин рада током безбедносних инцидената. „Раније бих затражио од услуге Codex да нешто истражи, а онда бих то истовремено и сам истраживао, јер сам знао да неће бити довољно брз да бих само чекао”, каже Адам. „Сада је уз Ultrafast Codex довољно брз да могу да останем усредсређен уместо да делим пажњу на више ствари.”

Сајану значи то што уз Ultrafast одмах добија одговоре из више извора података: „Током инцидента не користим Codex само за претраживање евиденција, већ и апликације Slack, да видим да ли се помињу сумњиве измене или људи негде другде у апликацији Slack говоре о сличним симптомима”, каже он.

Ако тражење одговора уз вештачку интелигенцију потраје дуже од 30 секунди, Џеф Њу, такође члан техничког тима, каже да ће проверити Slack или попричати с колегом. Али уз Ultrafast сада у већини случајева добија одговор пре тог рока. Раније би поставио питање услузи Codex, прешао на нешто друго док је модел размишљао, а кад би се вратио, већ би изгубио нит. Сада се тај разговор одвија у реалном времену, што му помаже да остане усредсређен на текући задатак.

Уз Ultrafast Џеф се лакше одлучује и на обимно рефакторисање, јер прерада постојећег кода траје краће. „Технички дуг је сада много лакше смањити него икада раније“, каже он. „Израда кода је јефтина, а сада је и веома брза. Рефакторисање које је некада било скупо сада се обави готово тренутно.”

Адам редовно наставља исти разговор са услугом Codex, који назива својим шефом кабинета. Сваког јутра му каже које састанке има и на које поруке је можда заборавио да одговори. „Већ је прегледао све податке да би написао тај сажетак, па када поставим додатно питање, не морам да чекам да прикупи још података”, каже он. „Могу само да наставим да постављам питања у истом разговору, баш као правом шефу кабинета.”

Сајан користи Codex за заморне ручне послове у прегледачу, попут попуњавања образаца – што је раније избегавао јер је било преспоро. „Отворио би прегледач, размишљао пет секунди, кликнуо на нешто, па опет застао”, каже он. Пошто су најновији модели бољи у коришћењу рачунара, сада с више поверења препушта тај посао услузи Codex. „Сада му без проблема препуштам да кликће по прегледачу. Довољно је брз да не губим време тиме што то не радим сам.”

Било да реагују на инциденте, планирају дан или рефакторишу код, чланови техничког тима привредног друштва OpenAI уз Ultrafast могу да раде са услугом Codex који прати темпо њихових питања. Могу да поставе додатно питање о добијеном одговору, испробају други приступ и наставе да раде не губећи нит. Краће чекање мења и то чега су спремни да се прихвате: од рефакторисања које су одлагали до рутинског задатка који коначно вреди препустити услузи Codex.