Kaip „Ultrafast“ sutrumpino incidentų tyrimą „OpenAI“ nuo valandų iki minučių

Šis straipsnis – dalis mūsų serijos, kurioje dalijamės pavyzdžiais, kaip „OpenAI“ naudoja savo technologijas ir API. Šie įrankiai naudojami „OpenAI“ viduje, o čia pateikiami pavyzdžiai iliustruoja, kaip priešakinis DI padeda mūsų komandoms atlikti įvairias užduotis.

„Ultrafast“ – itin spartus „Codex“ režimas, kurį „OpenAI“ inžinieriai jau įprato rinktis reaguodami į incidentus. Kai kas nors sugenda, inžinieriai dažnai neturi laiko kelias minutes laukti atsakymo, kol problema vis didėja. Naudodami „Ultrafast“, jie gali vienu metu tirti kelias galimas priežastis ir gauti atsakymus neblaškydami dėmesio.

„OpenAI“ techninės komandos narys Aaron Friel paprastai vadovauja incidentų valdymui. Jis sukuria incidentui skirtą „Slack“ kanalą ir pateikia problemą „Codex“, paprašydamas stebėti situaciją, ją tirti ir atsakyti į visus kylančius klausimus. „Įvykus incidentui, paprastai būna daug grandžių, kuriose kas nors galėjo nutikti ne taip. Tad pagrindinis tame kanale dirbančių žmonių darbas – rasti reikiamą adatą reikiamoje šieno kupetoje“, – sako jis. „Naudodamas „Ultrafast“, iš esmės galiu vienu metu apieškoti visas tas šieno kupetas ir kur kas greičiau reaguoti į incidentus.“

Techninės komandos narys ir duomenų centrų saugumo architektas AJ Trbojevic sako, kad anksčiau tiriant saugumo problemas prireikdavo valandos ar dviejų struktūrizuotiems ir nestruktūrizuotiems duomenims surinkti, suvienodinti ir sprendimui priimti reikalingam kontekstui parengti. „Dabar tai užtrunka 10–15 minučių, – sako jis. – O kartais viskas vyksta beveik realiuoju laiku.“

Adam Perry ir Sayan Sisodiya dirba pagrindinių agento funkcijų komandoje ir kuria kodą, leidžiantį „Codex“ atlikti veiksmus, vykdyti komandas ir naudoti įrankius. „Ultrafast“ pakeitė jų darbo būdą įvykus saugumo incidentams. „Anksčiau paprašydavau „Codex“ ką nors ištirti ir kartu imdavausi tirti pats, nes žinojau, kad jis nebus pakankamai greitas, kad galėčiau tiesiog laukti“, – sako Adam. „Dabar su „Ultrafast“ „Codex“ veikia pakankamai greitai, tad galiu tiesiog susitelkti ir neblaškyti dėmesio.“

Sayan vertina tai, kad „Ultrafast“ leidžia iškart gauti atsakymus iš kelių duomenų šaltinių: „Įvykus incidentui, naudoju „Codex“ ne tik žurnalams peržiūrėti, bet ir paieškai „Slack“ – tikrinu, ar kas nors mini galimai įtartinus pakeitimus, ar kitur „Slack“ kalbama apie panašius požymius“, – sako jis.

Kitas techninės komandos narys Jeff Niu sako, kad jei atsakymo iš DI tenka laukti ilgiau nei 30 sekundžių, jis užsuka į „Slack“ arba pasišneka su kolega. Tačiau dabar, naudojant „Ultrafast“, daugeliu atvejų tiek laukti nebereikia. Anksčiau jis užduodavo „Codex“ klausimą, kol šis svarstydavo, imdavosi ko nors kito, o grįžęs jau būdavo pametęs mintį. Dabar pokalbis vyksta realiuoju laiku ir padeda jam išlaikyti dėmesį ties atliekama užduotimi.

Su „Ultrafast“ Jeff taip pat noriau imasi didelės apimties kodo pertvarkymo, nes esamam kodui perdirbti reikia mažiau laiko. „Techninę skolą dabar mažinti kur kas lengviau nei bet kada anksčiau, – sako jis. – Kurti kodą pigu, o dabar – ir labai greita. Pertvarkymas, kuris anksčiau daug kainuodavo, dabar atliekamas beveik akimirksniu.“

Adam nuolat tęsia tą patį pokalbį su „Codex“ ir vadina jį savo dešiniąja ranka. Kas rytą „Codex“ jam praneša, kokie susitikimai laukia ir į kurias žinutes jis galbūt pamiršo atsakyti. „Rengdamas tą santrauką, jis jau būna peržiūrėjęs visus duomenis, tad man uždavus papildomą klausimą nereikia laukti, kol jis surinks daugiau informacijos, – sako jis. – Galiu tiesiog toliau užduoti klausimus tame pačiame pokalbyje, tarsi kalbėčiausi su tikru savo padėjėju.“

Sayan paveda „Codex“ atlikti nuobodų rankinį darbą naršyklėje, pavyzdžiui, pildyti formas. Anksčiau jis vengdavo tai daryti su „Codex“, nes šis veikdavo per lėtai. „Jis atidarydavo naršyklę, penkias sekundes galvodavo, ką nors spustelėdavo ir vėl sustodavo“, – sako jis. Naujausiems modeliams išmokus geriau naudotis kompiuteriu, jis drąsiau patiki šį darbą „Codex“. „Dabar ramiai leidžiu jam viską spustelėti naršyklėje. Jis veikia pakankamai greitai, tad neprarandu laiko neatlikdamas darbo pats.“

Reaguojant į incidentus, planuojant dieną ar pertvarkant kodą, „Ultrafast“ leidžia „OpenAI“ techninei komandai dirbti su „Codex“ tokiu tempu, kokiu kyla klausimai. Gavę atsakymą, jie gali užduoti papildomą klausimą, išbandyti kitą būdą ir tęsti darbą nepamesdami minties. Trumpesnis laukimas taip pat skatina imtis darbų, kuriuos anksčiau atidėliodavo: nuo kodo pertvarkymo iki kasdienių užduočių, kurias pagaliau apsimoka patikėti „Codex“.