Kuidas Ultrafast lühendas OpenAI-s intsidentide uurimist tundidelt minutitele

See lugu kuulub sarja, kus jagame ettevõttesiseseid näiteid sellest, kuidas OpenAI kasutab oma tehnoloogiat ja API-sid. Neid tööriistu kasutatakse OpenAI-s ning siin näitame nende varal, kuidas tipptasemel tehisintellekt toetab meie meeskondade eri tööülesandeid.

Ultrafast on Codexi kiire töörežiim, millest on saanud OpenAI inseneride esimene valik intsidentidele reageerimisel. Kui midagi läheb katki, pole inseneridel sageli aega minuteid vastust oodata, sest probleem samal ajal süveneb. Ultrafasti abil saavad nad uurida korraga mitut võimalikku põhjust ja leida vastused, ilma et peaksid oma tähelepanu jagama.

OpenAI tehnikameeskonna liige Aaron Friel on tavaliselt see, kes juhib intsidendi lahendamist. Ta loob intsidendile reageerimiseks Slacki kanali ja annab seejärel Codexile ülesande probleemiga tegeleda: olukorda jälgida, uurida ning saabuvatele küsimustele vastata. „Iga intsidendi puhul on tavaliselt palju etappe, kus midagi võis valesti minna. Selle kanali inimeste põhiülesanne ongi leida õigest heinakuhjast õige nõel,“ ütleb ta. „Ultrafasti abil saan sisuliselt kõik need heinakuhjad korraga läbi otsida ja intsidentidele palju kiiremini reageerida.“

Tehnikameeskonna liige ja andmekeskuste turbearhitekt AJ Trbojevic ütleb, et varem kulus turvaprobleemide uurimisel tund või kaks, et koguda kokku struktureeritud ja struktureerimata andmed, need ühtlustada ning luua otsustamiseks vajalik kontekst. „Nüüd võtab see 10–15 minutit,“ ütleb ta. „Ja vahel toimub see peaaegu reaalajas.“

Adam Perry ja Sayan Sisodiya töötavad mõlemad agendi põhifunktsioonide meeskonnas, kirjutades koodi, mis võimaldab Codexil tegutseda, käske käivitada ja tööriistu kasutada. Ultrafast on muutnud seda, kuidas nad turvaintsidentide ajal töötavad. „Varem palusin Codexil midagi uurida ja asusin siis samal ajal seda ka ise uurima, sest teadsin, et see ei ole piisavalt kiire, et võiksin lihtsalt vastust oodata,“ ütleb Adam. „Nüüd on Codex tänu Ultrafastile piisavalt kiire, et saan keskenduda, selle asemel et oma tähelepanu jagada.“

Sayan hindab seda, et Ultrafast võimaldab tal saada kohe vastuseid mitmest andmeallikast. „Lisaks intsidendi logide läbivaatamisele kasutan Codexit ka Slacki läbiotsimiseks, et leida viiteid kahtlastele muudatustele või vaadata, kas inimesed räägivad mujal Slackis sarnastest sümptomitest,“ ütleb ta.

Tehnikameeskonna liige Jeff Niu ütleb, et kui tehisintellektil kulub vastuse leidmiseks üle 30 sekundi, vaatab ta vahepeal Slacki või vestleb kolleegiga. Ultrafastiga jääb ooteaeg aga enamiku tema tööülesannete puhul nüüd sellest piirist allapoole. Varem esitas ta Codexile küsimuse, tegeles selle mõtlemise ajal millegi muuga ja oli tagasi tulles mõttelõnga kaotanud. Nüüd käib vestlus reaalajas ja see aitab tal käsilolevale ülesandele keskenduda.

Ultrafastiga võtab Jeff ka julgemalt ette ulatuslikku refaktoreerimist, sest olemasoleva koodi ümbertöötamine nõuab vähem aega. „Tehnilist võlga on nüüd palju lihtsam vähendada kui kunagi varem,“ ütleb ta. „Kood on odav ja nüüd saab seda ka väga kiiresti luua. Refaktoreerimine, mis varem oli kulukas, käib nüüd peaaegu silmapilkselt.“

Adamil on Codexis pidev vestluslõim, mida ta nimetab oma paremaks käeks. Igal hommikul ütleb see talle, millised koosolekud tal ees seisavad ja millistele sõnumitele ta võib olla unustanud vastata. „See on kokkuvõtte koostamiseks juba kõik andmed läbi vaadanud, nii et kui esitan lisaküsimuse, ei kulu enam aega andmete juurde otsimisele,“ ütleb ta. „Saan samas vestluses lihtsalt edasi küsida, nagu räägiksin päris abilisega.“

Sayan kasutab Codexit brauseris tüütu käsitsi tehtavate ülesannete, näiteks vormide täitmise jaoks. Varem oli ta seda vältinud, sest see oli liiga aeglane. „See avas brauseri, mõtles viis sekundit, klõpsas midagi ja jäi siis jälle ootele,“ ütleb ta. Kuna uusimate mudelite arvutikasutusoskus on paranenud, usaldab ta seda tööd nüüd julgemalt Codexile. „Nüüd lasen sellel rahulikult brauseris klõpsata. See on piisavalt kiire, et ma ei kaota aega, kui jätan töö ise tegemata.“

Nii intsidentidele reageerimisel, päevaplaanide tegemisel kui ka refaktoreerimisel võimaldab Ultrafast OpenAI tehnikameeskonnal töötada Codexiga tempos, mis peab nende küsimustega sammu. Nad saavad vastuse kohta edasi küsida, proovida teist lähenemist ja jätkata tööd mõttelõnga kaotamata. Lühem ooteaeg muudab ka seda, mida nad on valmis ette võtma: olgu selleks seni edasi lükatud refaktoreerimine või rutiinne ülesanne, mida tasub lõpuks delegeerida.