Hvernig Ultrafast stytti rannsókn atvika hjá OpenAI úr klukkustundum í mínútur

Þetta er hluti af greinaröð þar sem við deilum dæmum um hvernig OpenAI notar eigin tækni og API í innra starfi. Verkfærin eru í notkun hjá OpenAI og dæmunum er deilt hér til að sýna hvernig háþróuð gervigreind nýtist við ýmis verkefni í teymum okkar.

Ultrafast er háhraðastilling í Codex og verkfræðingar hjá OpenAI nota hana nú að jafnaði þegar bregðast þarf við atvikum. Þegar eitthvað bilar hafa verkfræðingar oft ekki tíma til að bíða í nokkrar mínútur eftir svari á meðan vandinn magnast. Með Ultrafast geta þeir rannsakað margar mögulegar orsakir í einu og fengið svör án þess að dreifa athyglinni.

Aaron Friel, tæknisérfræðingur hjá OpenAI, stýrir yfirleitt viðbrögðum við atvikum. Hann stofnar Slack-rás fyrir viðbrögðin og beinir svo Codex að vandanum. Hann biður Codex að fylgjast með, rannsaka og svara spurningum jafnóðum og þær berast. „Í hverju atviki eru yfirleitt margir staðir í ferlinu þar sem eitthvað gæti hafa farið úrskeiðis. Að finna réttu nálina í rétta heystakknum er í raun aðalverkefni fólksins á rásinni,“ segir hann. „Með Ultrafast get ég í raun leitað í öllum þessum heystökkum samtímis og brugðist miklu hraðar við atvikum.“

AJ Trbojevic, tæknisérfræðingur og öryggisarkitekt gagnavera, segir að við rannsókn öryggisvandamála hafi áður tekið klukkutíma eða tvo að safna saman skipulögðum og óskipulögðum gögnum, samræma þau og setja í samhengi svo hægt væri að taka ákvörðun. „Núna tekur þetta 10 til 15 mínútur,“ segir hann. „Og stundum gerist það nánast í rauntíma.“

Adam Perry og Sayan Sisodiya starfa báðir í teyminu sem þróar kjarna fulltrúans. Þeir skrifa kóðann sem gerir Codex kleift að grípa til aðgerða, keyra skipanir og nota verkfæri. Ultrafast hefur breytt því hvernig þeir vinna þegar öryggisatvik koma upp. „Áður bað ég Codex að skoða eitthvað og fór svo sjálfur að skoða það á sama tíma, því ég vissi að það yrði ekki nógu fljótt til að það borgaði sig að bíða bara,“ segir Adam. „Núna með Ultrafast er Codex nógu fljótt til að ég geti einfaldlega haldið einbeitingu í stað þess að dreifa athyglinni.“

Sayan kann að meta að Ultrafast skuli gefa honum tafarlaus svör úr mörgum gagnalindum: „Þegar atvik kemur upp nota ég Codex ekki bara til að fara yfir annála, heldur líka til að leita á Slack að vísbendingum um breytingar sem gætu verið orsökin eða umræðum um svipuð einkenni annars staðar á Slack,“ segir hann.

Jeff Niu, sem er einnig tæknisérfræðingur, segist kíkja á Slack eða spjalla við samstarfsfélaga ef það tekur meira en 30 sekúndur að finna svar með gervigreind. En með Ultrafast er biðin nú yfirleitt styttri en það í vinnu hans. Áður spurði hann Codex spurningar, sneri sér að öðru á meðan það hugsaði og var svo búinn að missa þráðinn þegar hann kom aftur. Núna fara þessi samskipti fram í rauntíma og hjálpa honum að halda einbeitingunni við verkefnið.

Ultrafast gerir Jeff líka fúsari til að ráðast í umfangsmikla endurskipulagningu kóða, því það tekur styttri tíma að endurvinna kóða sem þegar er til. „Það er miklu auðveldara að greiða niður tækniskuldir núna en nokkru sinni fyrr,“ segir hann. „Kóði er ódýr og núna er líka mjög fljótlegt að búa hann til. Endurskipulagning kóða sem áður var mjög kostnaðarsöm gerist nú nánast samstundis.“

Adam heldur úti viðvarandi samtali við Codex sem hann kallar skrifstofustjórann sinn. Á hverjum morgni segir Codex honum hvaða fundi hann á og hvaða skilaboðum hann gæti hafa gleymt að svara. „Það hefur þegar skoðað öll gögnin til að skrifa samantektina, þannig að þegar ég spyr nánar þarf það ekki að sækja meiri gögn,“ segir hann. „Ég get einfaldlega haldið áfram að spyrja í sama samtali, alveg eins og ég væri að tala við alvöru skrifstofustjóra.“

Sayan notar Codex til að sinna leiðinlegri handavinnu í vafranum, svo sem að fylla út eyðublöð. Áður hafði hann forðast að nota Codex í þetta því það var of hægvirkt. „Það opnaði vafra, sat og hugsaði í fimm sekúndur, smellti á eitthvað og sat svo aftur aðgerðarlaust,“ segir hann. Nýjustu líkönin hafa tekið framförum í tölvunotkun og því treystir hann Codex betur til að sjá um þessa vinnu. „Núna finnst mér ekkert mál að láta það smella sig áfram í vafranum. Það er nógu fljótt til að ég tapi ekki tíma á því að gera þetta ekki sjálfur.“

Hvort sem um er að ræða viðbrögð við atvikum, skipulag dagsins eða endurskipulagningu kóða gerir Ultrafast tæknifólki OpenAI kleift að vinna með Codex á sama hraða og spurningarnar vakna. Fólk getur spurt nánar út í svar, prófað aðra nálgun og haldið áfram að vinna án þess að missa þráðinn. Styttri bið breytir líka því hvaða verkefni fólk er tilbúið að takast á við, allt frá endurskipulagningu kóða sem það hafði frestað til venjubundinna verka sem loksins borgar sig að fela öðrum.