Kā Ultrafast saīsināja incidentu izmeklēšanu OpenAI no stundām līdz minūtēm

Šis raksts ir daļa no sērijas, kurā dalāmies ar piemēriem, kā OpenAI savā darbā izmanto pašu tehnoloģijas un API. Šos rīkus izmantojam uzņēmumā OpenAI un šeit iepazīstinām ar tiem, lai parādītu, kā robežšķirtnes MI palīdz mūsu komandām dažādos uzdevumos.

Ultrafast ir īpaši ātrs Codex režīms, kas OpenAI inženieriem kļuvis par ierasto izvēli, reaģējot uz incidentiem. Kad kaut kas nedarbojas, inženieriem bieži nav laika minūtēm ilgi gaidīt atbildi, kamēr problēma samilst. Ar Ultrafast viņi var vienlaikus izpētīt vairākus iespējamos cēloņus un saņemt atbildes, nenovēršot uzmanību no iesāktā.

OpenAI tehniskās komandas loceklis Ārons Frīls parasti vada incidenta novēršanu. Viņš izveido Slack kanālu incidenta risināšanai un tad uzdod Codex pievērsties problēmai — sekot situācijai, veikt izmeklēšanu un atbildēt uz jautājumiem, tiklīdz tie rodas. „Jebkurā incidentā parasti ir daudz posmu, kuros kaut kas varētu būt nogājis greizi, un atrast īsto adatu īstajā siena kaudzē patiesībā ir šī kanāla dalībnieku galvenais uzdevums,” viņš saka. „Ar Ultrafast es būtībā varu pārmeklēt visas šīs siena kaudzes vienlaikus un reaģēt uz incidentiem daudz ātrāk.”

Tehniskās komandas loceklis un datu centru drošības arhitekts Eidžejs Trbojevičs stāsta, ka agrāk, izmeklējot drošības problēmas, bija vajadzīga stunda vai divas, lai apkopotu strukturētus un nestrukturētus datus, tos normalizētu un iegūtu lēmuma pieņemšanai nepieciešamo kontekstu. „Tagad tas aizņem 10–15 minūtes,” viņš saka. „Un dažkārt tas notiek teju reāllaikā.”

Adams Perijs un Sajans Sisodija abi strādā aģenta pamatfunkciju izstrādes komandā, veidojot kodu, kas ļauj Codex veikt darbības, izpildīt komandas un izmantot rīkus. Ultrafast ir mainījis to, kā viņi strādā drošības incidentu laikā. „Agrāk es palūdzu Codex kaut ko izpētīt un vienlaikus ķēros pie izpētes arī pats, jo zināju, ka atbilde nebūs pietiekami ātra, lai vienkārši gaidītu,” stāsta Adams. „Tagad ar Ultrafast Codex ir pietiekami ātrs, lai es varētu vienkārši saglabāt uzmanību, nevis dalīt to starp vairākiem darbiem.”

Sajans novērtē to, ka Ultrafast ļauj uzreiz saņemt atbildes no vairākiem datu avotiem: „Incidenta laikā izmantoju Codex ne tikai žurnālu pārmeklēšanai, bet arī Slack sarunu izpētei — lai noskaidrotu, vai nav pieminētas aizdomīgas izmaiņas vai citviet Slack kāds nerunā par līdzīgiem simptomiem,” viņš saka.

Vēl viens tehniskās komandas loceklis Džefs Niu stāsta: ja atbildes meklēšana ar MI aizņem vairāk nekā 30 sekundes, viņš ieskatās Slack vai aprunājas ar kolēģi. Taču ar Ultrafast lielākajā daļā darba uzdevumu atbildi viņš tagad saņem ātrāk. Agrāk viņš uzdeva Codex jautājumu, tā domāšanas laikā pārslēdzās uz ko citu un atgriezās, jau pazaudējis domu pavedienu. Tagad saruna notiek reāllaikā, un tas palīdz viņam koncentrēties uz veicamo uzdevumu.

Ar Ultrafast Džefs arī labprātāk ķeras pie apjomīgas koda refaktorēšanas, jo esošā koda pārstrāde aizņem mazāk laika. „Tehnisko parādu tagad ir daudz vieglāk dzēst nekā jebkad agrāk,” viņš saka. „Kods ir lēts, un tagad to var radīt ļoti ātri. Refaktorēšana, kas agrāk prasīja lielus ieguldījumus, tagad notiek gandrīz acumirklī.”

Adams uztur pastāvīgu sarunu ar Codex, ko dēvē par savu biroja vadītāju. Katru rītu Codex viņam pastāsta, kādas sapulces ir ieplānotas un uz kuriem ziņojumiem viņš, iespējams, aizmirsis atbildēt. „Lai uzrakstītu kopsavilkumu, Codex jau ir pārskatījis visus datus, tāpēc, kad uzdodu papildjautājumu, nav jāgaida, kamēr tas sameklēs vēl kaut ko,” viņš saka. „Es varu turpināt uzdot jautājumus tajā pašā sarunā gluži kā īstam biroja vadītājam.”

Sajans izmanto Codex, lai pārlūkā veiktu vienmuļu manuālu darbu, piemēram, aizpildītu veidlapas. Agrāk viņš izvairījās to uzticēt Codex, jo tas bija pārāk lēns. „Tas atvēra pārlūku, piecas sekundes domāja, kaut kur noklikšķināja un atkal gaidīja,” viņš stāsta. Tā kā jaunākie modeļi ir uzlabojuši datorlietošanas spējas, viņš šo darbu drošāk uztic Codex. „Tagad es pilnīgi mierīgi ļauju tam darboties pārlūkā, un tas ir pietiekami ātrs, lai es nezaudētu laiku, neveicot šo darbu pats.”

Gan incidentu risināšanā, gan ikdienas plānošanā un koda refaktorēšanā Ultrafast ļauj OpenAI tehniskajai komandai strādāt ar Codex tikpat raiti, cik rodas jautājumi. Viņi var uzdot papildjautājumus par saņemto atbildi, izmēģināt citu pieeju un turpināt darbu, nepazaudējot domu pavedienu. Īsāka gaidīšana arī mudina viņus ķerties pie darbiem, kas iepriekš atlikti — no koda refaktorēšanas līdz rutīnas uzdevumam, kuru beidzot ir vērts deleģēt.