Kako je Ultrafast u kompaniji OpenAI skratio istraživanje incidenata sa sati na minute

Ovo je dio naše serije u kojoj dijelimo interne primjere kako OpenAI koristi vlastitu tehnologiju i API-je. Ovi alati koriste se interno u kompaniji OpenAI, a ovdje ih predstavljamo kao ilustrativne primjere kako granična umjetna inteligencija podržava različite primjene u našim timovima.

Ultrafast je način rada velike brzine u alatu Codex, a inženjerima u kompaniji OpenAI postao je prvi izbor pri reagovanju na incidente. Kada nešto prestane raditi, inženjeri često nemaju vremena čekati nekoliko minuta na odgovor dok se problem pogoršava. Uz Ultrafast mogu istovremeno istražiti više mogućih uzroka i dobiti odgovore bez rasipanja pažnje.

Aaron Friel, član tehničkog tima u kompaniji OpenAI, obično vodi odgovor na incident. On otvori kanal na Slacku za odgovor na incident, a zatim usmjeri Codex na problem i zatraži da prati situaciju, istražuje i odgovara na pitanja kako pristižu. „Kod svakog incidenta obično postoji mnogo tačaka na kojima je nešto moglo poći po zlu, a pronalaženje prave igle u pravom plastu sijena zapravo je glavni zadatak ljudi na tom kanalu“, kaže on. „Uz Ultrafast praktično mogu pretraživati sve te plastove sijena istovremeno i mnogo brže reagovati na incidente.“

AJ Trbojevic, član tehničkog tima i arhitekt sigurnosti podatkovnih centara, kaže da je pri istraživanju sigurnosnih problema ranije trebalo sat ili dva da se objedine strukturirani i nestrukturirani podaci, normalizuju i stave u kontekst potreban za donošenje odluke. „Sada se to obavi za 10 do 15 minuta“, kaže on. „A ponekad gotovo u realnom vremenu.“

Adam Perry i Sayan Sisodiya rade u timu za osnovne funkcije agenta, razvijajući kod koji alatu Codex omogućava da poduzima radnje, pokreće naredbe i koristi alate. Ultrafast je promijenio način na koji rade tokom sigurnosnih incidenata. „Ranije bih zatražio da Codex nešto istraži, a onda bih istovremeno i sam krenuo to istraživati, jer sam znao da neće biti dovoljno brz da bih ga samo čekao“, kaže Adam. „Sada je uz Ultrafast Codex dovoljno brz da mogu ostati fokusiran, umjesto da dijelim pažnju na više stvari.“

Sayan cijeni to što mu Ultrafast omogućava da odmah dobije odgovore iz više izvora podataka: „Osim za pretraživanje zapisnika tokom incidenta, Codex koristim i za pretraživanje Slacka kako bih vidio spominju li se potencijalno sumnjive promjene ili govore li ljudi o sličnim simptomima negdje drugdje na Slacku“, kaže on.

Jeff Niu, također član tehničkog tima, kaže da će, ako pronalaženje odgovora uz AI traje duže od 30 sekundi, provjeriti Slack ili porazgovarati s kolegom. Ali uz Ultrafast sada pri većini zadataka dobije odgovor za manje od toga. Ranije bi postavio pitanje alatu Codex, prešao na nešto drugo dok alat razmišlja, a po povratku bi izgubio nit misli. Sada se taj razgovor odvija u realnom vremenu, što mu pomaže da ostane fokusiran na trenutni zadatak.

Uz Ultrafast Jeff je spremniji i na opsežno refaktorisanje, jer prerada postojećeg koda traje kraće. „Sada je mnogo lakše smanjiti tehnički dug nego ikada prije“, kaže on. „Kod je jeftin, a sada se i vrlo brzo izrađuje. Refaktorisanje koje je ranije mnogo koštalo sada se obavi gotovo trenutno.“

Adam održava jedan stalni razgovor u alatu Codex koji naziva svojim šefom kabineta. Svakog jutra mu kaže koje sastanke ima i na koje je poruke možda zaboravio odgovoriti. „Već je pregledao sve podatke da bi napisao taj sažetak, pa kada postavim dodatno pitanje, ne moram čekati da prikupi još podataka“, kaže on. „Mogu jednostavno nastaviti postavljati pitanja u istom razgovoru, baš kao pravom šefu kabineta.“

Sayan koristi Codex za zamorne ručne zadatke u pregledniku, poput popunjavanja obrazaca — nešto što je ranije izbjegavao jer je bilo presporo. „Otvorio bi preglednik, razmišljao pet sekundi, kliknuo na nešto, pa opet zastao“, kaže on. Zahvaljujući poboljšanim sposobnostima najnovijih modela za korištenje računara, sada s više povjerenja prepušta taj posao alatu Codex. „Sada bez problema prepuštam alatu da klika po pregledniku i dovoljno je brz da ne gubim vrijeme time što to ne radim sam.“

Bilo da reaguju na incidente, planiraju dan ili refaktorišu kod, Ultrafast omogućava članovima tehničkog tima kompanije OpenAI da rade uz Codex koji prati tempo njihovih pitanja. Mogu postaviti dodatno pitanje o odgovoru, isprobati drugi pristup i nastaviti raditi bez gubljenja niti misli. Kraće čekanje mijenja i to čega su se spremni prihvatiti, od refaktorisanja koje su odgađali do rutinskog zadatka koji se konačno isplati prepustiti alatu.