Si Ultrafast e shkurtoi hetimin e incidenteve në OpenAI nga orë në minuta

Ky artikull është pjesë e serisë sonë ku ndajmë shembuj të brendshëm se si OpenAI përdor teknologjinë dhe API-të e veta. Këto mjete përdoren brenda OpenAI dhe paraqiten këtu si shembuj ilustrues se si IA-ja më e avancuar mbështet raste të ndryshme përdorimi në ekipet tona.

Ultrafast është një modalitet me shpejtësi të lartë në Codex dhe, për inxhinierët e OpenAI, është bërë zgjedhja standarde për reagimin ndaj incidenteve. Kur diçka nuk funksionon, inxhinierët shpesh nuk kanë kohë të presin disa minuta për një përgjigje, ndërkohë që problemi përkeqësohet. Me Ultrafast, ata mund të hetojnë disa shkaqe të mundshme njëherësh dhe të marrin përgjigje pa e shpërndarë vëmendjen.

Aaron Friel, anëtar i stafit teknik në OpenAI, është zakonisht ai që drejton punën gjatë një incidenti. Ai krijon një kanal në Slack për reagimin ndaj incidentit dhe më pas ia paraqet problemin Codex, duke i kërkuar të monitorojë, të hetojë dhe t'u përgjigjet pyetjeve që vijnë. “Në çdo incident, zakonisht ka shumë hallka ku diçka mund të ketë shkuar keq. Puna kryesore e njerëzve në atë kanal është pikërisht të gjejnë gjilpërën e duhur në mullarët e kashtës”, thotë ai. “Me Ultrafast, në thelb mund të kërkoj në të gjithë ata mullarë njëkohësisht dhe të reagoj shumë më shpejt ndaj incidenteve.”

AJ Trbojevic, anëtar i stafit teknik dhe arkitekt i sigurisë së qendrave të të dhënave, thotë se gjatë hetimit të çështjeve të sigurisë më parë duheshin një ose dy orë për të mbledhur të dhënat e strukturuara dhe të pastrukturuara, për t'i normalizuar dhe për të siguruar kontekstin e nevojshëm për një vendim. “Tani kjo bëhet për 10 deri në 15 minuta”, thotë ai. “Dhe nganjëherë pothuajse në kohë reale.”

Adam Perry dhe Sayan Sisodiya punojnë në ekipin përgjegjës për funksionet bazë të agjentit, duke zhvilluar kodin që i mundëson Codex të kryejë veprime, të ekzekutojë komanda dhe të përdorë mjete. Ultrafast ka ndryshuar mënyrën se si ata punojnë gjatë incidenteve të sigurisë. “Më parë, i kërkoja Codex të shqyrtonte diçka dhe njëkohësisht e shqyrtoja edhe vetë, sepse e dija që nuk ishte aq i shpejtë sa të prisja vetëm përgjigjen e tij”, thotë Adam. “Tani, me Ultrafast, Codex është aq i shpejtë sa mund të qëndroj i përqendruar, në vend që ta shpërndaj vëmendjen.”

Sayan vlerëson mundësinë që i jep Ultrafast për të marrë përgjigje të menjëhershme nga disa burime të dhënash: “Përveç kërkimit në regjistrat e sistemit gjatë një incidenti, përdor Codex për të kërkuar në Slack nëse përmenden ndryshime të dyshimta apo nëse njerëzit flasin për simptoma të ngjashme në kanale të tjera”, thotë ai.

Jeff Niu, një tjetër anëtar i stafit teknik, thotë se, nëse duhen më shumë se 30 sekonda për të gjetur një përgjigje me IA, ai hap Slack ose bisedon me një koleg. Por me Ultrafast, në shumicën e punëve të tij, përgjigjet tani vijnë nën këtë kufi. Më parë, i bënte një pyetje Codex, kalonte te diçka tjetër ndërsa ai mendonte dhe, kur kthehej, e kishte humbur fillin. Tani ajo bisedë zhvillohet në kohë reale dhe e ndihmon të qëndrojë i përqendruar te detyra që ka në dorë.

Ultrafast e bën Jeff edhe më të gatshëm të ndërmarrë ristrukturime të mëdha të kodit, sepse ripunimi i kodit ekzistues kërkon më pak kohë. “Tani është shumë më e lehtë se kurrë të shlyesh borxhin teknik”, thotë ai. “Kodi kushton pak dhe tani mund të shkruhet shumë shpejt. Një ristrukturim që më parë kushtonte shumë, tani bëhet pothuajse në çast.”

Adam mban një bisedë të vazhdueshme me Codex, të cilën e quan shefi i tij i stafit. Çdo mëngjes, ajo i tregon çfarë takimesh ka dhe cilave mesazhe mund të ketë harruar t'u përgjigjet. “Codex i ka shqyrtuar tashmë të gjitha të dhënat për të shkruar atë përmbledhje, ndaj, kur bëj një pyetje shtesë, nuk i duhet të kërkojë të dhëna të tjera”, thotë ai. “Mund të vazhdoj të bëj pyetje në të njëjtën bisedë, njësoj si me një shef të vërtetë stafi.”

Sayan përdor Codex për punë të mërzitshme manuale në shfletues, si plotësimi i formularëve—diçka që më parë e shmangte sepse ishte tepër e ngadaltë. “Hapte një shfletues, mendonte për pesë sekonda, klikonte diçka, pastaj priste sërish”, thotë ai. Falë përmirësimeve të modeleve më të fundit në përdorimin e kompjuterit, ai ndihet më i sigurt t'ia lërë atë punë Codex. “Tani nuk e kam fare problem ta lë të klikojë në shfletues. Është aq i shpejtë sa nuk humbas kohë duke ia lënë atij në vend që ta bëj vetë.”

Nga reagimi ndaj incidenteve te planifikimi i përditshëm dhe ristrukturimi i kodit, Ultrafast i mundëson stafit teknik të OpenAI të punojë me Codex po aq shpejt sa i lindin pyetjet. Ata mund të bëjnë pyetje shtesë për një përgjigje, të provojnë një qasje tjetër dhe të vazhdojnë punën pa humbur fillin. Pritja më e shkurtër ndryshon edhe punët që janë të gatshëm të ndërmarrin: nga një ristrukturim kodi që e kishin shtyrë, te një detyrë rutinë që më në fund ia vlen t'ia delegojnë Codex.