Како Ultrafast го скрати истражувањето на инциденти во OpenAI од часови на минути

Ова е дел од нашата серија во која споделуваме интерни примери за тоа како OpenAI ги користи сопствената технологија и API. Овие алатки се користат интерно во OpenAI, а тука ги споделуваме како илустративни примери за тоа како граничната ВИ поддржува различни примени во нашите тимови.

Ultrafast е режим за работа со голема брзина во Codex, кој за инженерите во OpenAI стана стандарден избор за одговор на инциденти. Кога нешто ќе престане да работи, инженерите често немаат време со минути да чекаат одговор додека проблемот се влошува. Со Ultrafast можат истовремено да истражуваат повеќе можни причини и да добиваат одговори без да го делат вниманието.

Арон Фрил, член на техничкиот тим на OpenAI, обично го координира одговорот на инцидентите. Тој отвора канал на Slack за одговор на инцидентот, а потоа го насочува Codex кон проблемот, барајќи од него да ја следи состојбата, да истражува и да одговара на прашањата како што пристигнуваат. „При секој инцидент, обично има многу точки во процесот каде што можело нешто да тргне наопаку, а наоѓањето на вистинската игла во вистинскиот стог сено е всушност главната задача на луѓето во тој канал“, вели тој. „Со Ultrafast, во суштина можам да ги пребарувам сите тие стогови сено истовремено и многу побрзо да реагирам на инцидентите.“

Еј Џеј Трбојевиќ, член на техничкиот тим и архитект за безбедност на центри за податоци, вели дека при истражување на безбедносни проблеми порано биле потребни час или два за да се соберат структурираните и неструктурираните податоци, да се нормализираат и да се обезбеди контекст за донесување одлука. „Сега тоа се прави за 10 до 15 минути“, вели тој. „А понекогаш и речиси во реално време.“

Адам Пери и Сајан Сисодија работат во тимот за основните функции на агентот, каде што го развиваат кодот што му овозможува на Codex да презема дејства, да извршува команди и да користи алатки. Ultrafast го промени начинот на кој работат при безбедносни инциденти. „Порано ќе побарав од Codex да истражи нешто, а истовремено и самиот ќе почнев да го истражувам, бидејќи знаев дека нема да биде доволно брз за само да го чекам“, вели Адам. „Сега, со Ultrafast, Codex е доволно брз за да останам сосредоточен наместо да го делам вниманието.“

Сајан ја цени можноста со Ultrafast веднаш да добива одговори од повеќе извори на податоци: „Освен за пребарување низ дневниците при инцидент, го користам Codex и за пребарување низ Slack, за да видам дали некаде се спомнуваат сомнителни промени или дали луѓето зборуваат за слични симптоми во други разговори на Slack“, вели тој.

Џеф Ниу, исто така член на техничкиот тим, вели дека ако на ВИ ѝ требаат повеќе од 30 секунди за да најде одговор, тој за тоа време ќе го провери Slack или ќе поразговара со колега. Но со Ultrafast, сега добива одговори за пократко време за најголем дел од својата работа. Порано ќе му поставеше прашање на Codex, ќе се префрлеше на нешто друго додека тој размислува, а кога ќе се вратеше, веќе ја имаше изгубено нишката на мислата. Сега тој разговор се одвива во реално време, што му помага да остане сосредоточен на тековната задача.

Со Ultrafast, Џеф е поподготвен да се зафати и со обемно рефакторирање, бидејќи преработката на постојниот код одзема помалку време. „Сега е многу полесно да се намали техничкиот долг отколку кога било порано“, вели тој. „Кодот е евтин, а сега може и многу брзо да се напише. Рефакторирањето што порано чинеше многу сега се завршува речиси веднаш.“

Адам одржува постојан разговор со Codex, кој го нарекува свој шеф на кабинет. Секое утро Codex му кажува кои состаноци ги има и на кои пораки можеби заборавил да одговори. „Веќе ги има прегледано сите податоци за да го напише тоа резиме, па кога ќе поставам дополнително прашање, не морам да чекам да прибере уште податоци“, вели тој. „Можам да продолжам да поставувам прашања во истиот разговор, исто како да зборувам со вистински шеф на кабинет.“

Сајан го користи Codex за здодевни рачни задачи во прелистувачот, како пополнување формулари — нешто што претходно избегнувал да му го препушти бидејќи било премногу бавно. „Ќе отвореше прелистувач, ќе размислуваше пет секунди, ќе кликнеше нешто, па повторно ќе застанеше“, вели тој. Благодарение на подобрената способност на најновите модели да користат компјутер, сега со поголема доверба му ја препушта таа работа на Codex. „Сега без двоумење го оставам да клика низ прелистувачот. Доволно е брз за да не губам време со тоа што не ја вршам работата сам.“

При одговор на инциденти, дневно планирање и рефакторирање, Ultrafast му овозможува на техничкиот тим на OpenAI да работи со Codex со истото темпо со кое ги поставува прашањата. Можат да постават дополнително прашање за добиениот одговор, да испробаат друг пристап и да продолжат да работат без да ја изгубат нишката на мислата. Пократкото чекање влијае и на тоа со што се подготвени да се зафатат — од рефакторирање што го одложувале до рутинска задача што конечно вреди да се делегира.