Ultrafast OpenAI-да инциденттерді зерттеу уақытын сағаттардан минуттарға қалай қысқартты

Бұл — OpenAI өз технологиялары мен API интерфейстерін қалай қолданатынын ішкі тәжірибе мысалдары арқылы көрсететін мақалалар топтамасының бір бөлігі. Бұл құралдар OpenAI ішінде қолданылады. Мұнда олар озық ЖИ-дің командаларымыздың түрлі міндеттерін шешуге қалай көмектесетінін көрсету үшін мысал ретінде берілген.

Ultrafast — Codex жүйесіндегі жоғары жылдамдықты режим. OpenAI инженерлері үшін ол инциденттерге әрекет етудің әдепкі режиміне айналды. Бір нәрсе істен шыққанда, мәселе ушығып бара жатқандықтан, инженерлердің жауапты бірнеше минут күтуге көбіне уақыты болмайды. Ultrafast көмегімен олар бірнеше ықтимал себепті қатар зерттеп, назарын бөлмей-ақ жауап ала алады.

OpenAI техникалық маманы Аарон Фрил әдетте инцидентті шешу жұмысын басқарады. Ол инцидентке әрекет ету үшін Slack арнасын ашып, Codex жүйесіне мәселені тапсырады: жағдайды бақылауды, зерттеуді және түскен сұрақтарға жауап беруді сұрайды. «Кез келген инцидентте ақау шығуы мүмкін буындар әдетте көп болады. Сол арнадағы адамдардың басты міндеті — тиісті шөп үйіндісінен керекті инені табу», — дейді ол. «Ultrafast көмегімен сол үйінділердің бәрінен бір мезгілде іздеп, инциденттерге әлдеқайда жылдам әрекет ете аламын».

Техникалық маман әрі деректер орталығының қауіпсіздік архитекторы Эй Джей Трбоевичтің айтуынша, бұрын қауіпсіздік мәселелерін зерттеу кезінде құрылымдалған және құрылымдалмаған деректерді жинап, біріздендіруге және шешім қабылдауға қажетті мәнмәтінді дайындауға бір-екі сағат кететін. «Қазір бұған 10–15 минут кетеді», — дейді ол. «Ал кейде бәрі нақты уақытқа жуық жылдамдықпен орындалады».

Адам Перри мен Саян Сисодия агенттің негізгі мүмкіндіктерін әзірлейтін командада жұмыс істейді. Олар Codex жүйесіне әрекет етуге, пәрмендерді орындауға және құралдарды қолдануға мүмкіндік беретін кодты жазады. Ultrafast олардың қауіпсіздік инциденттері кезіндегі жұмыс тәсілін өзгертті. «Бұрын Codex жүйесінен бір нәрсені зерттеуді сұрап, сонымен қатар өзім де зерттей бастайтынмын. Өйткені оның жауабын күтіп отыруға болмайтынын, жеткілікті жылдам жауап бермейтінін білетінмін», — дейді Адам. «Ал қазір Ultrafast арқылы Codex жеткілікті жылдам жұмыс істейді, сондықтан назарымды басқаға бөлмей, бір іске ден қоя аламын».

Саян Ultrafast көмегімен бірнеше дереккөзден бірден жауап алуға болатынын жоғары бағалайды: «Инцидент кезінде журналдарды қарап шығумен шектелмеймін. Codex көмегімен Slack арналарын да ақтарып, күмәнді өзгерістер туралы айтылғанын немесе басқа арналарда осыған ұқсас белгілер талқыланғанын тексеремін», — дейді ол.

Тағы бір техникалық маман Джефф Ниудың айтуынша, ЖИ көмегімен жауап табуға 30 секундтан артық уақыт кетсе, ол Slack хабарларын қарайды немесе әріптесімен сөйлеседі. Бірақ Ultrafast арқасында қазір оның тапсырмаларының көбі осы уақыттан аспайды. Бұрын ол Codex жүйесіне сұрақ қойып, жауап дайындалғанша басқа іске ауысатын да, қайтып келгенде ойынан жаңылып қалатын. Енді бұл диалог нақты уақытта өтеді, сондықтан ол бар назарын қолындағы тапсырмаға аудара алады.

Ultrafast Джеффке ауқымды рефакторингке де батылырақ кірісуге мүмкіндік береді, өйткені қолданыстағы кодты қайта өңдеу енді аз уақыт алады. «Қазір техникалық қарызды азайту бұрынғыдан әлдеқайда оңай», — дейді ол. «Код жазу қымбат емес, енді оны өте жылдам дайындауға да болады. Бұрын көп уақыт пен күш талап ететін рефакторинг қазір бір сәтте дерлік орындалады».

Адам Codex жүйесінде үнемі жалғастырып отыратын бір чат жүргізеді. Оны өзінің аппарат басшысы деп атайды. Күн сайын таңертең ол Адамға қандай кездесулері барын және қай хабарларға жауап беруді ұмытып кетуі мүмкін екенін айтады. «Ол сол қысқаша шолуды жазу үшін барлық деректі қарап шығады. Сондықтан қосымша сұрақ қойсам, тағы дерек іздеп, уақыт жоғалтпайды», — дейді ол. «Нағыз аппарат басшысымен сөйлескендей, сол чатта сұрақтарымды қоя бере аламын».

Саян Codex жүйесіне браузердегі жалықтыратын қол жұмыстарын, мысалы, формаларды толтыруды тапсырады. Бұрын бұл тым баяу орындалатындықтан, мұндай тапсырмаларды оған бермейтін. «Ол браузерді ашып, бес секунд ойланып отыратын, бір нәрсені басып, қайта кідіретін», — дейді ол. Соңғы модельдердің компьютерді пайдалану қабілеті жақсарғандықтан, ол бұл жұмысты Codex жүйесіне сенімдірек тапсырады. «Қазір браузердегі әрекеттерді оған еш алаңсыз тапсырамын. Ол жеткілікті жылдам жұмыс істейтіндіктен, өзім жасамағанымнан уақыт жоғалтпаймын».

Инциденттерге әрекет ету, күнделікті жоспарлау және рефакторинг кезінде Ultrafast OpenAI техникалық мамандарына Codex жүйесінен сұрақ қою қарқынына сай жауап алып, жұмыс істеуге мүмкіндік береді. Олар жауапқа қатысты қосымша сұрақ қойып, басқа тәсілді сынап, ойынан жаңылмай жұмысын жалғастыра алады. Күту уақытының қысқаруы олардың қандай міндеттерге кірісуге дайын екенін де өзгертеді: кейінге қалдырған рефакторингтен бастап, енді ғана көмекшіге тапсыру тиімді болған күнделікті жұмыстарға дейін.