Ultrafast OpenAI-д доголдол шалгах хугацааг хэдэн цагаас хэдхэн минут болгож бууруулсан нь

Энэ нь OpenAI өөрийн технологи, API-г хэрхэн ашигладаг дотоод жишээнүүдийг хуваалцдаг цувралын нэг хэсэг юм. Эдгээр хэрэгслийг OpenAI дотроо ашигладаг бөгөөд хил хязгаарын AI манай багуудын төрөл бүрийн ажилд хэрхэн тусалж байгааг харуулах жишээ болгон энд хуваалцаж байна.

Ultrafast бол Codex-ийн өндөр хурдны горим бөгөөд OpenAI-ийн инженерүүд доголдол гарсан үед үүнийг хамгийн түрүүнд ашигладаг болжээ. Ямар нэг зүйл доголдож, асуудал улам даамжирч байхад инженерүүдэд хариу хүлээн хэдэн минут суух зав ихэнхдээ байдаггүй. Ultrafast-ын тусламжтайгаар тэд анхаарлаа хуваарилалгүйгээр хэд хэдэн боломжит шалтгааныг зэрэг шалгаж, хариу авах боломжтой.

OpenAI-ийн техникийн багийн гишүүн Аарон Фрил ихэвчлэн доголдлыг шийдвэрлэх ажлыг удирддаг. Тэрээр доголдлыг шийдвэрлэх Slack суваг нээгээд, Codex-д асуудлыг танилцуулж, явцыг хянах, шалтгааныг шалгах, ирсэн асуулт бүрд хариулахыг даалгадаг. “Ямар ч доголдлын үед алдаа гарч болох олон шат дамжлага байдаг. Тэр сувгийн хүмүүсийн гол ажил бол зөв бухлаас зөв зүүгээ олох юм” гэж тэр хэлэв. “Ultrafast ашигласнаар би тэр бүх бухлыг зэрэг нэгжиж, доголдолд хамаагүй хурдан арга хэмжээ авч чаддаг.”

Техникийн багийн гишүүн, дата төвийн аюулгүй байдлын архитектор Эй Жэй Трбоевичийн хэлснээр аюулгүй байдлын асуудлыг шалгахдаа бүтэцтэй болон бүтэцгүй өгөгдлийг нэгтгэж, ижил хэлбэрт оруулан, шийдвэр гаргахад хэрэгтэй нөхцөл байдлыг тодруулахад өмнө нь нэгээс хоёр цаг зарцуулдаг байжээ. “Одоо үүнийг 10–15 минутад хийдэг” гэж тэр хэлэв. “Заримдаа бараг шууд л бэлэн болдог.”

Адам Перри, Саян Сисодия нар хоёул агентын үндсэн багт ажиллаж, Codex-д үйлдэл хийх, команд ажиллуулах, хэрэгсэл ашиглах боломж олгодог кодыг бичдэг. Ultrafast нь аюулгүй байдлын зөрчил гарсан үед тэдний ажиллах арга барилыг өөрчилжээ. “Өмнө нь би Codex-д ямар нэг зүйлийг шалгахыг даалгачхаад, өөрөө давхар шалгадаг байсан. Учир нь зүгээр хүлээгээд суухад хангалттай хурдан биш гэдгийг мэддэг байлаа” гэж Адам хэлэв. “Харин одоо Ultrafast-тай болсноор Codex хангалттай хурдан болсон тул би анхаарлаа хуваарилалгүйгээр хийж буй ажилдаа төвлөрч чаддаг.”

Ultrafast олон эх сурвалжаас шууд хариу авах боломж олгодог нь Саянд таалагддаг. “Доголдол гарахад зөвхөн лог ухахаас гадна сэжигтэй өөрчлөлтийн тухай дурдсан эсэх, эсвэл Slack-ийн өөр хэсэгт хүмүүс ижил шинж тэмдгийн талаар ярьж байгаа эсэхийг Codex-оор хайлгадаг” гэж тэр хэлэв.

Техникийн багийн өөр нэг гишүүн Жефф Ниугийн хэлснээр AI-аас хариу авахад 30 секундээс удах юм бол тэр Slack-аа шалгах юм уу хамт ажилладаг хүнтэйгээ ярилцаж эхэлдэг. Харин Ultrafast ашигласнаар ихэнх ажилд нь үүнээс бага хугацаа шаардагддаг болжээ. Өмнө нь тэр Codex-оос асуулт асуугаад, хариу бодох хооронд нь өөр зүйл рүү шилжиж, эргээд ирэхдээ юу бодож байснаа мартчихдаг байв. Одоо тэр яриа хүлээлтгүй өрнөдөг болсон нь хийж буй ажилдаа төвлөрөхөд нь тусалдаг.

Одоо байгаа кодыг дахин боловсруулахад бага хугацаа зарцуулдаг болсон тул Ultrafast нь Жеффийг кодын бүтцийг өөрчлөх томоохон ажлуудыг ч зоригтой барьж авахад хүргэжээ. “Техникийн өрийг багасгах нь одоо урьд урьдынхаас хамаагүй амар болсон” гэж тэр хэлэв. “Код бичих зардал бага, одоо бас маш хурдан бичдэг болсон. Өмнө нь ихээхэн зардалтай байсан кодын бүтцийг өөрчлөх ажил одоо бараг агшин зуур хийгддэг.”

Адам Codex-той нэг яриагаа тасралтгүй үргэлжлүүлдэг бөгөөд түүнийгээ ажлын албаны дарга гэж нэрлэдэг. Өглөө бүр түүнд ямар уулзалтуудтай, ямар зурваст хариулахаа мартсан байж болохыг хэлж өгдөг. “Тэр хураангуйг бичихийн тулд бүх өгөгдлийг аль хэдийн үзсэн байдаг учраас намайг лавлаж асуухад дахин мэдээлэл хайж цаг алддаггүй” гэж тэр хэлэв. “Би жинхэнэ ажлын албаны даргатай ярьж байгаа мэт тэр яриандаа асуултаа үргэлжлүүлэн асууж болдог.”

Саян маягт бөглөх зэрэг хөтөч дээр гараар хийдэг уйтгартай ажлыг Codex-оор хийлгэдэг. Өмнө нь хэт удаан байсан учраас ийм ажил даалгахаас зайлсхийдэг байжээ. “Хөтөч нээгээд таван секунд бодож зогсоно, нэг юм дарна, дахиад л зогсоно” гэж тэр хэлэв. Сүүлийн үеийн загваруудын компьютер ашиглах чадвар сайжирсан тул тэр ийм ажлыг Codex-д илүү итгэлтэй даалгадаг болсон. “Одоо хөтөч дээр товч дарж ажиллахыг нь би санаа зоволтгүй даалгадаг. Хангалттай хурдан болсон болохоор өөрөө хийгээгүйдээ цаг алдахгүй.”

Доголдол шийдвэрлэх, өдрийн ажлаа төлөвлөх, кодын бүтцийг өөрчлөх гээд олон ажилд Ultrafast нь OpenAI-ийн техникийн багийнханд Codex-оос асуулт асуух бүрдээ хүлээлгүй хариу авч ажиллах боломж олгож байна. Тэд бодлынхоо уялдааг алдалгүйгээр хариуг лавлан асууж, өөр арга туршиж, ажлаа үргэлжлүүлж чадна. Хүлээх хугацаа богиноссоноор тэдний барьж авах ажил ч өөрчлөгдөж байна. Хойш тавьсан кодын бүтцийн өөрчлөлтөөс эхлээд бусдад даалгах нь сая л үр ашигтай болсон өдөр тутмын ажлыг хүртэл үүнд багтааж болно.