Ultrafast memendekkan penyiasatan insiden di OpenAI daripada berjam-jam kepada beberapa minit

Artikel ini sebahagian daripada siri kami yang berkongsi contoh penggunaan teknologi dan API OpenAI sendiri dalam syarikat. Alat ini digunakan secara dalaman di OpenAI, dan dikongsikan di sini sebagai contoh bagaimana AI termaju menyokong pelbagai kegunaan dalam pasukan kami.

Ultrafast ialah mod berkelajuan tinggi dalam Codex dan kini menjadi pilihan utama jurutera OpenAI untuk respons insiden. Apabila berlaku kerosakan, jurutera selalunya tidak mempunyai masa untuk menunggu jawapan selama beberapa minit sementara masalah semakin meruncing. Dengan Ultrafast, mereka boleh menyiasat beberapa kemungkinan punca serentak dan mendapatkan jawapan tanpa perlu membahagikan perhatian.

Aaron Friel, Ahli Staf Teknikal di OpenAI, biasanya mengetuai usaha menangani insiden. Beliau mewujudkan saluran Slack untuk respons insiden, kemudian mengarahkan Codex meneliti masalah tersebut dengan memantau, menyiasat dan menjawab soalan yang masuk. “Dalam mana-mana insiden, biasanya ada banyak titik dalam rantaian proses yang mungkin menjadi punca masalah. Mencari jarum yang betul dalam timbunan jerami yang betul itulah tugas utama orang dalam saluran tersebut”, katanya. “Dengan Ultrafast, saya boleh mencari dalam semua timbunan jerami itu serentak dan menangani insiden dengan jauh lebih pantas”.

AJ Trbojevic, Ahli Staf Teknikal dan Arkitek Keselamatan Pusat Data, berkata penyiasatan isu keselamatan dahulu mengambil masa sejam atau dua jam untuk menghimpunkan data berstruktur dan tidak berstruktur, menyeragamkannya serta menyediakan konteks bagi membuat keputusan. “Kini semua itu selesai dalam 10 hingga 15 minit”, katanya. “Malah, ada kalanya hampir dalam masa nyata”.

Adam Perry dan Sayan Sisodiya sama-sama menganggotai pasukan teras ejen, membina kod yang membolehkan Codex mengambil tindakan, menjalankan perintah dan menggunakan alat. Ultrafast telah mengubah cara mereka bekerja semasa insiden keselamatan. “Dulu, saya akan meminta Codex menyiasat sesuatu, kemudian menyiasatnya sendiri pada masa yang sama kerana saya tahu Codex tidak cukup pantas untuk saya tunggu sahaja”, kata Adam. “Kini dengan Ultrafast, Codex cukup pantas untuk saya kekal fokus tanpa perlu membahagikan perhatian”.

Sayan menghargai keupayaan Ultrafast membolehkan dia mendapat jawapan segera daripada pelbagai sumber data: “Selain menyelongkar log semasa insiden, saya menggunakan Codex untuk menelusuri Slack bagi mencari rujukan kepada perubahan yang mencurigakan atau perbincangan tentang gejala serupa di ruang lain dalam Slack”, katanya.

Jeff Niu, seorang lagi Ahli Staf Teknikal, berkata jika pencarian jawapan dengan AI mengambil masa lebih 30 saat, beliau akan menyemak Slack atau berbual dengan rakan sekerja. Namun, dengan Ultrafast, kebanyakan tugasnya kini mendapat respons dalam masa kurang daripada itu. Dahulu, dia akan mengajukan soalan kepada Codex, beralih kepada perkara lain sementara Codex memproses soalan itu, kemudian kembali semula tetapi sudah terlupa apa yang ingin dilakukannya. Kini perbualan itu berlangsung dalam masa nyata, membantunya kekal fokus pada tugas yang sedang dilakukan.

Ultrafast juga menjadikan Jeff lebih bersedia melakukan pemfaktoran semula berskala besar kerana penyusunan semula kod sedia ada mengambil masa yang lebih singkat. “Hutang teknikal kini jauh lebih mudah dikurangkan berbanding dahulu”, katanya. “Kos menghasilkan kod rendah, dan kini kod boleh dihasilkan dengan sangat pantas. Pemfaktoran semula yang dahulunya memerlukan banyak sumber kini selesai hampir serta-merta”.

Adam mengekalkan satu perbualan berterusan dengan Codex yang digelarnya ketua staf. Setiap pagi, Codex memberitahunya mesyuarat yang dijadualkan dan mesej yang mungkin terlupa dibalas. “Codex sudah meneliti semua data untuk menulis ringkasan itu, jadi apabila saya mengajukan soalan susulan, ia tidak perlu mengambil masa untuk mendapatkan lebih banyak data”, katanya. “Saya boleh terus bertanya dalam perbualan yang sama, seperti bercakap dengan ketua staf sebenar”.

Sayan menggunakan Codex untuk melakukan kerja manual yang membosankan dalam pelayar, seperti mengisi borang—sesuatu yang dahulu beliau elakkan kerana terlalu lambat. “Codex akan membuka pelayar, berfikir selama lima saat, mengklik sesuatu, kemudian berhenti lagi”, katanya. Dengan peningkatan keupayaan model terkini menggunakan komputer, beliau lebih selesa membiarkan Codex mengendalikan kerja itu. “Kini saya selesa sahaja membiarkan Codex mengklik dalam pelayar. Ia cukup pantas, jadi saya tidak membuang masa dengan menyerahkan kerja itu kepadanya dan bukannya melakukannya sendiri”.

Dalam respons insiden, perancangan harian dan pemfaktoran semula, Ultrafast membolehkan Staf Teknikal OpenAI bekerja dengan Codex yang mampu menjawab sepantas mereka bertanya. Mereka boleh mengajukan soalan susulan, mencuba pendekatan lain dan terus bekerja tanpa aliran fikiran terputus. Masa menunggu yang lebih singkat itu juga mengubah jenis kerja yang sanggup mereka lakukan, daripada pemfaktoran semula yang selama ini ditangguhkan hinggalah tugas rutin yang akhirnya berbaloi untuk diserahkan kepada Codex.