Ultrafast 如何將 OpenAI 的事件調查時間從數小時縮短至數分鐘

本系列分享 OpenAI 內部運用自家技術與 API 的實例，本文為其中一篇。這些工具目前用於 OpenAI 內部，我們在此分享具體案例，說明前沿 AI 如何支援各團隊的不同應用情境。

Ultrafast 是 Codex 的高速模式，OpenAI 工程師如今已習慣用這個模式處理事件應變。系統一旦出問題，工程師通常沒有時間花上好幾分鐘等待答案，任由問題持續惡化。有了 Ultrafast，他們可以同時調查多個可能原因，不必分心就能取得答案。

OpenAI 技術團隊成員 Aaron Friel 通常負責統籌事件處理。他會建立一個事件應變用的 Slack 頻道，接著請 Codex 針對問題進行監控與調查，並隨時回答新提出的問題。他說：「每起事件通常都有很多環節可能出錯。從正確的地方找出關鍵線索，其實就是頻道裡所有人的首要任務。使用 Ultrafast，我基本上能同時搜尋所有可能藏有線索的地方，更快因應事件。」

技術團隊成員兼資料中心安全架構師 AJ Trbojevic 表示，過去調查安全問題時，光是整合結構化與非結構化資料、統一格式，再補上做決策所需的背景資訊，就要花上一到兩小時。他說：「現在只要 10 到 15 分鐘就能完成。有時候甚至幾乎是即時完成。」

Adam Perry 和 Sayan Sisodiya 都任職於核心智慧體團隊，負責編寫讓 Codex 能採取行動、執行指令及使用工具的程式碼。Ultrafast 改變了他們處理安全事件的方式。Adam 說：「以前我會請 Codex 調查某件事，同時自己也去查，因為我知道 Codex 還不夠快，不能光等答案。現在有了 Ultrafast，Codex 的速度已經夠快，讓我能保持專注，不必再分散注意力。」

Sayan 很欣賞 Ultrafast 能讓他立即從多個資料來源取得答案。他說：「事件發生時，除了深入查看紀錄，我也會用 Codex 搜尋 Slack，看看是否有人提到可能有問題的變更，或在 Slack 其他地方討論類似狀況。」

另一位技術團隊成員 Jeff Niu 表示，如果用 AI 尋找答案要等超過 30 秒，他就會去看 Slack，或找同事聊聊。但有了 Ultrafast，如今他大部分工作都能在 30 秒內得到回覆。以前他問完 Codex 問題後，會在等待回答時轉去做別的事，等回來時，原本的思路已經斷了。現在對話能即時進行，讓他更能專注於手邊的任務。

Ultrafast 也讓 Jeff 更願意著手進行大規模重構，因為修改既有程式碼所需的時間變少了。他說：「現在要償還技術債，比以往任何時候都容易得多。寫程式碼的成本很低，現在產出速度也非常快。過去要投入大量資源的重構，現在幾乎瞬間就能完成。」

Adam 持續使用同一個 Codex 對話串，把這個對話串稱為自己的幕僚長。每天早上，Codex 會告訴他當天有哪些會議，以及哪些訊息可能忘了回覆。他說：「Codex 為了撰寫摘要，已經看過所有資料，所以當我追問時，不必再等 Codex 擷取更多資料。我可以在同一段對話裡不斷提問，就像跟真正的幕僚長互動一樣。」

Sayan 會用 Codex 處理瀏覽器中繁瑣的手動作業，例如填寫表單。以前他不願意把這些工作交給 Codex，因為速度太慢。他說：「Codex 會打開瀏覽器，停在那裡想五秒，點一下，然後又停在那裡。」隨著最新模型的電腦操作能力提升，他更放心把這些工作交給 Codex。「現在我完全放心讓 Codex 在瀏覽器裡點選操作，而且速度夠快，不會因為沒親自動手而多花時間。」

無論是事件應變、每日規劃還是程式碼重構，Ultrafast 都讓 Codex 跟得上 OpenAI 技術團隊成員提問的速度。他們可以根據答案繼續追問、嘗試其他方法，讓工作持續推進而不中斷思路。等待時間縮短，也改變了他們願意著手處理的工作：從原本擱置的重構，到現在終於值得交給 Codex 處理的例行任務。