「超快」模式如何將 OpenAI 的事故調查時間從數小時縮短至數分鐘

本系列分享 OpenAI 在內部運用自家技術及 API 的實例，本文是其中一篇。這些工具目前正於 OpenAI 內部使用，我們在此分享相關例子，展示前沿 AI 如何支援各團隊的不同應用場景。

「超快」是 Codex 的高速模式，如今已成為 OpenAI 工程師處理事故時的預設選擇。系統一旦出現故障，問題可能不斷惡化，工程師往往沒有時間等上幾分鐘才取得答案。透過「超快」模式，他們可以同時調查多個可能成因，無需分散注意力就能獲得答案。

OpenAI 技術團隊成員 Aaron Friel 通常負責統籌事故應變工作。他會建立一個事故應變 Slack 頻道，然後讓 Codex 針對問題進行監察和調查，並隨時回答頻道上提出的問題。他說：「每宗事故通常都牽涉多個可能出錯的環節，而頻道內各人的首要工作，就是從眾多線索中找出真正的問題所在。」「有了『超快』模式，我基本上可以同時排查所有線索，更快地處理事故。」

技術團隊成員兼數據中心安全架構師 AJ Trbojevic 表示，以往調查安全問題時，需要花上一至兩小時，才能彙整結構化和非結構化數據、統一格式，並整理出決策所需的背景資訊。他說：「現在只需 10 至 15 分鐘就能完成。有時甚至接近即時完成。」

Adam Perry 和 Sayan Sisodiya 都隸屬核心智能代理團隊，負責編寫讓 Codex 採取行動、執行指令和使用工具的程式碼。「超快」模式改變了他們處理安全事故的方式。Adam 說：「以前我請 Codex 調查某件事時，也會同時自己調查，因為我知道它不夠快，不能只等它給我答案。」「現在有了『超快』模式，Codex 的速度已快得讓我可以保持專注，不必再分心處理。」

Sayan 很欣賞「超快」模式能讓他即時從多個數據來源取得答案。他說：「事故發生時，除了翻查日誌，我也會用 Codex 搜尋 Slack，看看有沒有提及可能有問題的變更，或有沒有人在 Slack 的其他地方討論類似症狀。」

另一位技術團隊成員 Jeff Niu 表示，如果用 AI 尋找答案要等超過 30 秒，他就會去查看 Slack 或與同事聊天。但有了「超快」模式，他現在處理大部分工作時，等待時間都少於 30 秒。以前他向 Codex 提問後，會在它思考時轉去做別的事，回來時卻已忘了原本的思路。現在對話能即時進行，讓他專注於眼前的工作。

「超快」模式也讓 Jeff 更願意進行大規模程式碼重構，因為修改現有程式碼所需的時間縮短了。他說：「現在清理技術債，比以往任何時候都容易得多。編寫程式碼的成本很低，現在生成速度也非常快。以往耗費大量資源的重構工作，如今幾乎瞬間就能完成。」

Adam 持續使用同一個 Codex 對話，並稱它為自己的「智囊」。每天早上，系統都會告訴他當天有哪些會議，以及哪些訊息可能忘了回覆。他說：「Codex 在撰寫摘要時已經看過所有資料，所以當我追問時，就不必再等它擷取更多資料。我可以在同一個對話中不斷提問，就像與真正的智囊交談一樣。」

Sayan 會用 Codex 在瀏覽器內處理繁瑣的手動工作，例如填寫表格。以前他不會讓 Codex 做這類工作，因為速度太慢。他說：「它會開啟瀏覽器，停下來思考五秒，按一下某個地方，然後又停下來。」隨着最新模型的電腦操作能力提升，他更放心將這些工作交給 Codex。「現在我完全放心讓它在瀏覽器內逐步操作。它的速度夠快，交給它做也不會比自己動手更花時間。」

無論是事故應變、日常規劃還是程式碼重構，「超快」模式都讓 Codex 跟得上 OpenAI 技術團隊的提問節奏。他們可以根據答案繼續追問、嘗試其他方法，並持續推進工作，不會打斷思路。等待時間縮短，也讓他們更願意着手處理更多工作：從一直擱置的重構，到如今終於值得交給 Codex 的日常任務。