Ultrafast로 장애 원인 조사 시간을 몇 시간에서 몇 분으로 단축한 OpenAI

이 글은 OpenAI가 자체 기술과 API를 어떻게 활용하는지 내부 사례를 공유하는 시리즈의 일부입니다. 소개된 도구들은 OpenAI 내부에서 사용 중이며, 프런티어 AI가 여러 팀의 다양한 업무를 어떻게 지원하는지 보여주는 사례입니다.

Ultrafast는 Codex의 고속 모드로, OpenAI 엔지니어들이 장애에 대응할 때 기본으로 사용하는 모드가 되었습니다. 장애가 발생하면 문제가 커지는 상황에서 엔지니어들이 답을 얻기 위해 몇 분씩 기다릴 여유는 없는 경우가 많습니다. Ultrafast를 사용하면 원인이 될 만한 여러 요인을 동시에 조사하고, 주의를 분산시키지 않고도 답을 얻을 수 있습니다.

OpenAI 기술팀의 에런 프릴은 장애가 발생하면 대개 대응을 총괄합니다. 에런은 장애 대응용 Slack 채널을 만들고 Codex에 문제를 살펴보게 합니다. 상황을 모니터링하고 원인을 조사하면서, 질문이 올라올 때마다 답하도록 요청하는 것입니다. 에런은 이렇게 말합니다. “어떤 장애든 문제가 생겼을 만한 지점이 여러 단계에 걸쳐 있기 마련입니다. 그 채널에 모인 사람들의 핵심 임무는 결국 올바른 건초 더미에서 정확한 바늘을 찾아내는 일이죠.” “Ultrafast를 사용하면 사실상 그 모든 건초 더미를 동시에 뒤질 수 있어서 장애에 훨씬 빠르게 대응할 수 있습니다.”

기술팀 소속 데이터센터 보안 아키텍트인 AJ 트르보예비치에 따르면, 이전에는 보안 문제를 조사할 때 정형·비정형 데이터를 모아 정규화하고 의사결정에 필요한 맥락을 파악하는 데 한두 시간이 걸렸습니다. AJ는 “이제는 그 과정이 10~15분이면 끝납니다”라고 말합니다. “때로는 거의 실시간으로 이루어지기도 하죠.”

애덤 페리와 사얀 시소디야는 모두 코어 에이전트 팀에서 Codex가 작업을 수행하고 명령을 실행하며 도구를 사용할 수 있도록 코드를 개발합니다. Ultrafast는 이들이 보안 사고에 대응하는 방식을 바꿔 놓았습니다. 애덤은 이렇게 말합니다. “예전에는 Codex에 조사를 맡겨 놓고 저도 동시에 같은 문제를 살펴봤어요. 마냥 기다리기에는 속도가 충분히 빠르지 않다는 걸 알았거든요.” “이제 Ultrafast 덕분에 Codex가 충분히 빨라져서, 여러 곳에 신경을 쓰지 않고 하던 일에 집중할 수 있습니다.”

사얀은 Ultrafast로 여러 데이터 소스에서 즉시 답을 얻을 수 있다는 점을 높이 평가합니다. “장애가 발생하면 단순히 로그만 뒤지는 게 아니라, Codex로 Slack도 검색합니다. 원인으로 의심되는 변경 사항에 대한 언급이 있는지, Slack의 다른 곳에서 비슷한 증상을 이야기하는 사람이 있는지 확인하죠.”

같은 기술팀의 제프 니우는 AI로 답을 찾는 데 30초 넘게 걸리면 Slack을 확인하거나 동료와 대화를 나누게 된다고 말합니다. 하지만 이제 Ultrafast를 사용하면서 대부분의 업무에서 30초 안에 답을 얻습니다. 예전에는 Codex에 질문한 뒤 답을 생각하는 동안 다른 일을 하다가 돌아오면 생각의 흐름이 끊기곤 했습니다. 이제는 대화가 실시간으로 이루어져 눈앞의 업무에 계속 집중할 수 있습니다.

Ultrafast 덕분에 기존 코드를 수정하는 데 걸리는 시간도 줄어, 제프는 대규모 리팩터링에도 더 적극적으로 나서게 되었습니다. 제프는 “기술 부채를 줄이기가 그 어느 때보다 훨씬 쉬워졌습니다”라고 말합니다. “코드 작성 비용은 낮아졌고, 이제는 작성 속도도 아주 빨라졌습니다. 예전에는 비용이 많이 들던 리팩터링이 이제는 거의 순식간에 끝나죠.”

애덤은 Codex 대화 스레드 하나를 계속 이어 가며 자신의 비서실장이라고 부릅니다. 매일 아침 이 스레드에서 그날 예정된 회의와 답장을 깜빡했을 법한 메시지를 알려줍니다. 애덤은 이렇게 말합니다. “요약을 작성하면서 이미 모든 데이터를 살펴본 상태라, 제가 추가로 질문해도 정보를 더 가져오느라 기다릴 필요가 없어요.” “실제 비서실장과 이야기하듯 같은 대화에서 계속 질문하면 됩니다.”

사얀은 양식 작성처럼 브라우저에서 수동으로 해야 하는 번거로운 작업에 Codex를 사용합니다. 예전에는 처리 속도가 너무 느려 맡기지 않았던 일입니다. 사얀은 “브라우저를 열고 5초 동안 생각하다가, 뭔가를 클릭하고, 또 가만히 기다리곤 했어요”라고 말합니다. 최신 모델의 컴퓨터 사용 능력이 향상되면서, 이제는 더 마음 편히 Codex에 그런 작업을 맡깁니다. “이제는 브라우저에서 클릭하며 작업하도록 맡겨도 전혀 부담이 없어요. 충분히 빨라서 제가 직접 하지 않는다고 시간을 낭비하는 것도 아니고요.”

장애 대응부터 하루 일정 계획, 리팩터링까지, Ultrafast 덕분에 OpenAI 기술팀은 질문이 떠오르는 속도에 맞춰 Codex와 함께 일할 수 있습니다. 답변에 이어 추가 질문을 하거나 다른 접근법을 시도하면서, 생각의 흐름을 끊지 않고 계속 작업할 수 있습니다. 대기 시간이 짧아지면서 기꺼이 시도할 업무의 범위도 넓어집니다. 미뤄 두었던 리팩터링부터 이제야 직접 하는 대신 맡길 만해진 일상 업무까지 말이죠.