Cómo Ultrarrápido redujo de horas a minutos la investigación de incidentes en OpenAI

Este artículo forma parte de nuestra serie de ejemplos internos sobre cómo OpenAI usa su propia tecnología y sus API. Estas herramientas se usan dentro de OpenAI y se presentan aquí para ilustrar cómo la IA de vanguardia apoya distintos casos de uso en nuestros equipos.

Ultrarrápido es un modo de alta velocidad de Codex que se ha convertido en la opción predeterminada de los ingenieros de OpenAI para responder a incidentes. Cuando algo falla, los ingenieros a menudo no pueden esperar varios minutos a recibir una respuesta mientras el problema se agrava. Con Ultrarrápido, pueden investigar varias causas posibles a la vez y obtener respuestas sin dividir su atención.

Aaron Friel, miembro del equipo técnico de OpenAI, suele estar al frente de la respuesta a un incidente. Crea un canal de Slack para responder al incidente y le presenta el problema a Codex, pidiéndole que lo monitoree, lo investigue y responda las preguntas a medida que surjan. "En cualquier incidente, suele haber muchos puntos del proceso donde algo pudo haber fallado, y encontrar la aguja correcta en el pajar correcto es, en realidad, la principal tarea de quienes están en ese canal", explica. "Con Ultrarrápido, básicamente puedo buscar en todos esos pajares al mismo tiempo y responder a los incidentes mucho más rápido".

AJ Trbojevic, miembro del equipo técnico y arquitecto de seguridad de centros de datos, cuenta que, al investigar problemas de seguridad, antes se tardaba una o dos horas en reunir datos estructurados y no estructurados, normalizarlos y aportar el contexto necesario para tomar una decisión. "Ahora eso se hace en 10 a 15 minutos", dice. "Y a veces, casi en tiempo real".

Adam Perry y Sayan Sisodiya trabajan en el equipo a cargo del núcleo del agente y desarrollan el código que permite a Codex realizar acciones, ejecutar comandos y usar herramientas. Ultrarrápido ha cambiado su forma de trabajar durante los incidentes de seguridad. "Antes, le pedía a Codex que investigara algo y, al mismo tiempo, lo investigaba por mi cuenta, porque sabía que no sería lo bastante rápido como para quedarme esperando", dice Adam. "Ahora, con Ultrarrápido, Codex es lo bastante rápido como para que pueda mantener la concentración en lugar de dividir mi atención".

Sayan valora que Ultrarrápido le permita obtener respuestas inmediatas a partir de múltiples fuentes de datos: "Además de revisar los registros durante un incidente, uso Codex para buscar en Slack referencias a cambios que podrían ser sospechosos o conversaciones sobre síntomas similares en otros canales", cuenta.

Jeff Niu, otro miembro del equipo técnico, dice que, si obtener una respuesta con IA tarda más de 30 segundos, se pone a revisar Slack o a hablar con un compañero. Pero ahora, con Ultrarrápido, la mayor parte de su trabajo se mantiene por debajo de ese umbral. Antes le hacía una pregunta a Codex, pasaba a otra cosa mientras este pensaba y, cuando volvía, ya había perdido el hilo. Ahora esa conversación ocurre en tiempo real y lo ayuda a concentrarse en la tarea que está realizando.

Ultrarrápido también anima a Jeff a emprender refactorizaciones de mayor alcance, porque modificar el código existente lleva menos tiempo. "Ahora es mucho más fácil reducir la deuda técnica que antes", dice. "El código cuesta poco y ahora se genera muy rápido. Una refactorización que antes costaba mucho ahora se hace casi al instante".

Adam mantiene una conversación continua con Codex a la que llama su jefe de gabinete. Cada mañana, le indica qué reuniones tiene y qué mensajes podría haber olvidado responder. "Ya revisó todos los datos para escribir ese resumen, así que, cuando le hago otra pregunta, no tiene que ponerse a buscar más información", explica. "Puedo seguir haciendo preguntas en la misma conversación, como lo haría con un verdadero jefe de gabinete".

Sayan usa Codex para realizar tareas manuales tediosas en el navegador, como completar formularios, algo que antes evitaba porque era demasiado lento. "Abría un navegador, se quedaba pensando cinco segundos, hacía clic en algo y volvía a quedarse esperando", cuenta. Gracias a las mejoras de los modelos más recientes en el uso de la computadora, ahora confía más en dejar que Codex se encargue de ese trabajo. "Ahora no tengo ningún problema en dejar que haga clic y navegue por su cuenta, y es lo bastante rápido como para que no pierda tiempo al no hacerlo yo mismo".

Ya sea para responder a incidentes, planificar el día o refactorizar código, Ultrarrápido permite que el equipo técnico de OpenAI trabaje con Codex al ritmo al que surgen sus preguntas. Pueden profundizar en una respuesta, probar otro enfoque y seguir trabajando sin perder el hilo. Esa menor espera también cambia lo que se animan a hacer, desde una refactorización que habían pospuesto hasta una tarea rutinaria que por fin vale la pena delegar.