Cómo Ultrafast redujo de horas a minutos la investigación de incidentes en OpenAI

Este artículo forma parte de nuestra serie de ejemplos internos sobre cómo OpenAI utiliza su propia tecnología y sus API. Estas herramientas se usan internamente en OpenAI y se presentan aquí para ilustrar cómo la IA de vanguardia ayuda a nuestros equipos en distintos casos de uso.

Ultrafast es un modo de alta velocidad de Codex y se ha convertido en la opción habitual de los ingenieros de OpenAI para responder a incidentes. Cuando algo falla, los ingenieros a menudo no pueden permitirse esperar varios minutos a recibir una respuesta mientras el problema se agrava. Con Ultrafast, pueden investigar varias causas posibles a la vez y obtener respuestas sin dividir su atención.

Aaron Friel, miembro del equipo técnico de OpenAI, suele ser quien coordina la respuesta a un incidente. Crea un canal de Slack para responder al incidente y después le plantea el problema a Codex: le pide que haga un seguimiento, investigue y responda a las preguntas que vayan surgiendo. «En cualquier incidente suele haber muchos puntos a lo largo del proceso en los que algo podría haber fallado, y encontrar la aguja adecuada en el pajar adecuado es, en realidad, la principal tarea de quienes están en ese canal», explica. «Con Ultrafast, básicamente puedo buscar en todos esos pajares a la vez y responder a los incidentes mucho más rápido».

AJ Trbojevic, miembro del equipo técnico y arquitecto de seguridad de centros de datos, cuenta que antes, al investigar problemas de seguridad, se tardaba una o dos horas en reunir datos estructurados y no estructurados, normalizarlos y aportar el contexto necesario para tomar una decisión. «Ahora eso se hace en 10 o 15 minutos», explica. «Y a veces, casi en tiempo real».

Adam Perry y Sayan Sisodiya trabajan en el equipo encargado del núcleo del agente, donde desarrollan el código que permite a Codex realizar acciones, ejecutar comandos y utilizar herramientas. Ultrafast ha cambiado su forma de trabajar durante los incidentes de seguridad. «Antes le pedía a Codex que investigara algo y, al mismo tiempo, me ponía a investigarlo yo también, porque sabía que no iba a ser lo bastante rápido como para quedarme esperando», cuenta Adam. «Ahora, con Ultrafast, Codex es lo bastante rápido como para que pueda mantener la concentración en lugar de dividir mi atención».

Sayan valora que Ultrafast le permita obtener respuestas inmediatas a partir de varias fuentes de datos: «Además de revisar los registros durante un incidente, uso Codex para buscar en Slack referencias a cambios sospechosos o conversaciones sobre síntomas similares en otros canales», explica.

Jeff Niu, otro miembro del equipo técnico, cuenta que, si la IA tarda más de 30 segundos en encontrar una respuesta, se pone a mirar Slack o a charlar con un compañero. Pero ahora, con Ultrafast, la mayoría de sus tareas se resuelven en menos tiempo. Antes le hacía una pregunta a Codex, se ponía con otra cosa mientras este pensaba y, al volver, había perdido el hilo. Ahora la conversación transcurre en tiempo real, lo que le ayuda a mantener la concentración en la tarea que tiene entre manos.

Ultrafast también anima a Jeff a abordar refactorizaciones de mayor envergadura, porque modificar el código existente lleva menos tiempo. «Ahora es mucho más fácil reducir la deuda técnica que antes», explica. «El código es barato y ahora se genera muy rápido. Una refactorización que antes costaba mucho ahora se hace casi al instante».

Adam mantiene una conversación abierta con Codex a la que llama su jefe de gabinete. Cada mañana le indica qué reuniones tiene y qué mensajes puede haber olvidado responder. «Ya ha revisado todos los datos para redactar ese resumen, así que, cuando hago otra pregunta, no tiene que pararse a buscar más información», explica. «Puedo seguir haciendo preguntas en la misma conversación, igual que con un jefe de gabinete de verdad».

Sayan usa Codex para realizar tareas manuales tediosas en el navegador, como rellenar formularios, algo que antes evitaba porque era demasiado lento. «Abría un navegador, se quedaba pensando cinco segundos, hacía clic en algo y volvía a pararse», cuenta. Gracias a las mejoras de los últimos modelos en el uso del ordenador, ahora confía más en dejar que Codex se encargue de ese trabajo. «Ahora no tengo ningún problema en dejar que vaya haciendo clic en el navegador; es lo bastante rápido como para que no pierda tiempo por no hacerlo yo mismo».

Ya sea al responder a incidentes, planificar el día o refactorizar código, Ultrafast permite al equipo técnico de OpenAI trabajar con Codex al ritmo al que surgen sus preguntas. Pueden profundizar en una respuesta, probar otro enfoque y seguir trabajando sin perder el hilo. Esa menor espera también cambia las tareas que se animan a abordar, desde una refactorización que habían pospuesto hasta una tarea rutinaria que por fin merece la pena delegar.