Avec Ultrafast, l’analyse des incidents passe d’heures à minutes chez OpenAI

Cet article fait partie de notre série d’exemples internes montrant comment OpenAI utilise sa propre technologie et ses API. Ces outils sont utilisés à l’interne, chez OpenAI, et présentés ici pour illustrer comment l’IA de pointe répond aux besoins de nos équipes.

Ultrafast est un mode haute vitesse de Codex. Pour les ingénieurs d’OpenAI, il est devenu le choix par défaut pour répondre aux incidents. Quand une panne survient, les ingénieurs n’ont souvent pas le temps d’attendre plusieurs minutes pour obtenir une réponse pendant que le problème s’aggrave. Avec Ultrafast, ils peuvent examiner plusieurs causes potentielles à la fois et obtenir des réponses sans disperser leur attention.

Aaron Friel, membre du personnel technique chez OpenAI, est habituellement celui qui coordonne la réponse à un incident. Il crée un canal Slack pour gérer l’incident, puis demande à Codex de se pencher sur le problème, d’en suivre l’évolution, d’enquêter et de répondre aux questions à mesure qu’elles arrivent. « Lors d’un incident, il y a généralement de nombreux points dans la chaîne où quelque chose a pu mal tourner. Trouver la bonne aiguille dans la bonne botte de foin, c’est vraiment la tâche principale des personnes présentes dans ce canal », explique-t-il. « Avec Ultrafast, je peux essentiellement fouiller toutes ces bottes de foin en même temps et réagir aux incidents beaucoup plus vite. »

AJ Trbojevic, membre du personnel technique et architecte en sécurité des centres de données, explique que, dans les enquêtes sur des problèmes de sécurité, il fallait auparavant une heure ou deux pour rassembler les données structurées et non structurées, les normaliser et fournir le contexte nécessaire à une décision. « Maintenant, ça se fait en 10 à 15 minutes », dit-il. « Et parfois, c’est presque en temps réel. »

Adam Perry et Sayan Sisodiya font tous deux partie de l’équipe responsable du cœur de l’agent. Ils développent le code qui permet à Codex d’agir, d’exécuter des commandes et d’utiliser des outils. Ultrafast a changé leur façon de travailler lors d’incidents de sécurité. « Avant, je demandais à Codex d’examiner quelque chose, puis je l’examinais moi-même en parallèle, parce que je savais qu’il ne serait pas assez rapide pour que je puisse simplement attendre sa réponse », explique Adam. « Maintenant, avec Ultrafast, Codex est assez rapide pour que je reste concentré au lieu de disperser mon attention. »

Sayan apprécie qu’Ultrafast lui permette d’obtenir des réponses immédiates à partir de plusieurs sources de données : « En plus de fouiller les journaux lors d’un incident, j’utilise Codex pour chercher dans Slack des mentions de changements potentiellement suspects ou des discussions sur des symptômes semblables ailleurs dans Slack », explique-t-il.

S’il faut plus de 30 secondes pour trouver une réponse avec l’IA, Jeff Niu, un autre membre du personnel technique, dit qu’il va consulter Slack ou discuter avec un collègue. Mais avec Ultrafast, la plupart de ses tâches restent désormais sous ce seuil. Avant, il posait une question à Codex, passait à autre chose pendant que celui-ci réfléchissait, puis revenait en ayant perdu le fil de ses idées. Maintenant, la conversation se déroule en temps réel, ce qui l’aide à rester concentré sur la tâche en cours.

Ultrafast encourage aussi Jeff à entreprendre des refactorisations d’envergure, puisque retravailler le code existant prend moins de temps. « Il est maintenant beaucoup plus facile qu’avant de réduire la dette technique », explique-t-il. « Le code coûte peu cher, et maintenant, il se produit très rapidement. Une refactorisation qui coûtait cher auparavant se fait presque instantanément. »

Adam garde un fil de conversation actif avec Codex qu’il appelle son chef de cabinet. Chaque matin, Codex lui indique ses réunions prévues et les messages auxquels il a peut-être oublié de répondre. « Il a déjà consulté toutes les données pour rédiger ce résumé. Donc, quand je pose une question complémentaire, il n’a pas besoin d’aller en chercher d’autres », explique-t-il. « Je peux continuer à poser des questions dans la même conversation, comme avec un véritable chef de cabinet. »

Sayan utilise Codex pour effectuer des tâches manuelles fastidieuses dans le navigateur, comme remplir des formulaires — ce qu’il évitait auparavant parce que c’était trop lent. « Il ouvrait un navigateur, réfléchissait pendant cinq secondes, cliquait sur quelque chose, puis s’arrêtait encore », raconte-t-il. Grâce aux progrès des derniers modèles en matière d’utilisation de l’ordinateur, il est plus à l’aise de laisser Codex s’occuper de ces tâches. « Maintenant, je suis tout à fait à l’aise de le laisser naviguer en cliquant, et il est assez rapide pour que je ne perde pas de temps en lui confiant le travail. »

Qu’il s’agisse de répondre aux incidents, de planifier la journée ou de refactoriser du code, Ultrafast permet au personnel technique d’OpenAI de travailler avec Codex au rythme de ses questions. Les membres de l’équipe peuvent approfondir une réponse, essayer une autre approche et poursuivre leur travail sans perdre le fil de leurs idées. Cette attente réduite change aussi ce qu’ils sont prêts à entreprendre, d’une refactorisation reportée à une tâche courante qui vaut enfin la peine d’être déléguée.