Wie Ultrafast die Untersuchung von Vorfällen bei OpenAI von Stunden auf Minuten verkürzte

Dieser Beitrag gehört zu unserer Reihe mit internen Beispielen dafür, wie OpenAI die eigene Technologie und die eigenen APIs nutzt. Die hier vorgestellten Tools werden intern bei OpenAI eingesetzt. Sie veranschaulichen, wie Frontier-KI verschiedene Anwendungsfälle in unseren Teams unterstützt.

Ultrafast ist ein besonders schneller Modus in Codex. Für die technischen Teams bei OpenAI ist er zum Standard bei der Reaktion auf Vorfälle geworden. Wenn etwas ausfällt, haben die technischen Teams oft keine Zeit, minutenlang auf eine Antwort zu warten, während sich das Problem verschärft. Mit Ultrafast können sie mehrere mögliche Ursachen gleichzeitig untersuchen und Antworten erhalten, ohne ihre Aufmerksamkeit aufteilen zu müssen.

Aaron Friel, Member of the Technical Staff bei OpenAI, übernimmt bei einem Vorfall meist die Koordination. Er richtet einen Slack-Kanal zur Bearbeitung des Vorfalls ein und setzt dann Codex auf das Problem an. Codex soll den Verlauf beobachten, Nachforschungen anstellen und eingehende Fragen beantworten. „Bei jedem Vorfall gibt es meist viele Stellen im Ablauf, an denen etwas schiefgegangen sein könnte. Die richtige Nadel im richtigen Heuhaufen zu finden, ist die eigentliche Hauptaufgabe der Menschen in diesem Kanal“, sagt er. „Mit Ultrafast kann ich praktisch all diese Heuhaufen gleichzeitig durchsuchen und viel schneller auf Vorfälle reagieren.“

AJ Trbojevic, Member of the Technical Staff und Datacenter Security Architect, erklärt: Bei der Untersuchung von Sicherheitsproblemen dauerte es früher ein bis zwei Stunden, strukturierte und unstrukturierte Daten zusammenzuführen, zu vereinheitlichen und den nötigen Kontext für eine Entscheidung bereitzustellen. „Jetzt dauert das 10 bis 15 Minuten“, sagt er. „Und manchmal geht es nahezu in Echtzeit.“

Adam Perry und Sayan Sisodiya arbeiten beide im Kernagententeam. Sie entwickeln den Code, mit dem Codex Aktionen ausführt, Befehle ausführt und Tools nutzt. Ultrafast hat ihre Arbeitsweise bei Sicherheitsvorfällen verändert. „Früher bat ich Codex, etwas zu untersuchen, und ging der Sache gleichzeitig selbst nach. Ich wusste, dass es nicht schnell genug sein würde, um einfach auf eine Antwort zu warten“, sagt Adam. „Mit Ultrafast ist Codex jetzt so schnell, dass ich einfach bei der Sache bleiben kann, statt meine Aufmerksamkeit zwischenzeitlich etwas anderem zu widmen.“

Sayan schätzt, dass er mit Ultrafast sofort Antworten aus mehreren Datenquellen erhält: „Bei einem Vorfall durchsuche ich nicht nur Protokolle. Ich nutze Codex auch, um Slack nach Hinweisen auf möglicherweise verdächtige Änderungen zu durchsuchen oder nachzusehen, ob anderswo in Slack über ähnliche Symptome gesprochen wird“, sagt er.

Wenn es länger als 30 Sekunden dauert, mit KI eine Antwort zu finden, schaut Jeff Niu in Slack nach oder spricht mit jemandem aus dem Team. Auch er ist Member of the Technical Staff. Mit Ultrafast liegt die Wartezeit bei den meisten seiner Aufgaben inzwischen unter dieser Schwelle. Früher stellte er Codex eine Frage und wandte sich etwas anderem zu, während Codex nachdachte. Wenn er zurückkam, hatte er den Faden verloren. Jetzt läuft dieser Austausch in Echtzeit. Das hilft ihm, sich weiter auf die aktuelle Aufgabe zu konzentrieren.

Mit Ultrafast ist Jeff auch eher bereit, größere Refactorings anzugehen, weil die Überarbeitung bestehenden Codes weniger Zeit kostet. „Technische Schulden lassen sich heute viel leichter abbauen als je zuvor“, sagt er. „Code ist günstig und lässt sich jetzt sehr schnell erstellen. Ein Refactoring, das früher viel Aufwand erforderte, ist heute fast sofort erledigt.“

Adam führt einen fortlaufenden Codex-Chat, den er seinen Stabschef nennt. Jeden Morgen erfährt er darin, welche Besprechungen anstehen und auf welche Nachrichten er möglicherweise noch nicht geantwortet hat. „Codex hat für diese Zusammenfassung bereits alle Daten gesichtet. Wenn ich nachfrage, muss es also nicht erst weitere Daten abrufen“, sagt er. „Ich kann im selben Gespräch einfach weiterfragen, genau wie bei einem echten Stabschef.“

Sayan nutzt Codex für mühsame manuelle Aufgaben im Browser, etwa das Ausfüllen von Formularen. Früher hatte er darauf verzichtet, weil es zu langsam war. „Es öffnete einen Browser, dachte fünf Sekunden nach, klickte etwas an und hielt wieder inne“, sagt er. Da die neuesten Modelle Computer besser bedienen können, überlässt er diese Arbeit inzwischen mit mehr Vertrauen Codex. „Jetzt lasse ich Codex ohne Bedenken durch den Browser klicken. Es ist schnell genug, dass ich keine Zeit verliere, wenn ich es nicht selbst mache.“

Ob bei der Reaktion auf Vorfälle, der Tagesplanung oder beim Refactoring: Mit Ultrafast können die technischen Teams von OpenAI mit Codex so schnell arbeiten, wie ihre Fragen entstehen. Sie können bei einer Antwort nachhaken, einen anderen Ansatz ausprobieren und weiterarbeiten, ohne den Faden zu verlieren. Die kürzere Wartezeit verändert auch, welche Aufgaben sie angehen: vom aufgeschobenen Refactoring bis zur Routineaufgabe, bei der sich das Delegieren endlich lohnt.