איך Ultrafast קיצר את חקירת התקריות ב-OpenAI משעות לדקות

כתבה זו היא חלק מסדרה שבה אנחנו משתפים דוגמאות מתוך OpenAI לשימוש שלנו בטכנולוגיה ובממשקי ה-API שלנו. הכלים האלה משמשים אותנו בתוך OpenAI, והם מוצגים כאן כדוגמאות שממחישות כיצד frontier AI תומכת בשימושים שונים בקרב הצוותים שלנו.

Ultrafast הוא מצב עבודה מהיר ב-Codex, ועבור המהנדסים ב-OpenAI הוא הפך לברירת המחדל בטיפול בתקריות. כשמשהו משתבש, לרוב אין למהנדסים זמן לחכות דקות לתשובה בזמן שהבעיה מחמירה. בעזרת Ultrafast הם יכולים לבדוק כמה גורמים אפשריים במקביל ולקבל תשובות בלי לפצל את הקשב.

אהרון פריל, חבר בצוות הטכני של OpenAI, הוא בדרך כלל מי שמוביל את הטיפול בתקריות. הוא פותח ערוץ ב-Slack לטיפול בתקרית, ואז מפנה את Codex לבעיה ומבקש ממנו לנטר, לחקור ולענות על שאלות שעולות בזמן אמת. "בכל תקרית יש בדרך כלל הרבה נקודות לאורך הדרך שבהן משהו היה עלול להשתבש, ולמצוא את המחט הנכונה בערמת השחת הנכונה זו בעצם המשימה העיקרית של האנשים בערוץ הזה", הוא אומר. "בעזרת Ultrafast אני יכול למעשה לחפש בכל ערמות השחת האלה בו-זמנית, ולהגיב לתקריות הרבה יותר מהר."

איי ג׳יי טרבויביץ׳, חבר בצוות הטכני וארכיטקט אבטחת מרכזי נתונים, מספר שבעבר, כשחקרו בעיות אבטחה, נדרשו שעה או שעתיים כדי לאסוף נתונים מובנים ולא מובנים, להביא אותם לפורמט אחיד ולספק את ההקשר הדרוש לקבלת החלטה. "עכשיו זה קורה תוך 10 עד 15 דקות", הוא אומר. "ולפעמים כמעט בזמן אמת."

אדם פרי וסאיאן סיסודיה עובדים בצוות הליבה של הסוכן ומפתחים את הקוד שמאפשר ל-Codex לבצע פעולות, להריץ פקודות ולהשתמש בכלים. Ultrafast שינה את אופן העבודה שלהם במהלך אירועי אבטחה. "בעבר הייתי מבקש מ-Codex לבדוק משהו, ואז בודק אותו בעצמי במקביל, כי ידעתי שהוא לא יהיה מהיר מספיק בשביל פשוט לחכות לו", אומר אדם. "עכשיו, עם Ultrafast, Codex מהיר מספיק כדי שאוכל פשוט להישאר ממוקד במקום לפצל את הקשב."

סאיאן מעריך את האפשרות לקבל בעזרת Ultrafast תשובות מיידיות ממקורות נתונים שונים: "מעבר לחיפוש בלוגים בזמן תקרית, אני משתמש ב-Codex כדי לחפש ב-Slack אזכורים של שינויים חשודים, או אנשים שמדברים על תסמינים דומים במקומות אחרים ב-Slack", הוא אומר.

ג׳ף ניו, חבר נוסף בצוות הטכני, אומר שאם לוקח יותר מ-30 שניות למצוא תשובה בעזרת בינה מלאכותית, הוא כבר עובר לבדוק את Slack או לשוחח עם עמית. אבל עם Ultrafast, ברוב העבודה שלו הוא כבר מקבל תשובות בפחות זמן. בעבר הוא היה שואל את Codex שאלה, עובר למשהו אחר בזמן ש-Codex חשב, וחוזר אחרי שכבר איבד את חוט המחשבה. עכשיו השיחה מתנהלת בזמן אמת, וזה עוזר לו להישאר ממוקד במשימה שלפניו.

Ultrafast גם גורם לג׳ף להיות מוכן יותר לקחת על עצמו משימות ריפקטורינג גדולות, כי ארגון מחדש של קוד קיים דורש פחות זמן. "עכשיו הרבה יותר קל לצמצם חוב טכני מאי פעם", הוא אומר. "יצירת קוד היא זולה, ועכשיו היא גם מהירה מאוד. ריפקטורינג שפעם דרש השקעה גדולה קורה כמעט מייד."

אדם מנהל שיחה מתמשכת עם Codex, שאותה הוא מכנה ראש המטה שלו. בכל בוקר Codex מעדכן אותו אילו פגישות צפויות לו ולאילו הודעות ייתכן ששכח להשיב. "הוא כבר עבר על כל הנתונים כדי לכתוב את הסיכום, אז כשאני שואל שאלת המשך, הוא לא צריך לעצור כדי לאסוף עוד מידע", הוא אומר. "אני יכול פשוט להמשיך לשאול שאלות באותה שיחה, ממש כמו עם ראש מטה אמיתי."

סאיאן משתמש ב-Codex לביצוע עבודה ידנית מייגעת בדפדפן, כמו מילוי טפסים — שימוש שבעבר נמנע ממנו כי הוא היה איטי מדי. "הוא היה פותח דפדפן, חושב חמש שניות, לוחץ על משהו, ושוב מחכה", הוא אומר. בזכות השיפורים ביכולות השימוש במחשב של המודלים החדשים, הוא מרגיש בנוח יותר לתת ל-Codex לטפל בעבודה הזאת. "עכשיו אין לי שום בעיה לתת לו ללחוץ ולנווט בדפדפן, והוא מהיר מספיק כך שאני לא מפסיד זמן כשאני לא עושה את זה בעצמי."

בטיפול בתקריות, בתכנון היום ובריפקטורינג, Ultrafast מאפשר לצוות הטכני של OpenAI לעבוד עם Codex בקצב שבו השאלות עולות. הם יכולים לשאול שאלות המשך, לנסות גישה אחרת ולהמשיך לעבוד בלי לאבד את חוט המחשבה. ההמתנה הקצרה יותר משנה גם את סוג המשימות שהם מוכנים לקחת על עצמם — מריפקטורינג שדחו ועד למשימה שגרתית שסוף סוף משתלם להעביר ל-Codex.