איך לנהל השקעות בבינה מלאכותית בעידן האג'נטי

המטרה של OpenAI היא להפוך את הבינה המלאכותית לנגישה יותר, לבעלת יכולות טובות יותר ולמשתלמת יותר לאורך זמן. מ-GPT‑4 ועד GPT‑5.4, המחיר למיליון טוקנים ירד ב-97%. GPT‑5.6⁠ ממשיך את ההתקדמות הזו, עם ביצועים טובים יותר במדד סוכני התכנות של Artificial Analysis, תוך שימוש ב-54% פחות טוקני פלט וב-57% פחות זמן לכל משימה.

אבל המחיר לטוקן לבדו לא מעיד אם הבינה המלאכותית מייצרת ערך. על מנהלים לבחון תפוקה מועילה לכל דולר: משימות שהושלמו, זמן שנחסך, החלטות שהשתפרו ותהליכי עבודה שמוכנים להרחבה.

ככל שצוותים עוברים מצ'אט לתהליכי עבודה ממושכים יותר, מנהלי מערכת זקוקים לתמונה ברורה יותר של הביקוש, ההוצאות והסיכונים. 

הנה חמש דרכים להשקיע בביטחון.

מנהלים בארגונים זקוקים לתמונה ברורה של השימוש בבינה מלאכותית: מי משתמש בה, באילו מוצרים או מודלים משתמשים, כמה קיבולת צורכים ולאיזו עבודה השימוש הזה משמש. בלי תמונה כזו, קשה להבין מה עומד מאחורי חשבון שהולך וגדל. הוא עשוי לשקף בזבוז, התנסות מועילה או תהליך עבודה שמתחיל להפוך לחיוני לעסק.

ChatGPT Work⁠ תומך במשימות ארוכות ומרובות שלבים, ולכן היקף השימוש עשוי להשתנות מאוד בין תהליכי עבודה. מנהלי מערכת צריכים לראות את העבודה שמאחורי השימוש הזה, ולא רק את הקרדיטים שנצרכו. תצוגה מאוחדת של הביקוש ב-ChatGPT מאפשרת זאת. כלי ניתוח השימוש ובקרת ההוצאות⁠ המעודכנים במסוף הניהול⁠(נפתח בחלון חדש) עוזרים למנהלי מערכת לראות את היקף האימוץ, צריכת הקרדיטים וההוצאות לפי משתמש, מוצר ומודל; לעקוב אחר מגמות לאורך זמן; לזהות דפוסים חדשים; ולהבין מתי השימוש משקף אימוץ נרחב, תהליך עבודה של משתמש מתקדם או תהליך עסקי חוזר שכדאי אולי להשקיע בו יותר.

תובנות ברמות שונות מסייעות בקבלת החלטות על השקעות ועל תמיכה באימוץ:

• workspace: האם היקף האימוץ וההוצאות משתנים יחד?

• צוות ומשתמש: היכן הביקוש גדל, ומי עשוי להזדקק לתמיכה נוספת?

• מוצר ומודל: היכן משתמשים בבינה יקרה יותר, והאם הביקוש הזה מתמשך?

יחד, התצוגות האלה עוזרות למנהלי מערכת להחליט היכן להשקיע, להדריך או לקבוע מגבלות.

המחיר הנמוך ביותר לטוקן לא תמיד מוביל לעלות הכוללת הנמוכה ביותר. מודל זול יותר עלול להיכשל, לנסות שוב או להפיק עבודה שדורשת תיקון. מודל בעל יכולות טובות יותר עשוי לעלות יותר לכל טוקן, אך להגיע לתוצאה מספקת מהר יותר, בפחות ניסיונות ועם פחות צורך בבדיקה.

העריכו מודלים לפי העבודה שעליהם לבצע. השתמשו במבחני הערכה שמשקפים משימות אמיתיות⁠, כולל מקרי קצה, והגדירו מה נחשב לתוצאה ״טובה מספיק״ לפני הבדיקה. לאחר מכן מדדו את העלות המלאה של עמידה ברף הזה: שימוש במודל ובכלים, ניסיונות, שיעור השלמת משימות, זמן תגובה ובדיקה אנושית.

בתהליכי עבודה בעדיפות גבוהה, עקבו אחר העלות לכל תוצאה מאושרת. בתמיכת לקוחות, זו יכולה להיות פנייה שנפתרה. בפיתוח תוכנה, זה יכול להיות שינוי שנבדק ועבר סקירת קוד. בחנו את העלות הזו מול הערך העסקי: חיסכון בזמן, קיצור משך התהליך, שמירה על הכנסות, מניעת סיכון או הגדלת כושר הביצוע.

בחירת המודל היא רק חלק מהמשוואה. הוראות ברורות, כלים ממוקדים, הקשר שניתן לשימוש חוזר ותנאי עצירה מפורשים יכולים לצמצם לולאות והוצאות מיותרות. המטרה היא להתאים את המודל ואת תהליך העבודה למשימה: להשתמש במודלים קטנים או מהירים יותר כשהם עומדים ברף האיכות, ולשמור את בינת החזית לעבודה מורכבת, למצבי אי-ודאות או למשימות בעלות השלכות משמעותיות.

על מנהלים בארגונים להתייחס לממשל כשכבה התפעולית שקובעת אילו סוגי עבודה עם בינה מלאכותית אפשר להרחיב. בפועל, יש להגדיר באיזה הקשר ChatGPT יכול להשתמש, לאילו כלים הוא יכול לגשת, אילו פעולות הוא יכול לבצע, מי מאשר צעדים בסיכון גבוה יותר ואיך מקצים קיבולת נוספת כשצוותים מוצאים תהליכי עבודה בעלי ערך.

הדבר חשוב יותר ככל שצוותים מאמצים תוספים, מחברים, שימוש במחשב ויכולות חזית נוספות שיכולות לפעול במגוון מערכות ארגוניות. ChatGPT Work⁠ מעניק למנהלי מערכת כלי בקרה מרכזיים לניהול גישה, הקשר מאושר, כלים מחוברים, פעולות מותרות, שימוש והוצאות. כלי בקרת הוצאות, כמו ברירות מחדל ל-workspace, מגבלות קבוצתיות, חריגות אישיות ובקשות לבדיקה הכוללות את הקשר הפרויקט, עוזרים למנהלים לתמוך בעבודה בעלת ערך גבוה בלי להעלות מגבלות באופן גורף.

בהטמעות בעדיפות גבוהה, מהנדסי ההטמעה⁠(נפתח בחלון חדש) של OpenAI בתחום הבינה המלאכותית יכולים לעבוד ישירות עם לקוחות על מבחני הערכה, ארכיטקטורה, זמני תגובה, אמינות ותכנון תהליכי עבודה, כדי לשפר את הביצועים ואת יעילות העלויות. פרטיות וממשל צריכים להיות חלק מהעבודה כבר מההתחלה: לפני שמרחיבים תהליכי עבודה רגישים, יש להגדיר בקרות גישה מתאימות, מדיניות שמירת נתונים, תמונת מצב של העמידה בדרישות ומסלולי אישור. במקרים המתאימים, בקרות הפרטיות הארגוניות של OpenAI, כולל אפשרויות אפס שמירת נתונים (ZDR)⁠(נפתח בחלון חדש), יכולות לעזור ללקוחות להטמיע בינה מלאכותית בסביבות הדורשות רמת אמון גבוהה.

על מנהלים בארגונים לנהל השקעות בבינה מלאכותית כתיק השקעות: גישה רחבה לשיפור הפרודוקטיביות היומיומית, תהליכי עבודה ייעודיים לתחומים שונים שמשפרים עבודה חוזרת, ומספר מצומצם יותר של השקעות אסטרטגיות המבוססות על ההקשר הייחודי של החברה. המועמדים המתאימים ביותר הם תהליכי עבודה שחוזרים בהיקף משמעותי, שיש להם גורם אחראי ברור ושניתן למדוד בהם איכות, סיכון וערך עסקי.

המימון צריך להתאים לרמת הבשלות. בשלב ההתנסות יש לבדוק אם המודל מסוגל לבצע את המשימה; בשלב התיקוף יש לבדוק מקרים מייצגים מול רף איכות ברור; והמימון לסביבת הייצור צריך לתמוך באינטגרציות, בבקרות, באמינות ובניהול השינוי הנדרשים להרחבת הפעילות. יש לממן באופן מרכזי יכולות משותפות, כגון ניהול זהויות, מחברים מהימנים, ידע מסונן ומאורגן, הערכות, ניטור, ניתוב מודלים ודפוסי פעולה של סוכנים לשימוש חוזר, כדי להקל על השקת כל תהליך עבודה חדש ולהפוך אותה לבטוחה יותר.

לאחר שתהליך עבודה מוכיח את ערכו, על המנהלים להתאים את המוצר, הקיבולת ומתכונת התמיכה לביקוש שלו. ChatGPT Work⁠ מספק יכולות מוכנות לשימוש לצ'אט, לתכנות, לתהליכי עבודה אג'נטיים, למחברים, לתוספים, לשימוש במחשב ולניהול. חברות יכולות להרחיב את הבסיס הזה עם נתונים ייחודיים, הרשאות, הערכות ולוגיקה של תהליכי עבודה, כשהרכיבים האלה יוצרים ערך מבדל.

בעומסי עבודה בסביבת ייצור, יש להתאים את מתכונת ההתקשרות לדפוסי השימוש: קיבולת מובטחת⁠ למערכות ייצור ולסוכנים שזקוקים לוודאות בגישה, רמת קנה מידה⁠ לעומסי API צפויים בהיקף גבוה, וAPI לעיבוד באצווה⁠(נפתח בחלון חדש), עיבוד גמיש⁠(נפתח בחלון חדש) או מטמון פרומפטים⁠ לעבודה אסינכרונית או להקשר חוזר.

בהטמעות אסטרטגיות גדולות יותר, OpenAI Frontier⁠ ו-Deployment Company⁠(נפתח בחלון חדש) יכולות לעזור לארגונים לבנות, להטמיע ולנהל עמיתי עבודה מבוססי בינה מלאכותית במגוון מערכות ארגוניות. הגישה הזו מאפשרת למנהלים להרחיב עבודה שהוכיחה את עצמה בעזרת המוצר, הקיבולת ומתכונת התמיכה המתאימים, במקום לבנות מחדש תשתית נפרדת לכל תהליך עבודה.