GPT‑5.6 के लिए बिल्डर गाइड

GPT‑5.6 मॉडल परिवार अत्याधुनिक लेवल के एजेंट परफ़ॉर्मेंस को बेहद किफ़ायती बनाता है और साथ ही संभावनाओं की अत्याधुनिक सीमा को आगे बढ़ाता है.

इस गाइड में, हम दिखाते हैं कि स्टार्टअप कैसे स्मार्ट मॉडल सिलेक्शन और नए API कंट्रोल का इस्तेमाल कर रहे हैं जो रीज़निंग की निरंतरता, मल्टी-एजेंट ऑर्केस्ट्रेशन और प्रोग्रामेटिक टूल कॉलिंग में मदद करते हैं, ताकि बहुत कम ख़र्च में तेज़, ज़्यादा काबिल एजेंट्स बनाए जा सकें.

GPT‑5 के बाद से, हर मॉडल जेनरेशन ने कम टोकन के साथ लंबे समय तक चलने वाले टास्क को पूरा करने की कोशिश की है. GPT‑5.6 भी इसी रास्ते पर आगे बढ़ रहा है: इसमें एजेंट की परफ़ॉर्मेंस बेहतर है, लागत कम है, और इसके मूल हार्नेस में बहुत कम बदलाव किए गए हैं.

कम रीज़निंग की कोशिश पर बढ़ी सटीकता से समग्र लागत-दक्षता में हुआ सुधार और भी बढ़ जाता है. उदाहरण के लिए, एजेंट्स लास्ट एग्ज़ाम में, जब टेस्टिंग का हार्नेस एक जैसा रखा गया, तो 'कम' रीज़निंग वाले GPT‑5.6 Sol ने 'हाई' रीज़निंग वाले GPT‑5.5 से बेहतर परफ़ॉर्म किया. हमने प्रोडक्शन टेस्टिंग में भी ऐसी ही सफ़लता की कहानियाँ देखी हैं, जहाँ स्टार्टअप्स ने बताया है कि पहले के डिफ़ॉल्ट तरीकों की तुलना में रीज़निंग की कोशिश को कम करके उन्होंने कई तरह के वर्कफ़्लो में लागत में काफ़ी सुधार देखा है.

अब तक, लंबे समय तक इस्तेमाल के लिए, हमेशा से ही हाई रीज़निंग वाले फ़्लैगशिप मॉडल पर अपग्रेड करना सबसे अच्छा विकल्प रहा है. ऐसा मुख्य तौर से इसलिए है क्योंकि ये मॉडल, लागत-किफ़ायती मॉडलों की तुलना में लंबे संदर्भों और टूल कॉलिंग को संभालने में कहीं ज़्यादा सक्षम होते हैं. 5.6-फ़ैमिली के साथ यह स्थिति बदल गई है: ज़्यादा टेस्ट-टाइम कंप्यूट की वजह से, Luna और Terra अक्सर GPT‑5.4 और 5.5 जैसा ही परफ़ॉर्म कर सकते हैं, जबकि वे काफ़ी सस्ते भी हैं.

BrowseComp में दिए गए टास्क पर गौर करें: यह एक सर्च-बेस्ड बेंचमार्क है जो मॉडल की मुश्किल से मिलने वाली जानकारी खोजने की क्षमता को परखता है. तीन महीने पहले, GPT‑5.5 (एक्स्ट्रा हाई) ने इस बेंचमार्क पर $33.27 की कुल लागत में 84.36% स्कोर किया था. लॉन्च के समय, GPT‑5.6 Luna (एक्स्ट्रा हाई) लगभग वैसी ही परफ़ॉर्मेंस देता है, और $1.33 की लागत में 84.04% स्कोर करता है. हमने तब से कीमतें और कम कर दी हैं. हमारी कीमतों में हालिया कटौती के बारे में और पढ़ें.

छोटे 5.6-फ़ैमिली मॉडल हाई वॉल्यूम वाले वर्कलोड, लेटेंसी-सेंसिटिव इंटरैक्शन और एजेंटिक वर्कफ़्लो में बार-बार होने वाले स्टेप के लिए बहुत अच्छे हैं. उदाहरण के लिए, अगर आप कोई लीगल-टेक स्टार्टअप चला रहे हैं जो एजेंटिक एनालिसिस से पहले हाथ से लिखे मेमो को प्रोसेस करता है, तो पूरे काम के लिए कोई अत्याधुनिक मॉडल इस्तेमाल करने के बजाय, अब आप जानकारी निकालने के लिए Terra या Luna का इस्तेमाल कर सकते हैं और काफ़ी पैसे बचा सकते हैं.

GPT‑5.6 को सीधे इस्तेमाल के लिए ज़्यादा बेहतर बनाने के साथ-साथ, हमने Responses API में नए प्रिमिटिव भी जोड़े हैं ताकि और फ़ायदे मिल सकें. हमने GPT‑5.6 को तीन ऐसे पूरक आर्किटेक्चरल बदलाव के साथ एंड-टू-एंड ट्रेन किया है जो एजेंट को ज़्यादा कुशलता से काम करने में मदद करते हैं:

1. पहले किए गए काम का दोबारा इस्तेमाल: रीज़निंग को मॉडल टर्न के दौरान बनाए रखने⁠(एक नई विंडो में खुलेगा) और लंबे समय तक चलने वाली बातचीत को छोटा करने के लिए नेटिव कम्पैक्शन⁠(एक नई विंडो में खुलेगा) का इस्तेमाल करके, मॉडल उलझे बिना या पहले के संदर्भ को दोबारा बनाए बिना, लंबे समय तक चलने वाले टास्क में अपने काम में तालमेल बनाए रख सकता है.

2. जहाँ ज़रूरी हो, वहाँ पैरेलल डीकंपोज़िशन: नेटिव मल्टी-एजेंट ऑर्केस्ट्रेशन⁠(एक नई विंडो में खुलेगा) का इस्तेमाल करके, कई एजेंट्स को पैरेलल वर्कस्ट्रीम में कोऑर्डिनेट किया जा सकता है, ताकि मुश्किल टास्क को तेज़ी से पूरा किया जा सके.

3. निश्चित काम को कोड में ले जाएँ: मॉडल के कॉन्टेक्स्ट विंडो के बाहर टूल आउटपुट को फ़िल्टर, इकट्ठा और व्यवस्थित करने के लिए प्रोग्रामेटिक टूल कॉलिंग⁠(एक नई विंडो में खुलेगा) का इस्तेमाल करें. इससे मॉडल टोकन फ़ैसले लेने के लिए बचेंगे और लागत, लेटेंसी और कॉन्टेक्स्ट रॉट कम होगा.

जब इन्हें एक साथ इस्तेमाल किया गया, तो नतीजे में ज़बरदस्त फ़र्क दिखा. उदाहरण के लिए, ARC-AGI-3 पर, स्टैंडर्ड हार्नेस के साथ GPT‑5.6 Sol ने 13.3% स्कोर किया. लेकिन, रिटेन्ड रीज़निंग और कम्पैक्शन को एनेबल करने के बाद, स्कोर बढ़कर 38.3% हो गया—और इसमें लगभग 6 गुना कम आउटपुट टोकन का इस्तेमाल हुआ. मॉडल में कोई बदलाव नहीं किया गया, फिर भी परफ़ॉर्मेंस लगभग तीन गुना बढ़ गई. आप हमारे ARC-AGI-3 हार्नेस जाँच के बारे में यहाँ और पढ़ सकते हैं.

एजेंटिक वर्कफ़्लो में अक्सर दो तरह के काम शामिल होते हैं:

1. ऐसे टास्क जिनमें निर्णय लेने की ज़रूरत होती है

2. ऐसा वर्क जिसमें ज़्यादातर डेटा को मूव करने, फ़िल्टर करने और मिलाने की ज़रूरत होती है

जब कोई एजेंट 100 फ़ाइलिंग निकालते हैं, उन्हें तारीख़ के हिसाब से फ़िल्टर करते हैं और काम के ट्रांज़ैक्शन की पहचान करते हैं, तो मॉडल को अपने कॉन्टेक्स्ट विंडो में हर बीच के नतीजे पर सोचने की ज़रूरत नहीं पड़नी चाहिए. प्रोग्रामैटिक टूल कॉलिंग की मदद से GPT‑5.6 JavaScript लिखकर टूल्स को मैनेज कर सकता है, एक साथ कई इंडिपेंडेंट कॉल्स चला सकता है और उनके आउटपुट को कॉन्टेक्स्ट विंडो के बाहर प्रोसेस कर सकता है. मॉडल का ध्यान सिर्फ़ उस चीज़ पर रहता है जिसके लिए इंटेलिजेंस की ज़रूरत होती है: सही फ़ैसला लेना.

पेचीदा और एक साथ किए जा सकने वाले टास्क में, कई एजेंट वर्कस्ट्रीम के बीच एक्शंस और रीज़निंग को बांटने से टास्क तेज़ी से पूरा होता है और हाई इंटेलिजेंस मिलती है. ऐसे सेटअप में, मुख्य एजेंट सब-एजेंट्स को मैनेज करने और उन्हें टास्क सौंपने के लिए ज़िम्मेदार होता है. सब-एजेंट्स अपने लक्ष्यों पर एक साथ काम करते हैं और आख़िर में अपने आउटपुट को मुख्य एजेंट को भेजते हैं ताकि उन्हें एक साथ मिलाकर अंतिम रूप दिया जा सके. टीमें Responses API में मल्टी-एजेंट एनेबल करके⁠(एक नई विंडो में खुलेगा) सीधे मल्टी-एजेंट का फ़ायदा उठाना शुरू कर सकती हैं. ChatGPT में अल्ट्रा क्षमता सेटिंग भी इसी तरह काम करती है.

हालांकि GPT‑5.6 को इस बात की अच्छी समझ है कि कितने सब-एजेंट होने चाहिए और उन्हें कब बनाना है, फिर भी मल्टी-एजेंट व्यवहार को आसानी से कंट्रोल किया जा सकता है. मॉडल को यह निर्देश देकर कि सब-एजेंट को कब इस्तेमाल करना है, इस बात की संभावना बढ़ाई जा सकती है कि एजेंट तभी बनाए जाएँ जब अतिरिक्त टोकन ख़र्च करने से बेहतर परफ़ॉर्मेंस मिले.

मॉडल की पूरी रेंज के लिए, प्रॉम्प्ट कैश TTL को कम से कम 30 मिनट तक बढ़ा दिया गया है और अब मॉडल की कॉन्टेक्स्ट विंडो के अंदर कैश ब्रेकपॉइंट्स को निश्चित तौर से सेट किया जा सकता है. इससे स्टार्टअप्स को अपने कैश हिट रेट को काफ़ी बेहतर बनाने में मदद मिली है.

कैश ब्रेकपॉइंट सेट करने के अलावा, सही prompt_cache_key⁠(एक नई विंडो में खुलेगा) का इस्तेमाल जारी रखने से अनुरोध के उसी इन्फ़रेंस इंजन तक पहुँचने की संभावना बढ़ जाती है जिसने पहले उसी प्रीफ़िक्स को सर्व किया था, जिससे लेटेंसी कम हो जाती है.

इन उदाहरणों में जो बात सबसे ख़ास है, वह यह है कि एजेंट बनाने का अर्थशास्त्र कितना बदल गया है.

जिन काम के लिए पहले हर स्टेप पर अत्याधुनिक मॉडल की ज़रूरत होती थी, उन्हें अब छोटे मॉडल का इस्तेमाल करके, रीज़निंग को बेहतर बनाकर और कुशल आर्किटेक्चर चुनकर, बहुत कम लागत में वैसे ही या उससे भी बेहतर नतीजे पाए जा सकते हैं.

हम यह देखने के लिए उत्साहित हैं कि आप सब क्या बनाते हैं!