Ръководство за разработчици за GPT‑5.6

Семейството модели GPT‑5.6 прави производителността на агентите от авангардно ниво драстично по-достъпна, като същевременно разширява границите на възможното.

В това ръководство показваме как стартъпите използват по-интелигентен избор на модели и нови контроли на API, които подпомагат непрекъснатостта на структурираното анализиране, оркестрирането на множество агенти и програмното извикване на инструменти, за да създават по-бързи и по-способни агенти на много по-ниска цена.

От GPT‑5 насам всяко ново поколение модели се стреми да се справя с по-дългосрочни задачи с по-малко токени. GPT‑5.6 продължава тази тенденция: по-висока производителност на агентите и по-ниски разходи при минимални промени в базовата рамка.

Подобренията в общата ценова ефективност се допълват от по-висока точност при по-малко усилия за структурирано анализиране. Например в „Agents’ Last Exam“ GPT‑5.6 Sol със структурирано анализиране на „ниско“ ниво надмина GPT‑5.5 на „високо“ ниво при една и съща рамка. Наблюдаваме подобни успехи и при тестове в реална среда, където стартъпи отчитат значително намаляване на разходите в различни работни процеси чрез понижаване на усилията за структурирано анализиране спрямо предишните настройки по подразбиране.

В исторически план преминаването към флагмански модел с най-високото налично ниво на структурирано анализиране е било най-добрият вариант за дългосрочни приложения. До голяма степен причината е, че тези модели се справят значително по-добре от оптимизираните за цена модели с по-дълъг контекст и извикване на инструменти. Това се промени със семейството 5.6: с повече изчислителни ресурси по време на тестове Luna и Terra често постигат резултати, сходни с тези на GPT‑5.4 и 5.5, но на значително по-ниска цена.

Да разгледаме задачите в BrowseComp – тест, базиран на търсене, който оценява способността на модела да открива малко известни факти. Преди три месеца GPT‑5.5 (Много високо) постигна 84,36% в този тест при обща цена 33,27 щ.д. При пускането си GPT‑5.6 Luna (Много високо) осигурява почти същата производителност – 84,04% при цена 1,33 щ.д. Оттогава намалихме цените още повече. Научете повече за последните ни намаления на цените.

По-малките модели от семейството 5.6 са много подходящи за натоварвания с голям обем, чувствителни към латентността взаимодействия и повтарящи се стъпки в рамките на агентни работни процеси. Например, ако управлявате стартъп в областта на технологиите за правни услуги, който обработва ръкописни бележки преди агентен анализ, вече можете да използвате Terra или Luna вместо авангарден модел за целия процес по извличането на информация и да постигнете значителни икономии на разходи.

Освен че подобрихме производителността на GPT‑5.6 още от самото начало, внедрихме и нови базови компоненти в Responses API, които позволяват допълнителни подобрения. Обучихме GPT‑5.6 от край до край с три допълващи се архитектурни подхода, които позволяват на агентите да работят по-ефективно:

1. Повторно използване на вече свършената работа: чрез запазване на структурираното анализиране⁠(отваря се в нов прозорец) между ходовете на модела и използване на вградено компресиране⁠(отваря се в нов прозорец) за съкращаване на дълги разговори моделът запазва последователността на работата си при по-продължителни задачи, без да се обърква или да се налага да възстановява предишния контекст.

2. Паралелно разделяне, когато е подходящо: чрез вградено оркестриране на множество агенти⁠(отваря се в нов прозорец) можем да координираме множество агенти в паралелни работни потоци, за да завършваме сложни задачи по-бързо.

3. Прехвърляне на детерминистичната работа към кода: чрез програмно извикване на инструменти⁠(отваря се в нов прозорец) за филтриране, агрегиране и оркестриране на резултатите от инструментите извън контекстния прозорец на модела, като запазваме токените на модела за преценка и намаляваме разходите, латентността и влошаването на контекста.

Използвани заедно, те могат да доведат до драстична разлика. Например в ARC-AGI-3 GPT‑5.6 Sol постигна 13,3% със стандартната базова рамка. След активирането на запазено структурирано анализиране и компресиране обаче резултатът скочи до 38,3% – при използване на приблизително 6 пъти по-малко изходни токени. Без промени в модела, но с почти три пъти по-висока производителност. Можете да научите повече от нашето проучване на базовата рамка за ARC-AGI-3.

Агентните работни процеси често включват два вида работа:

1. Задачи, които изискват преценка

2. Работа, която включва основно преместване, филтриране и комбиниране на данни

Когато агент извлича 100 регулаторни документа, филтрира ги по дата и определи съответните трансакции, моделът не би трябвало да анализира всеки междинен резултат в контекстния си прозорец. Програмното извикване на инструменти позволява на GPT‑5.6 да пише JavaScript за оркестриране на инструменти, паралелно изпълнение на независими извиквания и обработване на резултатите им извън контекстния прозорец. Така моделът се съсредоточава върху онова, което изисква интелигентност: прилагането на преценка.

При сложни задачи, подходящи за паралелна работа, разпределянето на действията и структурираното анализиране между няколко работни потока с агенти позволява по-бързо изпълнение и по-висока интелигентност. При такива конфигурации основният агент отговаря за оркестрирането на подагентите и делегирането на задачи към тях. Подагентите работят паралелно по целите си и накрая връщат резултатите на основния агент за окончателно обобщаване. Екипите могат да започнат да използват вградената работа с множество агенти, като активират режима за многоагентна работа⁠(отваря се в нов прозорец) в Responses API. По същия начин работи и настройката за възможности Ultra в ChatGPT.

Въпреки че GPT‑5.6 има добра преценка за подходящия брой подагенти и кога да ги стартира, поведението при многоагентна работа може лесно да се управлява. Като инструктирате модела кога да извиква подагенти, можете да увеличите вероятността той да стартира агенти само в ситуации, в които допълнителният разход на токени би довел до по-добра производителност.

За цялото семейство модели минималният TTL на кеша за подкани е удължен до минимум 30 минути, а точките за прекъсване на кеширането вече могат да се задават детерминистично в рамките на контекстния прозорец на модела. Това позволи на стартъпите значително да повишат процента на попадения в кеша.

Освен задаването на точки за прекъсване на кеширането, продължаването на използването на подходящ prompt_cache_key⁠(отваря се в нов прозорец) увеличава вероятността заявките да попаднат на същата инференционна машина, която преди е обработила същия префикс, като по този начин се намалява латентността.

Това, което се откроява във всички тези примери, е колко много се е променил икономическият модел при изграждането на агенти.

Приложения, които преди изискваха авангарден модел на всяка стъпка, вече могат да постигат сравними или по-добри резултати на много по-ниска цена чрез по-малки модели, настройване на усилието за структурирано анализиране и ефективни архитектурни решения.

Нямаме търпение да видим какво ще създадете!