JioStar-ի ճարտարապետը՝ ԱԲ-ով որոնման և 500 մլն օգտատիրոջ մասին
Զրույց JioStar-ի գլխավոր ճարտարապետ Վիջայ Սեշադրիի հետ։
«Ղեկավարի դերը» մեր շարքում իրենց տեսակետներն են ներկայացնում ԱԲ-ի միջոցով վերափոխումներ իրականացնող ղեկավարները։
JioStar-ը կառավարում է ժամանցային և սպորտային ուղիղ հեռարձակումների հարթակներ, որոնցից օգտվում է ավելի քան 500 միլիոն մարդ։ Դրանցով սպորտային ուղիղ հեռարձակումներին միաժամանակ հետևել է մինչև 72,5 միլիոն դիտող։ Նման մասշտաբով աշխատելիս ԱԲ-ն պետք է լինի արագ, հուսալի և պատրաստ շահագործման։
OpenAI-ի API-ի միջոցով JioStar-ը JioHotstar-ում ներդրել է զրույցի միջոցով տեսանյութեր և կրիկետի վիճակագրություն գտնելու օգնական։ Դիտողները կարող են բնական խոսքի միջոցով գտնել ֆիլմեր ու հաղորդումներ, անցյալի հիշարժան դրվագներ, ընթացիկ խաղերի պահեր կամ կրիկետի վիճակագրություն՝ արդյունքները ստանալով տեսողական տարրերով զրույցի միջերեսում։
Սինգապուրում OpenAI-ի ղեկավարների գագաթնաժողովի ժամանակ ASEAN-ի տարածաշրջանում OpenAI-ի՝ շուկա մտնելու համար պատասխանատու ղեկավար Սիդհարթ Շարման զրուցել է JioStar-ի գլխավոր ճարտարապետ Վիջայ Սեշադրիի հետ։ Նրանք քննարկել են մոտ ութ շաբաթում ավելի քան 15 լեզու աջակցող այս գործիքի ստեղծումը և այն դասերը, որոնք օգտակար են ԱԲ-ն ցուցադրական փուլից շահագործման տանող ղեկավարներին։
Վերջին 25 տարում դիտելու նյութ գտնելու եղանակները շատ քիչ են փոխվել։ Վերջին խոշոր փոփոխությունը առաջարկությունների համակարգերն էին։ Դրան հաջորդած փոփոխությունների մեծ մասը նույն գաղափարի տարբերակներ էին։
Բայց դիտելու նյութի ընտրությունը խիստ անհատական է։ Մարդը կարող է ասել. «Տխուր եմ։ Մի բան ցույց տուր, որ տրամադրությունս բարձրանա»։ Նույնիսկ այս պարզ խնդրանքը բազմաթիվ նրբություններ ունի։ Ի՞նչ տխրություն է դա։ Ի՞նչն է սովորաբար բարձրացնում այդ մարդու տրամադրությունը։ Նա կատակերգությո՞ւն է ուզում, հանգստացնող մի բա՞ն, թե՞ այնպիսի բան, որը լիովին կշեղի իր մտքերը։
Առաջարկությունների ավանդական համակարգը գուցե դժվարությամբ հասկանա այդ պահի կարիքը։ Զրույցը դիտողին հնարավորություն է տալիս բացատրելու այն։ Մենք սա անվանում ենք ձայնային-տեսողական միջերես։
Հայեցակարգի վրա սկսեցինք աշխատել հոկտեմբեր-նոյեմբերին, իսկ կրիկետի խոշոր մրցաշարը փետրվարին էր։ Ունեինք մոտ երկու ամիս և երկու շատ տարբեր լսարան՝ ժամանցային բովանդակության դիտողներ ու կրիկետի երկրպագուներ։
Ժամանց փնտրող դիտողը կարող է ասել. «Ուրբաթ երեկո է. զարմացրու ինձ», կամ նկարագրել ֆիլմը՝ չիմանալով դրա վերնագիրը։ Սպորտ դիտողները կարող են ավելի կոնկրետ տեղեկություն ուզել, օրինակ՝ վիկետների անկման, վեց միավորանոց հարվածների շարքի կամ այն խաղի մասին, որում խաղացողը որոշակի թվով վազքեր է գրանցել։ Կրիկետի գիտակները կարող են յուրաքանչյուր նետման վիճակագրությունը ցանկանալ։
Սրանք որոնման շատ տարբեր խնդիրներ են։ Մենք աշխատեցինք շատ կարճ ժամանակում ժամանցային բովանդակությունը, սպորտային դրվագներն ու կրիկետի մանրամասն վիճակագրությունը միավորել բազմալեզու մեկ գործիքում։
Հենց սկզբից խնդիրը ձևակերպեցինք որպես ճշգրտության, արձագանքման ժամանակի և արժեքի միջև հավասարակշռություն գտնելու հարց։ Յուրաքանչյուր ինժեներական որոշման դեպքում պետք էր միաժամանակ հավասարակշռել երեքն էլ։
Ձայնային մուտքագրումը դա հատկապես կարևոր էր դարձնում։ Մեր օգտատերերի ավելի քան 60%-ը տեքստի փոխարեն ձայն է օգտագործում. մարդիկ նախընտրում են ասել, թե ինչ են ուզում դիտել։ Ընդ որում, պատասխանը պետք է լինի տեղին ու արագ, իսկ մեծ մասշտաբով դրա տրամադրումը՝ տնտեսապես արդարացված։
Ես այն դիտարկում եմ երկու մասով՝ գնահատման մեխանիզմ և վավերացման շերտ։ Մինչ շահագործումը գնահատման մեխանիզմը պետք է ցույց տա, թե ինչ փոփոխություններ են անհրաժեշտ։ Շահագործման ընթացքում հետադարձ կապի միջոցով հաճախորդների վարքագիծն ու խափանումները պետք է վերածվեն գնահատման նոր սցենարների։
Այդ շրջափուլը կարող է ինքն իրեն ուժեղացնել, բայց այն ճիշտ կազմակերպելը չափազանց դժվար է։
Ոլորտային մասնագետների մասնակցությունն անհրաժեշտ է։ Սպորտային վիճակագրության գնահատումների համար աշխատել ենք, օրինակ, մարզական ամսագրերի խմբագիրների հետ, որոնք հասկանում էին, թե ինչ կարող են հարցնել նվիրված երկրպագուները։ Միայն հարցումով սկսել չի կարելի. համակարգի հիմքում պետք է դնել մարդկանց խոր մասնագիտական գիտելիքները։
Մեր ճիշտ որոշումներից մեկը թիմի ընտրությունն էր։ Սկսեցինք տվյալագիտության մասնագետների ու ինժեներների փոքր թիմով՝ ունենալով հստակ ձևակերպված խնդիր։ OpenAI-ի՝ հաճախորդների թիմերի հետ անմիջապես աշխատող ինժեներները մեզ օգնեցին ավելի հստակ առանձնացնել այն մի քանի հարցերը, որոնք պարտադիր պետք է ճիշտ լուծեինք։
Առաջինը համակարգի գործառույթների շրջանակն էր։ Ձայնային կամ տեքստային միջերեսով օգտատերերը կարող են գրեթե ամեն ինչ հարցնել, ուստի նախ որոշեցինք, թե ինչին համակարգը չպետք է պատասխանի։ Առաջնահերթությունը պաշտպանիչ սահմանափակումներն էին։
Գնահատումների համար սկսեցինք տվյալների նախնական հավաքածուից և մոդելների միջոցով ընդլայնեցինք այն՝ ավելացնելով ավելի բազմազան օրինակներ։ Ստեղծեցինք մի կառուցվածք, որն այժմ կարելի է անվանել «ստեղծող–ստուգող». մի մոդելն օգնում էր որոշել՝ ինչպես պատասխանել հարցին, իսկ մյուսը ստուգում էր պատասխանը՝ որպես դատավոր հանդես եկող LLM, որը հակադիր նպատակ ուներ։
Դա մեկ այլ հարց առաջացրեց. ո՞վ է ստուգում դատավորին։ Վավերացնող համակարգի նախագծումն ինքնին գնահատման խնդիր էր։ Codex-ն օգնեց թիմին արագացնել, օրինակ, գնահատման սցենարների ստեղծումն ու համակարգի թարմացումը, բայց ավելի արագ մշակումը չվերացրեց կշռադատված որոշումների և վավերացման անհրաժեշտությունը։
Ավելի վաղ միջոցներ կներդնեի շահագործման ընթացքում մոդելի արդյունավետության մշտադիտարկման մեջ։
Ենթակառուցվածքի ավանդական ցուցանիշները, օրինակ՝ P99 արձագանքման ժամանակը, շարունակում են կարևոր լինել, բայց դրանք բավարար չեն։ Պետք է նաև հետևել մոդելի արդյունավետությանը շահագործման ընթացքում։
Նախ՝ տեխնոլոգիայի հնարավորությունների և ձեռնարկության ներսում առկա իրականության միջև մեծ անջրպետ կա։ Եթե ձեր ընկերությունը չի հասցրել համընթաց քայլել առաջադեմ մոդելների յուրաքանչյուր նոր թողարկման հետ, դուք միակը չեք։
Երկրորդ՝ շարունակեք կենտրոնանալ արդյունքների, ոչ թե պարզապես գործողությունների վրա։ Հեշտ է տեսանելի ակտիվությունը շփոթել իրական առաջընթացի հետ, հատկապես երբ ընկերությունները շեշտը դնում են ներդրված ջանքերի ցուցանիշների վրա։ Օրինակ՝ գեներացված կոդի տողերի քանակը չի ասում՝ արդյոք իրական արժեք ստեղծել եք։
Վերջապես, ձեռնարկությունների մեծ մասը թերագնահատում է մարդկանց անհրաժեշտ հմտություններն ու ինքնուրույն գործելու կարողությունը։ Սա չի կարող սահմանափակվել հմտությունների զարգացման ընդհանուր ծրագրով։ Ղեկավարներին պետք են մարդիկ, որոնք կարող են այս գործիքները կիրառել կշռադատված կերպով։ Հմուտ ինժեներին տվեք Codex-ի նման գործիք, և արդյունքը կարող է բազմապատկվել։ Բայց եթե բացակայում է շահագործվող համակարգերը հիմնավոր դատողությամբ վավերացնելու կարողությունը, ռիսկը նույնպես բազմապատկվում է։
Ձեր ձեռքերում հրթիռ է։ Հատկապես շահագործվող համակարգերում անհրաժեշտ են վավերացում և պաշտպանիչ սահմանափակումներ, իսկ կառավարումը պետք է վստահել ճիշտ մարդկանց։
