JioStar бас архитекторы: 500 млн адамға ЖИ арқылы іздеу

«Басқару функциясы» сериясында ЖИ арқылы өзгерістерге жол ашып жүрген басшылар өз көзқарастарымен бөліседі.

JioStar 500 миллионнан астам тұтынушы пайдаланатын ойын-сауық және тікелей спорт көрсетілімдері платформаларын басқарады. Оның спорт көрсетілімдерін бір мезетте 72,5 миллионға дейін көрермен тамашалаған. Мұндай ауқымда ЖИ жылдам, сенімді әрі нақты қолданысқа дайын болуы керек.

OpenAI API көмегімен JioStar компаниясы JioHotstar платформасына әңгімелесу арқылы бейне мен крикет статистикасын табатын көмекші қосты. Көрермендер күнделікті тілмен сөйлеп, фильмдер мен бағдарламаларды, бұрынғы жарқын сәттерді, тікелей матч үзінділерін немесе крикет статистикасын таба алады. Нәтижелер әңгімелесу барысында көрнекі түрде ұсынылады.

OpenAI компаниясының Сингапурдағы басшылар саммитінде OpenAI-дың АСЕАН елдеріндегі нарыққа шығу стратегиясы жөніндегі басшысы Сидхарт Шарма JioStar бас архитекторы Виджай Сешадримен әңгімелесті. Олар шамамен сегіз аптада 15-тен астам тілге арналған сервисті жасау және ЖИ-ді демонстрациядан нақты қолданысқа көшіретін басшыларға пайдалы сабақтар туралы сөйлесті.

Соңғы 25 жылда контент табу тәсілдері аса өзгере қойған жоқ. Соңғы ірі өзгеріс ұсынымдар жүйесінің пайда болуы еді. Одан кейінгі жаңалықтардың көбі сол идеяны жетілдірумен шектелді.

Ал не көруді таңдау әр адамның жеке қалауына тікелей байланысты. Адам былай деуі мүмкін: «Көңіл күйім жоқ. Көңілімді көтеретін бірдеңе көрсетші». Осы қарапайым өтініштің өзінде талай астар бар. Ол қандай мұңға батып отыр? Әдетте оның көңілін не көтереді? Ол комедияны, жанына жайлы бір дүниені немесе ойын мүлде басқа жаққа бұратын нәрсені көргісі келе ме?

Дәстүрлі ұсынымдар жүйесіне адамның сол сәттегі күйін түсіну қиын болуы мүмкін. Әңгімелесу көрерменге мұны түсіндіруге мүмкіндік береді. Біз мұны дауыстық-визуалды интерфейс деп атаймыз.

Тұжырымдаманы қазан-қараша айларында пысықтай бастадық, ал ірі крикет турнирі ақпанда өтетін еді. Бізде шамамен екі ай уақыт және бір-бірінен мүлде бөлек екі аудитория болды: ойын-сауық контентінің көрермендері мен крикет жанкүйерлері.

Ойын-сауық көрермені «Жұма кеші ғой, мені таңғалдыршы» деуі немесе атауын білмейтін фильмді сипаттап беруі мүмкін. Спорт көрермендеріне нақтырақ дерек қажет болуы мүмкін: мысалы, уикеттердің алынған сәттері, қатарынан алты ұпай әкелген соққылар немесе белгілі бір ойыншы нақты қанша ран жинаған матч. Крикетті жетік білетіндер әрбір доптың статистикасын сұрауы мүмкін.

Бұлар — іздеу тұрғысынан бір-біріне мүлде ұқсамайтын міндеттер. Біз өте қысқа мерзімде ойын-сауық контентін, спорт сәттерін және крикеттің егжей-тегжейлі статистикасын бірнеше тілде жұмыс істейтін бір сервиске біріктіруге күш салдық.

Ең басынан-ақ міндетті үш талаптың — дәлдік, кідіріс және шығынның — арасындағы теңгерімді табу деп белгіледік. Әр инженерлік шешім үшеуін де бір мезгілде ескеруі керек болды.

Дауыспен әрекеттесу бұл теңгерімнің маңызын ерекше арттырды. Пайдаланушыларымыздың 60%-дан астамы мәтіннің орнына дауысты қолданады: адамдар не көргісі келетінін ауызша айтқанды жөн көреді. Соған қарамастан, жауап сұрауға сай, жылдам әрі осындай ауқымда экономикалық тұрғыдан тиімді болуы керек.

Мен оны екі бөліктен тұрады деп қарастырамын: бағалау жүйесі және тексеру қабаты. Қолданысқа енгізер алдында бағалау жүйесі қандай өзгерістер қажет екенін көрсетуі тиіс. Ал қолданыс кезінде кері байланыс циклі тұтынушылардың әрекеттері мен ақауларды жаңа бағалау сценарийлеріне айналдырып отыруы керек.

Бұл цикл уақыт өте өзін-өзі жетілдіре алады, бірақ оны дұрыс жолға қою өте қиын.

Саланы жетік білетін мамандарсыз болмайды. Спорт статистикасын бағалау үшін біз нағыз жанкүйерлердің қандай сұрақ қоюы мүмкін екенін білетін мамандармен, соның ішінде спорт журналдарының редакторларымен жұмыс істедік. Тек көмексөзбен бастау жеткіліксіз: жүйенің негізіне адамның терең кәсіби білімін салу қажет.

Дұрыс жасаған істеріміздің бірі — команда құру болды. Алдымен міндетті нақты тұжырымдап, деректер ғылымы мамандары мен инженерлерден шағын команда құрдық. OpenAI-дың клиенттермен тікелей жұмыс істейтін инженерлері бізге қосылып, міндетті түрде мінсіз орындауымыз керек бірнеше негізгі тұсты нақтылауға көмектесті.

Біріншісі — жүйенің жұмыс аясын белгілеу. Дауыстық не мәтіндік интерфейсте пайдаланушы кез келген дерлік сұрақты қоя алады. Сондықтан біз алдымен жүйе қандай сұрақтарға жауап бермеуі керегін шештік. Бірінші кезекте қорғаныс тетіктерін жасадық.

Бағалау үшін бастапқы деректер жиынын алып, модельдердің көмегімен оны түрлі нұсқалармен толықтырдық. Біз қазір «жасаушы–тексеруші» үлгісі деуге болатын тәсіл құрдық: бір модель сұраққа қалай жауап беру керегін анықтауға көмектесті, ал екіншісі оған қарсы міндет атқарып, жауапты тексерді. Яғни LLM (үлкен тілдік модель) төреші рөлін атқарды.

Бұдан тағы бір сұрақ туды: төрешіні кім тексереді? Тексерушіні жобалаудың өзі бағалау міндетіне айналды. Codex командаға бағалау сценарийлерін жасау және жүйені жаңарту сияқты жұмыстарды жеделдетуге көмектесті. Бірақ әзірлеу жылдамдағанымен, байыпты шешім қабылдау мен тексеру қажеттілігі жойылған жоқ.

Модельдің нақты қолданыстағы нәтижелілігін бақылауға ертерек ресурс бөлер едім.

P99 кідірісі сияқты дәстүрлі инфрақұрылым көрсеткіштері әлі де маңызды, бірақ олар жеткіліксіз. Модельдің нақты қолданыстағы нәтижелілігін де бақылау қажет.

Біріншіден, технологияның мүмкіндіктері мен кәсіпорынның нақты жағдайы арасында үлкен алшақтық бар. Компанияңыз әрбір озық модель туралы хабарландыруға ілесіп үлгермесе, мұндай жағдайда жалғыз емессіз.

Екіншіден, атқарылған жұмыс көлеміне емес, нәтижеге назар аударуды жалғастырыңыз. Көзге көрінетін белсенділікті нақты ілгерілеу деп қабылдау оңай, әсіресе компаниялар жұмсалған күш пен ресурс көрсеткіштеріне басымдық бергенде. Мысалы, жасалған код жолдарының саны шын мәнінде құнды нәтиже алған-алмағаныңызды көрсетпейді.

Соңында, кәсіпорындардың көбі адамға қаншалықты жоғары біліктілік пен өз бетінше шешім қабылдау қабілеті қажет екенін жете бағаламайды. Мұны дағдыларды дамытуға арналған жалпы бағдарламамен ғана шектеуге болмайды. Басшыларға бұл құралдарды байыппен қолдана алатын адамдар керек. Мықты инженерге Codex сияқты құрал берсеңіз, нәтиже еселенуі мүмкін. Бірақ нақты қолданыстағы жүйелерді байыппен тексере алмаса, тәуекел де еселенеді.

Қолыңызда зымыран тұр. Әсіресе нақты қолданыстағы жүйелерде тексеру мен қорғаныс тетіктері қажет, ал басқаруды лайықты адамдарға сеніп тапсыру керек.