Mbunifu mkuu wa JioStar: utafutaji kwa AI kwa watumiaji 500M

Mfululizo wetu wa Executive Function unaangazia mitazamo ya viongozi wanaoleta mabadiliko kupitia AI.

JioStar inaendesha majukwaa ya burudani na michezo ya moja kwa moja yanayotumiwa na zaidi ya watumiaji milioni 500, na imehudumia hadi watazamaji milioni 72.5 wa michezo ya moja kwa moja kwa wakati mmoja. Kwa idadi hiyo ya watumiaji, AI lazima iwe ya haraka, ya kutegemewa, na tayari kutumika katika mazingira halisi.

Kwa kutumia API ya OpenAI, JioStar iliunda msaidizi ndani ya JioHotstar anayewezesha kutafuta video na takwimu za kriketi kwa mazungumzo. Watazamaji wanaweza kuzungumza kwa lugha ya kawaida ili kupata filamu na vipindi, matukio muhimu ya zamani, matukio ya mechi zinazoendelea, au takwimu za kriketi, na kupata matokeo kupitia picha na mazungumzo.

Katika Mkutano wa Viongozi wa OpenAI nchini Singapore, Sidharth Sharma, Mkuu wa Mkakati wa Kuingia Sokoni wa OpenAI katika ASEAN, alizungumza na Vijay Seshadri—Mbunifu Mkuu wa Mifumo wa JioStar, kuhusu kuunda huduma hiyo kwa zaidi ya lugha 15 katika takribani wiki nane, na mafunzo kwa viongozi wanaohamisha AI kutoka maonesho ya uwezo hadi matumizi halisi.

Njia za kupata maudhui zimebadilika kidogo sana katika miaka 25 iliyopita. Mabadiliko makubwa ya mwisho yalikuwa mapendekezo ya maudhui. Mengi yaliyofuata yamekuwa maboresho ya wazo hilohilo.

Lakini kuchagua cha kutazama ni jambo linalotegemea sana mtu binafsi. Mtu anaweza kusema, “Ninahisi huzuni. Nionyeshe kitu kitakachonifurahisha.” Hata ombi hilo rahisi lina maana nyingi zinazohitaji kufafanuliwa. Ni huzuni ya aina gani? Ni nini ambacho kwa kawaida humfurahisha mtu huyo? Je, anataka vichekesho, kitu cha kumfariji, au kitu kitakachomtoa kabisa kwenye mawazo yake?

Mfumo wa kawaida wa mapendekezo unaweza kupata shida kuelewa hali hiyo. Mazungumzo humpa mtazamaji njia ya kuieleza. Tunaita hii kiolesura cha sauti na picha.

Tulianza kulifanyia kazi wazo hilo mwezi Oktoba na Novemba, huku mashindano makubwa ya kriketi yakitarajiwa mwezi Februari. Tulikuwa na takribani miezi miwili na makundi mawili tofauti sana: watazamaji wa burudani na mashabiki wa kriketi.

Mtazamaji wa burudani anaweza kusema, “Ni Ijumaa jioni—nichagulie kitu nisichotarajia,” au akaelezea filamu bila kujua jina lake. Watazamaji wa michezo wanaweza kutaka taarifa mahususi zaidi, kama kuondolewa kwa wapigaji, mfululizo wa mipigo ya pointi sita, au mechi ambayo mchezaji alipata idadi fulani ya mikimbio. Wataalamu wa kriketi wanaweza kutaka takwimu za kila mpira.

Hizi ni changamoto tofauti sana za kutafuta maudhui. Tulifanya kazi ya kuunganisha burudani, matukio ya michezo na takwimu za kina za kriketi katika huduma moja, kwa lugha nyingi, ndani ya muda mfupi sana.

Tangu mapema sana, tuliona changamoto kuwa kusawazisha mambo matatu: usahihi, muda wa kusubiri jibu, na gharama. Kila uamuzi wa uhandisi ulipaswa kusawazisha yote matatu kwa wakati mmoja.

Matumizi ya sauti yalifanya hilo kuwa muhimu zaidi. Zaidi ya asilimia 60 ya watumiaji wetu hutumia sauti badala ya maandishi: watu hupendelea kusema wanachotaka kutazama. Hata hivyo, jibu lazima liendane na ombi, lipatikane haraka, na liwe na gharama inayoweza kumudika hata kwa watumiaji wengi.

Nauona ukiwa na sehemu mbili: mfumo wa tathmini na safu ya uthibitishaji. Kabla ya matumizi halisi, mfumo wa tathmini unapaswa kuongoza mabadiliko. Katika matumizi halisi, mzunguko wa maoni unapaswa kugeuza tabia za wateja na hitilafu kuwa visa vipya vya tathmini.

Mzunguko huo unaweza kujiboresha wenyewe kadiri unavyoendelea, lakini ni vigumu sana kuuweka sawa.

Wataalamu wa nyanja husika ni muhimu sana. Kwa tathmini za takwimu za michezo, tulishirikiana na watu kama wahariri wa majarida ya michezo walioelewa maswali ambayo mashabiki makini wangeweza kuuliza. Huwezi kuanza na dokeza pekee; unahitaji kuujenga mfumo juu ya utaalamu wa kina wa binadamu.

Jambo moja tulilofanya vizuri lilikuwa kuunda timu. Tulianza na timu ndogo ya wanasayansi wa data na wahandisi, tukiwa na maelezo wazi ya tatizo la kutatua. Wahandisi wa OpenAI wanaofanya kazi moja kwa moja na wateja walishirikiana nasi kubaini zaidi mambo machache ambayo tulipaswa kuyafanya vizuri bila kukosea.

La kwanza lilikuwa wigo wa huduma. Kiolesura cha sauti au maandishi huwawezesha watumiaji kuuliza karibu chochote, kwa hivyo tulianza kwa kuamua mambo ambayo mfumo haupaswi kujibu. Mipaka ya usalama ilitangulia.

Kwa tathmini, tulianza na seti ya awali ya data na kutumia miundo kuipanua kwa kuongeza mifano tofauti zaidi. Tuliunda kile ambacho sasa unaweza kuita mpangilio wa mtayarishaji na mkaguzi: muundo mmoja ulisaidia kuamua jinsi ya kujibu swali, huku mwingine ukifanya kazi ya kuthibitisha—LLM kama mwamuzi—ukiwa na lengo la kuupima wa kwanza.

Hilo lilizua swali jingine: ni nani anayemjaribu mwamuzi? Kubuni kithibitishaji chenyewe kulikuwa changamoto ya tathmini. Codex ilisaidia timu kuharakisha kazi kama kuunda visa vya tathmini na kusasisha mfumo, lakini kuunda kwa kasi hakukuondoa hitaji la kufanya maamuzi makini na kuthibitisha matokeo.

Ningewekeza mapema zaidi katika kufuatilia ufanisi wa muundo katika matumizi halisi.

Vipimo vya kawaida vya miundombinu, kama muda wa kusubiri jibu wa P99, bado ni muhimu, lakini havitoshi. Unahitaji pia kufuatilia ufanisi wa muundo katika matumizi halisi.

Kwanza, kuna pengo kubwa kati ya kile ambacho teknolojia inaweza kufanya na hali halisi ndani ya kampuni. Ikiwa kampuni yako haijaenda sambamba na kila tangazo la muundo wa mpaka, si yenu pekee.

Pili, endelea kuzingatia matokeo badala ya shughuli zinazofanywa. Ni rahisi kudhani kuwa shughuli zinazoonekana ni maendeleo yenye maana, hasa kampuni zinaposisitiza vipimo vya juhudi na rasilimali zinazotumika. Kwa mfano, idadi ya mistari ya msimbo iliyozalishwa haikuambii kama umeleta thamani yenye maana.

Mwisho, kampuni nyingi hazitambui vya kutosha ustadi na uwezo wa watu wa kufanya maamuzi na kuchukua hatua unaohitajika. Hili haliwezi kuwa suala la mafunzo ya jumla ya ujuzi pekee. Viongozi wanahitaji watu wanaoweza kutumia zana hizi kwa busara. Mpe mhandisi mahiri zana kama Codex na matokeo yanaweza kuongezeka maradufu; bila uwezo wa kufanya maamuzi makini ili kuthibitisha mifumo ya matumizi halisi, hatari pia huongezeka.

Una roketi mikononi mwako. Hasa katika mifumo ya matumizi halisi, unahitaji uthibitishaji na mipaka ya usalama, na unahitaji kukabidhi usukani kwa watu wanaofaa.