JioStar: 500 сая хэрэглэгчид зориулсан AI хайлт

Манай «Удирдах чадамж» цуврал AI ашиглан өөрчлөлтийг манлайлж буй удирдагчдын үзэл бодлыг хүргэдэг.

JioStar нь 500 сая гаруй хэрэглэгчтэй энтертайнмент, спортын шууд дамжуулалтын платформуудыг ажиллуулдаг бөгөөд спортын шууд дамжуулалтаа нэгэн зэрэг 72.5 сая хүртэл үзэгчид хүргэж байсан. Ийм цар хүрээнд AI нь хурдан, найдвартай, бодит хэрэглээнд нэвтрүүлэхэд бэлэн байх ёстой.

JioStar нь OpenAI API ашиглан харилцан ярилцаж видео болон крикетийн статистик хайх туслахыг JioHotstar-д нэвтрүүлсэн. Үзэгчид энгийн яриагаар кино, нэвтрүүлэг, өмнөх тоглолтуудын онцлох хэсэг, шууд тоглолтын мөчүүд эсвэл крикетийн статистик хайж, үр дүнг нь дүрслэлтэй, харилцан ярианы хэлбэрээр авах боломжтой.

Сингапурт болсон OpenAI-ийн удирдах ажилтнуудын дээд хэмжээний уулзалтаар OpenAI-ийн АСЕАН дахь зах зээлд гаргах үйл ажиллагааны тэргүүн Сидхарт Шарма JioStar-ын ерөнхий архитектор Вижай Сешадритай ярилцлаа. Тэд найм орчим долоо хоногт 15 гаруй хэлээр ажиллах энэ үйлчилгээг бүтээсэн тухай, мөн AI-г үзүүлэнгээс бодит хэрэглээнд шилжүүлж буй удирдагчдад хэрэгтэй сургамжуудыг хэлэлцэв.

Сүүлийн 25 жилд контент хайж олох арга бараг өөрчлөгдөөгүй. Хэрэглэгчид контент санал болгодог болсон нь хамгийн сүүлийн томоохон өөрчлөлт байлаа. Үүнээс хойших ихэнх шинэчлэл тэр л санааг сайжруулсан хувилбарууд байсан.

Гэтэл юу үзэхээ сонгох нь тухайн хүнээс ихээхэн хамаардаг. Хүн «Сэтгэл нэг л гунигтай байна. Сэтгэл сэргээх юм үзүүлээч» гэж хэлж болно. Ийм энгийн хүсэлт ч олон нарийн утга агуулдаг. Ямар гуниг вэ? Тэр хүний сэтгэлийг ихэвчлэн юу сэргээдэг вэ? Инээдмийн кино, сэтгэл тайвшруулах зүйл эсвэл бодлыг нь бүрэн сарниулах юм үзмээр байна уу?

Контент санал болгодог уламжлалт систем тухайн үеийн нөхцөл байдлыг ойлгоход хүндрэлтэй байж болно. Харин харилцан яриа нь үзэгчид үүнийгээ тайлбарлах боломж олгодог. Бид үүнийг дуу хоолой, дүрслэл хосолсон интерфэйс гэж нэрлэдэг.

Бид арав, арваннэгдүгээр сард санаагаа боловсруулж эхэлсэн бөгөөд хоёрдугаар сард крикетийн томоохон тэмцээн болох гэж байлаа. Бидэнд ойролцоогоор хоёр сарын хугацаа байсан. Бас энтертайнмент контент үзэгчид, крикетийн хөгжөөн дэмжигчид гэсэн тэс өөр хоёр бүлэг хэрэглэгч байв.

Энтертайнмент контент үзэгч «Баасан гарагийн орой байна. Намайг гайхшруулах юм санал болгооч» гэж хэлж болно. Эсвэл нэрийг нь мэдэхгүй киногоо дүрслэн ярьж болно. Спортын үзэгчид цохигчид хасагдсан мөчүүд, дараалсан зургаан онооны цохилтууд эсвэл нэг тоглогч тодорхой тооны оноо авсан тоглолт гэх мэт илүү тодорхой мэдээлэл хүсэж болно. Крикетийг сайн мэддэг хүмүүс бөмбөг шидэлт бүрийн статистикийг сонирхож магадгүй.

Эдгээр нь хайлтын хувьд тэс өөр асуудлууд юм. Бид маш богино хугацаанд энтертайнмент контент, спортын онцлох мөчүүд, крикетийн дэлгэрэнгүй статистикийг олон хэлээр ашиглах нэг үйлчилгээнд нэгтгэхээр ажилласан.

Бид бүр эхнээс нь үүнийг үнэн зөв байдал, хариу өгөх хугацаа, өртөг гэсэн гурван үзүүлэлтийг тэнцвэржүүлэх асуудал гэж тодорхойлсон. Инженерийн шийдвэр бүр энэ гурвыг нэгэн зэрэг харгалзах ёстой байлаа.

Дуу хоолойгоор харилцах боломж үүнийг бүр ч чухал болгосон. Манай хэрэглэгчдийн 60 гаруй хувь нь бичихийн оронд дуу хоолой ашигладаг. Хүмүүс юу үзмээр байгаагаа хэлэхийг илүүд үздэг. Гэсэн ч хариулт нь хүсэлтэд нийцсэн, хурдан байх төдийгүй олон хэрэглэгчид хүргэхэд эдийн засгийн хувьд боломжийн байх ёстой.

Би үүнийг үнэлгээний тогтолцоо, баталгаажуулалтын давхарга гэсэн хоёр хэсгээр авч үздэг. Бодит хэрэглээнд нэвтрүүлэхээс өмнө үнэлгээний тогтолцоо нь шаардлагатай өөрчлөлтүүдийг хийхэд чиглүүлэх ёстой. Харин бодит хэрэглээнд нэвтэрсний дараа эргэх холбооны мөчлөгөөр хэрэглэгчдийн үйлдэл, гарсан алдааг үнэлгээний шинэ тохиолдлууд болгон ашиглах хэрэгтэй.

Энэ мөчлөг өөрийгөө улам сайжруулдаг болж болох ч зөв ажилладаг болгох нь туйлын хэцүү.

Тухайн салбарын мэргэжилтнүүд зайлшгүй хэрэгтэй. Спортын статистикийн үнэлгээнд бид үнэнч хөгжөөн дэмжигчид юу асууж болохыг мэддэг спортын сэтгүүлийн редакторууд зэрэг хүмүүстэй хамтарсан. Зөвхөн өгөгдөл өгөхөөс эхэлж болохгүй. Системийн суурийг хүний гүнзгий мэдлэг, туршлагаар тавих хэрэгтэй.

Бидний зөв хийсэн зүйлсийн нэг нь багаа бүрдүүлсэн явдал байлаа. Бид шийдэх асуудлаа тодорхойлоод, өгөгдлийн шинжээчид, инженерүүдээс бүрдсэн жижиг багаар эхэлсэн. Хэрэглэгчийн байгууллагад очиж ажилладаг OpenAI-ийн инженерүүд бидэнтэй хамтран зайлшгүй зөв хийх ёстой цөөн хэдэн зүйлийг улам тодруулсан.

Эхнийх нь хамрах хүрээ байлаа. Дуу хоолой эсвэл бичвэрээр харилцах интерфэйс хэрэглэгчдэд бараг юу ч асуух боломж олгодог тул бид систем юунд хариулах ёсгүйг шийдэхээс эхэлсэн. Юун түрүүнд хамгаалалтын хязгаарлалтуудаа тогтоосон.

Үнэлгээний хувьд анхны өгөгдлийн багцаас эхлээд, загварууд ашиглан илүү олон хувилбараар өргөжүүлсэн. Бид одоо «бүтээгч–шалгагч» гэж нэрлэж болох аргачлалыг бий болгосон. Нэг загвар нь асуултад хэрхэн хариулахыг тодорхойлоход тусалж, нөгөө нь эсрэгцсэн зорилготой баталгаажуулагч буюу шүүгчийн үүрэгтэй Том хэлний загвар (LLM) болж ажилласан.

Ингээд өөр нэг асуулт гарч ирсэн: шүүгчийг хэн шалгах вэ? Баталгаажуулагчийг зохион бүтээх нь өөрөө үнэлгээний асуудал байсан. Codex нь үнэлгээний тохиолдлууд үүсгэх, системийг шинэчлэх зэрэг ажлыг хурдасгахад багт тусалсан. Гэхдээ хурдан бүтээдэг боллоо гээд нягтлан дүгнэж, баталгаажуулах шаардлага арилсангүй.

Бодит хэрэглээнд загварын үр дүнтэй байдлыг хянах ажилд эртнээс хөрөнгө, нөөц зарцуулах байсан.

P99 хариу өгөх хугацаа зэрэг дэд бүтцийн уламжлалт хэмжүүрүүд чухал хэвээр ч дангаараа хангалтгүй. Загвар бодит хэрэглээнд хэр үр дүнтэй байгааг мөн хянах шаардлагатай.

Нэгдүгээрт, технологийн боломж ба байгууллагын дотоод бодит нөхцөл байдлын хооронд том зөрүү бий. Танай компани хил хязгаарын загварын шинэ зарлал бүртэй хөл нийлүүлж амжаагүй бол ийм байдалтай байгаа нь ганц танайх биш.

Хоёрдугаарт, хийж буй ажлын хэмжээнд бус үр дүнд нь анхаарсаар байх хэрэгтэй. Ялангуяа компаниуд зарцуулсан нөөц, хийсэн ажлын тоон үзүүлэлтийг онцолдог үед нүдэнд харагдах хөдөлгөөнийг бодит ахицтай андуурах амархан. Жишээ нь, үүсгэсэн кодын мөрийн тоо бодит үнэ цэн бий болгосон эсэхийг хэлж өгөхгүй.

Эцэст нь, ихэнх байгууллага хүний ур чадвар, бие даан шийдэж ажиллах чадамж хэр их шаардагдахыг дутуу үнэлдэг. Үүнийг зөвхөн ерөнхий ур чадварын сургалтаар шийдэх боломжгүй. Удирдагчдад эдгээр хэрэгслийг зөв дүгнэж, ухаалгаар ашиглаж чаддаг хүмүүс хэрэгтэй. Чадварлаг инженерт Codex шиг хэрэгсэл өгвөл үр нөлөө нь хэд дахин нэмэгдэж болно. Харин бодит хэрэглээний системийг баталгаажуулах зөв дүгнэлт хийх чадваргүй бол эрсдэл ч мөн хэд дахин өснө.

Таны гарт пуужин байна гэсэн үг. Ялангуяа бодит хэрэглээний системд баталгаажуулалт, хамгаалалтын хязгаарлалт хэрэгтэй бөгөөд удирдлагыг нь зөв хүмүүст даатгах ёстой.