JioStar: ძიება ხელოვნური ინტელექტით 500 მლნ მომხმარებლისთვის
საუბარი JioStar-ის მთავარ არქიტექტორთან, ვიჯაი სეშადრისთან.
ჩვენი სერია „აღმასრულებელი ფუნქცია“ წარმოგიდგენთ ლიდერების ხედვებს, რომლებიც ხელოვნური ინტელექტით გარდაქმნიან ორგანიზაციებს.
JioStar მართავს გასართობ და სპორტული პირდაპირი ტრანსლაციების პლატფორმებს, რომლებსაც 500 მილიონზე მეტი მომხმარებელი ჰყავს. სპორტულ პირდაპირ ეთერს ამ პლატფორმებზე ერთდროულად 72,5 მილიონამდე მაყურებელი ადევნებდა თვალს. ასეთ მასშტაბზე ხელოვნური ინტელექტი სწრაფი, საიმედო და რეალურ გარემოში გამოსაყენებლად მზად უნდა იყოს.
OpenAI-ის API-ის გამოყენებით JioStar-მა JioHotstar-ში ჩააშენა ასისტენტი, რომელიც საუბრის მეშვეობით ვიდეოებისა და კრიკეტის სტატისტიკის მოძიებაში გეხმარებათ. მაყურებლებს ბუნებრივი მეტყველებით შეუძლიათ მოძებნონ ფილმები და შოუები, წარსულის გამორჩეული ეპიზოდები, მიმდინარე მატჩის მომენტები ან კრიკეტის სტატისტიკა და საუბრისას შედეგები ვიზუალურად მიიღონ.
სინგაპურში გამართულ OpenAI-ის ხელმძღვანელთა სამიტზე სიდჰართ შარმა, OpenAI-ის ბაზარზე გატანის მიმართულების ხელმძღვანელი ASEAN-ის რეგიონში, ესაუბრა JioStar-ის მთავარ არქიტექტორს, ვიჯაი სეშადრის. მათ განიხილეს, როგორ შექმნეს ეს შესაძლებლობა 15-ზე მეტ ენაზე დაახლოებით რვა კვირაში და რა უნდა გაითვალისწინონ ლიდერებმა ხელოვნური ინტელექტის დემონსტრაციიდან რეალურ გამოყენებაზე გადასვლისას.
ბოლო 25 წელიწადში შიგთავსის აღმოჩენის პროცესი თითქმის არ შეცვლილა. ბოლო მნიშვნელოვანი ცვლილება რეკომენდაციები იყო. ამის შემდეგ სიახლეების უმეტესობა იმავე იდეის გადამუშავებას წარმოადგენდა.
თუმცა იმის არჩევა, თუ რას უყურო, ძალიან პირადულია. ადამიანმა შეიძლება თქვას: „მოწყენილი ვარ. მაჩვენე რამე, რაც გამამხიარულებს“. ასეთი მარტივი თხოვნაც კი ბევრ ნიუანსს შეიცავს. როგორი მოწყენილობა იგულისხმება? ჩვეულებრივ, რა ახალისებს ამ ადამიანს? კომედია უნდა, რაიმე დამამშვიდებელი თუ ისეთი რამ, რაც სრულიად სხვა რამეზე გადაატანინებს ყურადღებას?
ტრადიციულ სარეკომენდაციო სისტემას შეიძლება გაუჭირდეს ამ კონკრეტული მდგომარეობის გაგება. საუბარი კი მაყურებელს ამის ახსნის საშუალებას აძლევს. ამას ხმოვან-ვიზუალურ ინტერფეისს ვუწოდებთ.
კონცეფციაზე მუშაობა ოქტომბერსა და ნოემბერში დავიწყეთ, კრიკეტის მნიშვნელოვანი ტურნირი კი თებერვალში უნდა გამართულიყო. დაახლოებით ორი თვე გვქონდა და ორი სრულიად განსხვავებული აუდიტორია გვყავდა: გასართობი პროგრამების მაყურებლები და კრიკეტის გულშემატკივრები.
გასართობი პროგრამების მაყურებელმა შეიძლება თქვას: „პარასკევი საღამოა — რამით გამაოცე“, ან აღწეროს ფილმი, რომლის სათაურიც არ იცის. სპორტის მაყურებლებს შეიძლება უფრო კონკრეტული ინფორმაცია სურდეთ, მაგალითად, ვიკეტების დაკარგვის მომენტები, ექვსქულიანი დარტყმების სერია ან მატჩი, რომელშიც მოთამაშემ გარკვეული რაოდენობის რანი დააგროვა. კრიკეტის მცოდნეებს შეიძლება თითოეული მიწოდებული ბურთის სტატისტიკა აინტერესებდეთ.
ძიების თვალსაზრისით, ეს სრულიად განსხვავებული ამოცანებია. ვმუშაობდით, რომ ძალიან მოკლე დროში გასართობი პროგრამები, სპორტული მომენტები და კრიკეტის დეტალური სტატისტიკა ერთ მრავალენოვან სისტემაში გაგვეერთიანებინა.
თავიდანვე ამოცანა სამ ფაქტორს შორის ბალანსის პოვნად განვსაზღვრეთ: სიზუსტე, დაყოვნება და ხარჯი. ყოველ საინჟინრო გადაწყვეტილებას სამივე ერთდროულად უნდა გაეთვალისწინებინა.
ხმოვანმა ურთიერთქმედებამ ეს განსაკუთრებით მნიშვნელოვანი გახადა. ჩვენი მომხმარებლების 60%-ზე მეტი ტექსტის ნაცვლად ხმას იყენებს: ადამიანებს ურჩევნიათ, სიტყვიერად თქვან, რისი ყურება სურთ. პასუხი კი ასეთ მასშტაბზეც შესაბამისი, სწრაფი და ეკონომიკურად გამართლებული უნდა იყოს.
მე მას ორ ნაწილად ვყოფ: შეფასების ჩარჩოდ და ვალიდაციის შრედ. რეალურ გარემოში დანერგვამდე შეფასების ჩარჩომ საჭირო ცვლილებები უნდა გამოავლინოს. დანერგვის შემდეგ კი უკუკავშირის ციკლმა მომხმარებელთა ქცევისა და წარუმატებელი შემთხვევების საფუძველზე შეფასების ახალი სცენარები უნდა შექმნას.
ამ ციკლს შეუძლია საკუთარი თავი გააძლიეროს, თუმცა მისი სწორად გამართვა უკიდურესად რთულია.
დარგის ექსპერტების მონაწილეობა აუცილებელია. სპორტული სტატისტიკის შეფასების ტესტებზე ვმუშაობდით ისეთ ადამიანებთან, როგორიც არიან სპორტული ჟურნალების რედაქტორები, რომლებმაც იცოდნენ, რა კითხვები შეიძლება დაესვათ კარგად გათვითცნობიერებულ გულშემატკივრებს. მხოლოდ მოთხოვნით ვერ დაიწყებთ; სისტემას საფუძვლად ადამიანების ღრმა დარგობრივი ცოდნა უნდა ჩაუდოთ.
ერთ-ერთი რამ, რაც სწორად გავაკეთეთ, გუნდის შერჩევა იყო. მუშაობა მონაცემთა მეცნიერებისა და ინჟინრების მცირე გუნდით დავიწყეთ, მკაფიოდ განსაზღვრული ამოცანის გარშემო. ჩვენთან ერთად უშუალოდ მუშაობდნენ OpenAI-ის დანერგვის ინჟინრები, რათა უფრო ზუსტად გამოგვევლინა ის რამდენიმე საკითხი, რომელთა სწორად გადაწყვეტაც აუცილებელი იყო.
პირველი სისტემის მოქმედების ფარგლები იყო. ხმოვანი თუ ტექსტური ინტერფეისით მომხმარებლებს თითქმის ნებისმიერი კითხვის დასმა შეუძლიათ, ამიტომ ჯერ გადავწყვიტეთ, რას არ უნდა უპასუხოს სისტემამ. პირველ რიგში დამცავი მექანიზმები შევქმენით.
შეფასების ტესტებისთვის მონაცემთა საწყისი ნაკრებით დავიწყეთ და მოდელების მეშვეობით მას უფრო მრავალფეროვანი ვარიანტები დავამატეთ. შევქმენით ის, რასაც დღეს შეიძლება შემქმნელისა და შემმოწმებლის სქემა ეწოდოს: ერთი მოდელი გვეხმარებოდა დაგვედგინა, როგორ გვეპასუხა კითხვაზე, მეორე კი საპირისპირო ამოცანით ვალიდატორის — მსაჯი LLM-ის — როლს ასრულებდა.
ამან კიდევ ერთი კითხვა გააჩინა: ვინ ამოწმებს მსაჯს? ვალიდატორის შექმნაც თავისთავად შეფასების ამოცანა იყო. Codex გუნდს ისეთი სამუშაოების დაჩქარებაში დაეხმარა, როგორიცაა შეფასების სცენარების გენერირება და სისტემის განახლება. თუმცა უფრო სწრაფმა შემუშავებამ გააზრებული განსჯისა და ვალიდაციის საჭიროება არ გააქრო.
უფრო ადრე დავუთმობდი რესურსებს რეალურ გარემოში მოდელის შედეგიანობის მონიტორინგს.
ინფრასტრუქტურის ტრადიციული მაჩვენებლები, მაგალითად, P99 დაყოვნება, კვლავ მნიშვნელოვანია, მაგრამ საკმარისი არ არის. ასევე საჭიროა რეალურ გარემოში მოდელის შედეგიანობის მონიტორინგი.
პირველ რიგში, ტექნოლოგიის შესაძლებლობებსა და საწარმოს შიგნით არსებულ რეალობას შორის დიდი სხვაობაა. თუ თქვენი კომპანია ყოველი ახალი მოწინავე მოდელის გამოცხადებას ფეხს ვერ უწყობს, მარტო არ ხართ.
მეორე: ყურადღება კვლავ შედეგებზე გაამახვილეთ და არა აქტივობებზე. ადვილია თვალსაჩინო აქტიურობა მნიშვნელოვან პროგრესად მიიჩნიოთ, განსაკუთრებით მაშინ, როცა კომპანიები დახარჯული რესურსებისა და გაწეული სამუშაოს მაჩვენებლებს უსვამენ ხაზს. მაგალითად, გენერირებული კოდის სტრიქონების რაოდენობა ვერ გეტყვით, შექმენით თუ არა მნიშვნელოვანი ღირებულება.
დაბოლოს, საწარმოთა უმეტესობა სათანადოდ ვერ აფასებს, რა დონის უნარები და დამოუკიდებლად მოქმედების უნარი სჭირდებათ ადამიანებს. ეს მხოლოდ უნარების განვითარების ზოგადი პროგრამით ვერ შემოიფარგლება. ლიდერებს სჭირდებათ ადამიანები, რომლებსაც ამ ხელსაწყოების გააზრებულად გამოყენება შეუძლიათ. მიეცით ძლიერ ინჟინერს Codex-ის მსგავსი ხელსაწყო და შედეგი შეიძლება მრავალჯერ გაუმჯობესდეს; თუმცა, თუ რეალური სამუშაო სისტემების შესამოწმებლად საჭირო განსჯის უნარი არ აქვს, რისკიც მრავალჯერ გაიზრდება.
ხელში რაკეტა გიჭირავთ. განსაკუთრებით რეალურ სამუშაო სისტემებში გჭირდებათ ვალიდაცია და დამცავი მექანიზმები, მართვა კი სწორ ადამიანებს უნდა ჩააბაროთ.
