หัวหน้าสถาปนิก JioStar กับ AI ในการค้นหาสำหรับผู้ใช้ 500 ล้านคน

Executive Function คือซีรีส์ที่ถ่ายทอดมุมมองของเหล่าผู้นำที่ใช้ AI ขับเคลื่อนการเปลี่ยนแปลง

JioStar ให้บริการแพลตฟอร์มความบันเทิงและถ่ายทอดสดกีฬาที่มีผู้ใช้งานมากกว่า 500 ล้านคน และเคยรองรับผู้ชมกีฬาถ่ายทอดสดพร้อมกันสูงสุดถึง 72.5 ล้านคน การนำ AI มาใช้งานในระบบขนาดใหญ่เช่นนี้จึงต้องมั่นใจว่า AI ทำงานได้รวดเร็ว เชื่อถือได้ และพร้อมใช้งานจริง

JioStar ใช้ OpenAI API พัฒนาผู้ช่วย AI สำหรับค้นหาวิดีโอและสถิติคริกเก็ตผ่านการสนทนา แล้วนำมาให้บริการบน JioHotstar ผู้ชมสามารถพูดคุยด้วยภาษาทั่วไปเพื่อค้นหาภาพยนตร์ รายการต่างๆ ไฮไลต์การแข่งขันในอดีต ช่วงสำคัญของการแข่งขันที่กำลังถ่ายทอดสด หรือสถิติคริกเก็ต โดยระบบจะแสดงผลการค้นหาเป็นภาพพร้อมให้ผู้ชมสนทนาโต้ตอบได้

ในงาน Executive Summit ของ OpenAI ที่สิงคโปร์ Sidharth Sharma หัวหน้าฝ่าย Go-to-Market ประจำอาเซียนของ OpenAI ร่วมพูดคุยกับ Vijay Seshadri หัวหน้าสถาปนิกระบบของ JioStar ถึงเบื้องหลังการพัฒนาประสบการณ์การใช้งานที่รองรับกว่า 15 ภาษาในเวลาเพียงประมาณ 8 สัปดาห์ พร้อมแบ่งปันบทเรียนสำหรับผู้นำที่ต้องการนำ AI จากขั้นสาธิตไปสู่การใช้งานจริง

หากมองย้อนกลับไป 25 ปี จะเห็นว่าวิธีการค้นหาคอนเทนต์แทบไม่เปลี่ยนไปจากเดิมมากนัก จุดเปลี่ยนสำคัญครั้งล่าสุดคือการนำระบบแนะนำคอนเทนต์มาใช้ สิ่งที่ตามมาส่วนใหญ่ก็เป็นเพียงการปรับปรุงแนวคิดเดิมให้ดีขึ้น

แต่การตัดสินใจว่าจะดูอะไรนั้นขึ้นอยู่กับความรู้สึกและความชอบของแต่ละคน บางคนอาจบอกว่า “กำลังเศร้าอยู่ ช่วยหาอะไรดูให้รู้สึกดีขึ้นหน่อย” คำขอสั้นๆ แค่นี้กลับมีหลายอย่างที่ต้องทำความเข้าใจ เช่น เขากำลังเศร้าแบบไหน อะไรที่มักทำให้เขาอารมณ์ดีขึ้น เขาอยากดูหนังตลก ดูอะไรที่ช่วยปลอบใจ หรือดูอะไรที่ทำให้ลืมเรื่องเศร้าไปเลย

ระบบแนะนำคอนเทนต์แบบเดิมอาจไม่เข้าใจว่าผู้ชมต้องการอะไรในขณะนั้น แต่การพูดคุยโต้ตอบช่วยให้ผู้ชมอธิบายความต้องการของตัวเองได้ เราเรียกรูปแบบการใช้งานนี้ว่า อินเทอร์เฟซที่ใช้ทั้งเสียงและภาพ

เราเริ่มหารือและพัฒนาแนวคิดนี้ในช่วงเดือนตุลาคมถึงพฤศจิกายน โดยมีการแข่งขันคริกเก็ตรายการใหญ่รออยู่ในเดือนกุมภาพันธ์ นั่นหมายความว่าเรามีเวลาเพียงประมาณสองเดือน และยังต้องตอบโจทย์ผู้ชมสองกลุ่มที่แตกต่างกันมาก ได้แก่ ผู้ชมคอนเทนต์บันเทิงและแฟนคริกเก็ต

คนที่ชอบดูหนังหรือรายการบันเทิงอาจบอกว่า “เย็นวันศุกร์แล้ว แนะนำอะไรที่คาดไม่ถึงหน่อย” หรืออธิบายเนื้อเรื่องของหนังที่จำชื่อไม่ได้ แต่แฟนกีฬาอาจอยากรู้ข้อมูลเฉพาะเจาะจง เช่น จังหวะที่ผู้ตีถูกทำให้ออก การตีลูกได้ 6 รันติดต่อกันหลายครั้ง หรือการแข่งขันนัดที่ผู้เล่นคนหนึ่งทำคะแนนได้ตามจำนวนที่ต้องการ ขณะที่แฟนคริกเก็ตตัวยงอาจต้องการดูสถิติอย่างละเอียดของทุกลูก

จะเห็นว่าผู้ชมแต่ละกลุ่มต้องการค้นหาสิ่งที่แตกต่างกันมาก เราจึงต้องหาวิธีรวมทั้งคอนเทนต์บันเทิง จังหวะสำคัญในการแข่งขันกีฬา และสถิติคริกเก็ตแบบเจาะลึกไว้ในประสบการณ์การใช้งานเดียวกันที่รองรับหลายภาษา โดยมีเวลาพัฒนาอย่างจำกัด

ตั้งแต่แรก เราก็มองว่ามีสามเรื่องที่ต้องหาจุดสมดุลให้ได้ คือ ระบบต้องตอบได้ถูกต้อง ตอบได้เร็ว และมีต้นทุนที่เหมาะสม ทุกครั้งที่ตัดสินใจว่าจะพัฒนาระบบอย่างไร เราก็ต้องคิดถึงทั้งสามเรื่องนี้ไปพร้อมกัน

เรื่องนี้ยิ่งสำคัญเมื่อผู้ใช้ค้นหาด้วยเสียง เพราะผู้ใช้ของเรามากกว่า 60% เลือกใช้เสียงแทนการพิมพ์ คนส่วนใหญ่ชอบพูดบอกไปเลยว่าอยากดูอะไร ดังนั้นระบบจึงต้องหาสิ่งที่ตรงกับความต้องการได้อย่างรวดเร็ว และมีต้นทุนที่คุ้มค่าแม้จะต้องรองรับผู้ใช้จำนวนมาก

ผมมองว่าเรื่องนี้แบ่งออกเป็นสองส่วน คือ ระบบประเมินผลกับระบบตรวจสอบความถูกต้อง ก่อนนำ AI ไปใช้งานจริง เราควรใช้ผลการประเมินมาช่วยปรับปรุงระบบ ส่วนเมื่อเริ่มใช้งานจริงแล้ว ก็ต้องนำพฤติกรรมของผู้ใช้และปัญหาที่พบมาวิเคราะห์ แล้วสร้างกรณีทดสอบใหม่ๆ เพื่อใช้ประเมินระบบต่อไป

กระบวนการนี้ก็จะช่วยให้ระบบดีขึ้นเรื่อยๆ แต่กว่าจะทำให้ทุกอย่างทำงานได้อย่างที่ควรจะเป็นนั้นไม่ใช่เรื่องง่ายเลย

เรื่องนี้ขาดผู้เชี่ยวชาญเฉพาะด้านไม่ได้เลย อย่างตอนที่เราทดสอบระบบเกี่ยวกับสถิติกีฬา เราก็ทำงานร่วมกับคนในวงการ เช่น บรรณาธิการนิตยสารกีฬา เพราะคนเหล่านี้เข้าใจว่าแฟนกีฬาที่ติดตามอย่างจริงจังอยากรู้อะไรและจะถามคำถามแบบไหน การพัฒนาระบบจึงไม่ใช่แค่เขียนพรอมต์แล้วเริ่มได้เลย แต่ต้องนำความรู้จากผู้เชี่ยวชาญมาเป็นพื้นฐานตั้งแต่แรก

ผมคิดว่าเรื่องหนึ่งที่เราตัดสินใจได้ถูกต้องคือการเลือกคนมาทำงาน เราเริ่มจากทีมเล็กๆ ที่มีทั้งนักวิทยาศาสตร์ข้อมูลและวิศวกร โดยตั้งโจทย์ให้ชัดเจนตั้งแต่แรกว่าเราต้องแก้ปัญหาอะไร วิศวกรของ OpenAI ก็เข้ามาทำงานเคียงข้างเราและช่วยกันระบุว่าเรื่องไหนบ้างที่สำคัญที่สุดและเราต้องทำให้สำเร็จ

เรื่องแรกคือการกำหนดขอบเขตว่า AI ควรตอบอะไรได้บ้าง เพราะเมื่อผู้ใช้สามารถพูดหรือพิมพ์ถามได้อย่างอิสระ ก็อาจถามอะไรก็ได้ เราจึงเริ่มจากการกำหนดก่อนว่าระบบไม่ควรตอบคำถามแบบไหนบ้าง แล้วค่อยวางมาตรการควบคุมให้ชัดเจน

สำหรับการประเมินผล เราเริ่มจากชุดข้อมูลตัวอย่าง แล้วใช้โมเดลช่วยเพิ่มข้อมูลให้มีความหลากหลายมากขึ้น จากนั้นเราก็พัฒนาวิธีการที่ตอนนี้อาจเรียกได้ว่าเป็นรูปแบบผู้สร้างและผู้ตรวจสอบ (maker-checker pattern) โดยให้โมเดลหนึ่งช่วยคิดว่าควรตอบคำถามอย่างไร ส่วนอีกโมเดลทำหน้าที่ตรวจสอบคำตอบ หรือที่เรียกว่า LLM as judge ซึ่งมีเป้าหมายในการทำงานที่ต่างจากโมเดลแรก

แต่ก็มีคำถามตามมาว่า แล้วใครจะเป็นคนตรวจสอบโมเดลที่ทำหน้าที่ประเมินคำตอบ เพราะแม้แต่การออกแบบโมเดลตรวจสอบเองก็ต้องมีการประเมินผลเช่นกัน Codex ช่วยให้ทีมทำงานได้เร็วขึ้น ทั้งการสร้างกรณีทดสอบสำหรับประเมินผลและการปรับปรุงระบบ แต่ถึงจะพัฒนาระบบได้เร็วขึ้น เราก็ยังต้องใช้วิจารณญาณและตรวจสอบความถูกต้องอยู่ดี

ถ้าย้อนกลับไปได้ ผมจะเริ่มลงทุนกับระบบติดตามผลตั้งแต่เนิ่นๆ เพื่อดูว่าโมเดลทำงานได้ดีแค่ไหนเมื่อมีคนใช้งานจริง

การวัดประสิทธิภาพของระบบแบบเดิมๆ อย่าง P99 latency ก็ยังสำคัญอยู่ แต่แค่นั้นยังไม่พอ เราต้องคอยดูด้วยว่าเมื่อนำโมเดลไปใช้งานจริงแล้ว มันทำงานได้ดีแค่ไหน

อย่างแรกเลยคือ สิ่งที่เทคโนโลยีทำได้ในตอนนี้กับสิ่งที่เกิดขึ้นจริงในองค์กรยังห่างกันมาก ถ้าบริษัทของคุณยังตามความก้าวหน้าของ AI รุ่นใหม่ๆ ไม่ทันทุกครั้งที่มีการเปิดตัว ก็ไม่ต้องแปลกใจ เพราะบริษัทอื่นๆ ก็เป็นเหมือนกัน

อย่างที่สองคือ เราต้องให้ความสำคัญกับผลลัพธ์มากกว่าปริมาณงานที่ทำ เพราะบางครั้งการเห็นว่ามีงานเกิดขึ้นมากมายก็อาจทำให้เราเข้าใจผิดว่ากำลังก้าวหน้าไปมาก โดยเฉพาะเมื่อบริษัทให้ความสำคัญกับตัวเลขที่วัดปริมาณงาน เช่น จำนวนบรรทัดโค้ดที่สร้างขึ้น ซึ่งไม่ได้บอกเลยว่าสิ่งที่เราทำนั้นสร้างคุณค่าได้จริงหรือเปล่า

สุดท้ายคือ องค์กรส่วนใหญ่มักประเมินต่ำไปว่าการนำ AI มาใช้ต้องอาศัยทั้งทักษะและความสามารถในการคิดตัดสินใจของคนมากแค่ไหน การจัดอบรมทักษะทั่วไปอย่างเดียวจึงไม่เพียงพอ ผู้นำต้องมีคนที่รู้จักใช้เครื่องมือเหล่านี้อย่างมีวิจารณญาณ ถ้าให้วิศวกรที่มีฝีมือใช้เครื่องมืออย่าง Codex ก็อาจช่วยเพิ่มผลลัพธ์จากการทำงานได้หลายเท่า แต่ถ้าขาดวิจารณญาณในการตรวจสอบระบบก่อนนำไปใช้งานจริง ความเสี่ยงก็อาจเพิ่มขึ้นหลายเท่าเช่นกัน

ตอนนี้เรามีเทคโนโลยีที่ทรงพลังมากอยู่ในมือ แต่ยิ่งเป็นระบบที่เปิดใช้งานจริง ก็ยิ่งต้องตรวจสอบให้รอบคอบ มีมาตรการควบคุมที่ดี และให้คนที่มีความรู้ความสามารถเป็นคนดูแล