ஜியோஸ்டார்: 50 கோடி பேருக்கான செயற்கை நுண்ணறிவுத் தேடல்
ஜியோஸ்டாரின் தலைமைத் தொழில்நுட்ப வடிவமைப்பாளர் விஜய் சேஷாத்ரியுடன் ஓர் உரையாடல்.

செயற்கை நுண்ணறிவு மூலம் மாற்றத்தை முன்னெடுக்கும் தலைவர்களின் பார்வைகளை எங்கள் நிர்வாகச் செயல்பாடு தொடர் முன்வைக்கிறது.
50 கோடிக்கும் மேற்பட்ட நுகர்வோர் பயன்படுத்தும் பொழுதுபோக்கு மற்றும் நேரடி விளையாட்டுத் தளங்களை ஜியோஸ்டார் இயக்குகிறது. ஒரே நேரத்தில் 7.25 கோடி பேர் வரை நேரடி விளையாட்டுகளைப் பார்க்கும் வசதியையும் வழங்கியுள்ளது. இவ்வளவு பெரிய அளவில் செயல்படும்போது, செயற்கை நுண்ணறிவு வேகமாகவும் நம்பகமாகவும் இருக்க வேண்டும்; நடைமுறைப் பயன்பாட்டுக்கும் தயாராக இருக்க வேண்டும்.
OpenAI API-ஐப் பயன்படுத்தி, உரையாடல் மூலம் காணொளிகளையும் கிரிக்கெட் புள்ளிவிவரங்களையும் தேட உதவும் உதவியாளரை ஜியோஹாட்ஸ்டாரில் ஜியோஸ்டார் உருவாக்கியது. திரைப்படங்கள், நிகழ்ச்சிகள், கடந்தகாலச் சிறப்புக் காட்சிகள், நேரடிப் போட்டியின் தருணங்கள் அல்லது கிரிக்கெட் புள்ளிவிவரங்களைத் தேட பார்வையாளர்கள் இயல்பாகப் பேசலாம். முடிவுகள், காட்சியையும் உரையாடலையும் இணைக்கும் அனுபவமாக வழங்கப்படுகின்றன.
சிங்கப்பூரில் நடைபெற்ற OpenAI நிர்வாகிகள் உச்சிமாநாட்டில், ஆசியான் பிராந்தியத்திற்கான OpenAI கோ-டு-மார்க்கெட் தலைவர் சித்தார்த் சர்மா, ஜியோஸ்டாரின் தலைமைத் தொழில்நுட்ப வடிவமைப்பாளர் விஜய் சேஷாத்ரியுடன் உரையாடினார். சுமார் எட்டு வாரங்களில் 15-க்கும் மேற்பட்ட மொழிகளில் இந்த அனுபவத்தை உருவாக்கியது குறித்தும், செயற்கை நுண்ணறிவைச் செயல்விளக்க நிலையிலிருந்து நடைமுறைப் பயன்பாட்டுக்குக் கொண்டுசெல்லும் தலைவர்களுக்கான படிப்பினைகள் குறித்தும் அவர்கள் பேசினர்.
கடந்த 25 ஆண்டுகளில் உள்ளடக்கத்தைத் தேடிக் கண்டறியும் முறையில் மிகக் குறைவான மாற்றமே ஏற்பட்டுள்ளது. பரிந்துரைகள்தான் கடைசியாக ஏற்பட்ட பெரிய மாற்றம். அதற்குப் பிறகு வந்தவற்றில் பெரும்பாலானவை அதே கருத்தின் சிறு மாறுபாடுகள்தான்.
ஆனால் எதைப் பார்ப்பது என்ற தேர்வு ஒவ்வொருவரின் தனிப்பட்ட உணர்வுகளையும் விருப்பங்களையும் பெரிதும் சார்ந்தது. ஒருவர் இப்படிச் சொல்லலாம்: “நான் சோகமாக இருக்கிறேன். என்னை மகிழ்ச்சிப்படுத்தும் ஏதாவது ஒன்றைக் காட்டு.” இந்த எளிய கோரிக்கையில்கூட பல நுணுக்கங்கள் உள்ளன. எப்படிப்பட்ட சோகம்? பொதுவாக அவரை மகிழ்ச்சிப்படுத்துவது எது? அவருக்கு நகைச்சுவை வேண்டுமா, மனதுக்கு இதமான நிகழ்ச்சி வேண்டுமா, அல்லது கவனத்தை முற்றிலும் வேறு பக்கம் திருப்பும் ஏதாவது வேண்டுமா?
வழக்கமான பரிந்துரை அமைப்பால் அந்த நேரத்து மனநிலையைப் புரிந்துகொள்வது கடினமாக இருக்கலாம். அதை விளக்கிச் சொல்ல பார்வையாளருக்கு உரையாடல் வாய்ப்பளிக்கிறது. இதை நாங்கள் குரல்-காட்சி இடைமுகம் என்கிறோம்.
பிப்ரவரியில் ஒரு முக்கிய கிரிக்கெட் தொடர் நடைபெறவிருந்த நிலையில், அக்டோபர் மற்றும் நவம்பரில் இந்தக் கருத்தைச் செயல்படுத்துவது குறித்து ஆராயத் தொடங்கினோம். எங்களிடம் சுமார் இரண்டு மாதங்களே இருந்தன. பொழுதுபோக்கு நிகழ்ச்சிகளைப் பார்ப்பவர்கள், கிரிக்கெட் ரசிகர்கள் என முற்றிலும் வேறுபட்ட இரண்டு பார்வையாளர் பிரிவுகள் இருந்தன.
பொழுதுபோக்கு நிகழ்ச்சிகளைப் பார்க்க விரும்புபவர், “வெள்ளிக்கிழமை மாலை ஆகிவிட்டது—என்னை ஆச்சரியப்படுத்தும் ஏதாவது காட்டு” என்று சொல்லலாம். அல்லது ஒரு படத்தின் பெயர் தெரியாமலேயே அதைப் பற்றி விவரிக்கலாம். விளையாட்டுப் பார்வையாளர்களுக்கு விக்கெட்டுகள் விழுந்த தருணங்கள், தொடர்ச்சியான சிக்ஸர்கள் அல்லது ஒரு வீரர் குறிப்பிட்ட எண்ணிக்கையிலான ரன்களை எடுத்த போட்டி போன்ற துல்லியமான தகவல்கள் தேவைப்படலாம். கிரிக்கெட் வல்லுநர்களுக்கு ஒவ்வொரு பந்தைப் பற்றிய புள்ளிவிவரங்களும் தேவைப்படலாம்.
இவை ஒன்றுக்கொன்று மிகவும் வேறுபட்ட தேடல் சவால்கள். மிகக் குறுகிய காலத்தில், பொழுதுபோக்கு, விளையாட்டுத் தருணங்கள், விரிவான கிரிக்கெட் புள்ளிவிவரங்கள் ஆகியவற்றைப் பல மொழிகளில் ஒரே அனுபவமாக வழங்குவதற்குப் பணியாற்றினோம்.
ஆரம்பத்திலேயே இதைத் துல்லியம், பதிலளிக்கும் தாமதம், செலவு ஆகிய மூன்றுக்கும் இடையே சமநிலை காண வேண்டிய சவாலாக வரையறுத்தோம். ஒவ்வொரு பொறியியல் முடிவிலும் இந்த மூன்றையும் ஒரே நேரத்தில் சமநிலைப்படுத்த வேண்டியிருந்தது.
குரல்வழிப் பயன்பாடு இதை இன்னும் முக்கியமாக்கியது. எங்கள் பயனர்களில் 60%-க்கும் அதிகமானோர் தட்டச்சு செய்வதற்குப் பதிலாகக் குரலைப் பயன்படுத்துகிறார்கள்: தாங்கள் எதைப் பார்க்க விரும்புகிறோம் என்பதைப் பேசிச் சொல்லவே மக்கள் விரும்புகிறார்கள். அப்போதும் பதில் பொருத்தமானதாகவும் விரைவானதாகவும் இருக்க வேண்டும். பெருமளவிலான பயன்பாட்டில் அதன் செலவும் கட்டுப்படியாக வேண்டும்.
இதை இரண்டு பகுதிகளாகப் பார்க்கிறேன்: ஒரு மதிப்பீட்டுக் கட்டமைப்பு, ஒரு சரிபார்ப்பு அடுக்கு. நடைமுறைப் பயன்பாட்டுக்கு வருவதற்கு முன், செய்ய வேண்டிய மாற்றங்களை மதிப்பீட்டுக் கட்டமைப்பு சுட்டிக்காட்ட வேண்டும். நடைமுறைப் பயன்பாட்டில், வாடிக்கையாளர்களின் செயல்பாடுகளையும் தோல்விகளையும் புதிய மதிப்பீட்டுச் சோதனைகளாக மாற்றும் பின்னூட்டச் சுழற்சி இருக்க வேண்டும்.
இந்தச் சுழற்சி தன்னைத்தானே வலுப்படுத்திக்கொள்ள முடியும். ஆனால் அதைச் சரியாக அமைப்பது மிகவும் கடினம்.
துறை வல்லுநர்கள் இன்றியமையாதவர்கள். விளையாட்டுப் புள்ளிவிவர மதிப்பீடுகளுக்காக, தீவிர ரசிகர்கள் என்ன கேட்கக்கூடும் என்பதை அறிந்த விளையாட்டு இதழ் ஆசிரியர்கள் போன்றவர்களுடன் இணைந்து பணியாற்றினோம். ஒரு ப்ராம்ப்ட்டை மட்டும் வைத்துத் தொடங்க முடியாது; ஆழ்ந்த மனித நிபுணத்துவத்தை அமைப்பின் தொடக்க அடித்தளமாக வழங்க வேண்டும்.
நாங்கள் சரியாகச் செய்தவற்றில் ஒன்று, குழுவை அமைத்த விதம். தீர்க்க வேண்டிய சிக்கலைத் தெளிவாக வரையறுத்து, தரவு அறிவியலாளர்களும் பொறியாளர்களும் கொண்ட சிறிய குழுவுடன் தொடங்கினோம். வாடிக்கையாளர்களுடன் நேரடியாகப் பணியாற்றும் OpenAI பொறியாளர்கள் எங்களுடன் இணைந்து, தவறாமல் சரியாகச் செய்ய வேண்டிய சில முக்கிய அம்சங்களை மேலும் அடையாளம் காண உதவினர்.
முதலாவது, செயல்பாட்டு எல்லை. குரல் அல்லது உரை இடைமுகத்தில் பயனர்கள் கிட்டத்தட்ட எதை வேண்டுமானாலும் கேட்கலாம். எனவே, அமைப்பு எதற்கெல்லாம் பதிலளிக்கக் கூடாது என்பதை முதலில் முடிவு செய்தோம். பாதுகாப்பு வரம்புகளுக்கே முதலிடம் அளித்தோம்.
மதிப்பீடுகளுக்கு, ஒரு தொடக்கத் தரவுத்தொகுப்புடன் ஆரம்பித்து, மேலும் பல மாறுபாடுகளைச் சேர்த்து அதை விரிவாக்க மாடல்களைப் பயன்படுத்தினோம். இப்போது உருவாக்குபவர்-சரிபார்ப்பவர் முறை என்று சொல்லக்கூடிய ஒன்றை உருவாக்கினோம்: ஒரு கேள்விக்கு எப்படிப் பதிலளிப்பது என்பதைத் தீர்மானிக்க ஒரு மாடல் உதவியது. மற்றொரு மாடல், எதிர்நோக்குடன் அந்தப் பதிலைச் சரிபார்க்கும் நடுவராகச் செயல்பட்டது—அதாவது, நடுவராக ஓர் LLM.
இது மற்றொரு கேள்வியை எழுப்பியது: நடுவரைச் சோதிப்பது யார்? சரிபார்க்கும் அமைப்பை வடிவமைப்பதே ஒரு மதிப்பீட்டுச் சவாலாக இருந்தது. மதிப்பீட்டுச் சோதனைகளை உருவாக்குவது, அமைப்பைப் புதுப்பிப்பது போன்ற பணிகளை விரைவுபடுத்த Codex குழுவுக்கு உதவியது. ஆனால் விரைவாக உருவாக்க முடிந்ததால், விவேகமான முடிவுகளும் சரிபார்ப்பும் தேவையில்லாமல் போய்விடவில்லை.
நடைமுறைப் பயன்பாட்டில் மாடலின் செயல்திறனைக் கண்காணிப்பதற்கு இன்னும் முன்னதாகவே முதலீடு செய்திருப்பேன்.
P99 பதிலளிப்பு தாமதம் போன்ற வழக்கமான உள்கட்டமைப்பு அளவீடுகள் இன்னும் முக்கியமானவைதான். ஆனால் அவை மட்டும் போதாது. நடைமுறைப் பயன்பாட்டில் மாடல் எவ்வளவு பயனுள்ளதாகச் செயல்படுகிறது என்பதையும் கண்காணிக்க வேண்டும்.
முதலாவதாக, தொழில்நுட்பத்தால் என்ன செய்ய முடியும் என்பதற்கும் ஒரு நிறுவனத்திற்குள் இருக்கும் எதார்த்தத்திற்கும் இடையே பெரிய இடைவெளி உள்ளது. ஒவ்வொரு அதிநவீன மாடல் அறிவிப்புக்கும் ஈடாக உங்கள் நிறுவனம் முன்னேறவில்லை என்றால், அந்த நிலையில் நீங்கள் மட்டும் இல்லை.
இரண்டாவதாக, செய்யும் வேலைகளைவிட அவற்றின் பலன்களில் தொடர்ந்து கவனம் செலுத்துங்கள். குறிப்பாக நிறுவனங்கள் முயற்சியின் அளவைக் காட்டும் அளவீடுகளுக்கு முக்கியத்துவம் அளிக்கும்போது, கண்ணுக்குத் தெரியும் பரபரப்பை அர்த்தமுள்ள முன்னேற்றமாகத் தவறாகப் புரிந்துகொள்வது எளிது. உதாரணமாக, உருவாக்கப்பட்ட நிரல் வரிகளின் எண்ணிக்கை, நீங்கள் பயனுள்ள மதிப்பை உருவாக்கினீர்களா என்பதைச் சொல்லாது.
இறுதியாக, தேவைப்படும் மனிதத் திறனையும் சுயமாக முடிவெடுத்துச் செயல்படும் ஆற்றலையும் பெரும்பாலான நிறுவனங்கள் குறைத்து மதிப்பிடுகின்றன. இது வெறும் பொதுவான திறன் மேம்பாட்டுத் திட்டமாக மட்டும் இருக்க முடியாது. இந்தக் கருவிகளை விவேகத்துடன் பயன்படுத்தக்கூடிய நபர்கள் தலைவர்களுக்குத் தேவை. திறமையான பொறியாளரிடம் Codex போன்ற கருவியைக் கொடுத்தால், அதன் தாக்கம் பல மடங்காகலாம்; ஆனால் நடைமுறைப் பயன்பாட்டு அமைப்புகளைச் சரிபார்க்கும் விவேகம் இல்லாவிட்டால், ஆபத்தும் பல மடங்காகும்.
உங்கள் கைகளில் இருப்பது ஓர் ஏவுகணை. குறிப்பாக நடைமுறைப் பயன்பாட்டு அமைப்புகளில், சரிபார்ப்பும் பாதுகாப்பு வரம்புகளும் தேவை. கட்டுப்பாட்டைச் சரியான நபர்களிடம் ஒப்படைக்க வேண்டும்.


