2026 செப்டம்பர் 23 அன்று நடைபெற்ற Fellows Forum-இல், OpenAI-யின் பயன்பாட்டு ஆய்வுத் தலைவரான Boris Power, நிறுவனத்தின் ஆய்வுகளில் 80–90% “GPT-7, GPT-8 மற்றும் அதற்குப் பிந்தைய தலைமுறைகள்” மீது கவனம் செலுத்துவதாக மதிப்பிட்டார். தற்போதைய தயாரிப்புப் பணிகளையும் மேலும் திறனுள்ள மாடல்களுக்கான ஆய்வையும் OpenAI எவ்வாறு சமநிலைப்படுத்துகிறது என்பதை விளக்கும்போது அவர் இந்த எண்ணிக்கையைக் கூறினார். இது பொது உரையாடலில் அவர் தெரிவித்த மதிப்பீடு; ஒப்பிட்டுச் சரிபார்க்க OpenAI ஆய்வுப் பங்கீட்டு விவரங்களை வெளியிடவில்லை.

முக்கிய மாற்றம்

  • என்ன மாறியது: மக்கள் இப்போது பயன்படுத்தும் மாடல்களை மேம்படுத்துவது, பிற்காலத் தலைமுறைகளை இலக்கிடும் ஆய்வு என இரு தொடர்புடைய பாதைகளை Power விவரித்தார். OpenAI ஆய்வுகளில் பெரும்பகுதி பிற்காலத் தலைமுறைகளுக்கான ஆய்வே என அவர் மதிப்பிட்டார்.
  • இது ஏன் முக்கியம்: வரையறுக்கப்பட்ட பணியில் வலுவான பெரிய மாடல், சிறியதும் செலவு குறைந்ததுமான மாடலுக்குப் பயிற்சி எடுத்துக்காட்டுகளை வழங்கலாம். தங்கள் தயாரிப்புகளில் சிறிய மாடல்களைப் பயன்படுத்தினாலும், முன்னணி மாடல்களின் ஆய்வைப் பின்தொடர இது உருவாக்குநர்களுக்கு ஒரு காரணமாகிறது.
  • கவனிக்க வேண்டியது: எதிர்கால மாடல் வெளியீடுகளும் தொழில்நுட்ப வெளிப்பாடுகளும், பெரிய மாடல்களின் முன்னேற்றம் சிறியவற்றை எட்டுகிறதா என்பதைக் காட்டலாம். GPT-7 அல்லது GPT-8 வெளியீட்டுத் தேதிகள், விவரக்குறிப்புகள், முடிவுகள் எதையும் அந்த நேர்காணல் வழங்கவில்லை.

இந்த மதிப்பீட்டின் பின்னணி

வாடிக்கையாளர் கோரிக்கைகள் எவ்வாறு ஆய்வுக்குத் திரும்பிச் செல்கின்றன என்று Zachary Lipton கேட்ட கேள்விக்குப் Power பதிலளித்தார். கருவிப் பயன்பாடு போன்ற குறிப்பிட்ட நடத்தையைச் சிறப்புப் பயிற்சித் தரவும் பயன்பாட்டு ஆய்வும் கொண்டு OpenAI மேம்படுத்தலாம் என்றார். அவரது விளக்கத்தில், மாடல் தலைமுறைக்குள் செய்யப்படும் படிப்படியான புதுப்பிப்புகள் இத்தகைய தேவைகளை அடிக்கடி நிறைவேற்றுகின்றன. பெரிய புதிய மாடல் தலைமுறை வந்தால், எந்தச் சிறப்புத் திருத்தங்கள் இன்னும் தேவை என்பதே மாறலாம் என்றும் அவர் வாதிட்டார். நீண்டகால உத்தி இல்லாவிட்டாலும், இன்றைய கற்றலையும் மேம்பாட்டையும் விரைவாக்கும் வழிகளாகச் சில தற்போதைய முதலீடுகளை அவர் விவரித்தார்.

அந்த வேறுபாட்டைப் பற்றிய அவரது 80–90% மதிப்பீடு Fellows Forum பதிவின் 1:32:52 நேரத்தில் வெளிப்பட்டது. அவர் குறிப்பிட்ட ஆய்வு OpenAI-யில், அவரது சொந்தக் குழுவில் மட்டும் அல்ல. கணக்கில் சேர்க்கப்பட்ட ஆய்வு எது, எந்தக் காலப்பகுதி, பட்ஜெட், ஊழியர் எண்ணிக்கை அல்லது மதிப்பீட்டு முறை பயன்படுத்தப்பட்டது என்பதற்கான வரையறையை அந்தப் பதிவோ OpenAI வெளியிட்ட ஆவணங்களோ வழங்கவில்லை. எனவே இந்த எண்ணிக்கையைத் தணிக்கை செய்யப்பட்ட செலவு அல்லது பணியாளர் அளவீடாக அல்ல, முன்னுரிமைகள் பற்றிய Power-இன் விளக்கமாகவே கருத வேண்டும்.

பிற்காலத் தலைமுறைகளுக்கான எடுத்துக்காட்டாக Power GPT-7, GPT-8 ஆகியவற்றைக் குறிப்பிட்டார். அந்த மாடல்கள் எதையும் அவர் அறிவிக்கவில்லை; மேம்பாட்டு மைல்கல்லையோ வெளியீட்டு அட்டவணையையோ தெரிவிக்கவில்லை. OpenAI-யின் தற்போதைய மாடல் பட்டியல் GPT-6 Astra, Sol, Luna ஆகியவற்றைப் பட்டியலிடுகிறது; Power பயன்படுத்திய பெயர்களுக்கான பொது சூழலை இது தருகிறது, பிற்காலத் தலைமுறைகளின் நிலையைக் குறித்த சான்றை அல்ல.

மாடல் distillation-ஐ அவர் ஏன் குறிப்பிட்டார்

அந்த மதிப்பீட்டுக்குப் பின் உடனடியாக, பெரிய GPT-6 Astra மாடல் சிறிய GPT Luna மாடலுக்குப் பயிற்சி அளிப்பதை Power விவரித்தார். வலுவான பெரிய மாடல், சிறியதற்குப் பயிற்சி எடுத்துக்காட்டுகளை வழங்க முடியும் என்பதே அவரது கருத்து. குறிப்பிட்ட வெளியிடப்பட்ட Luna மாடல் Astra-விலிருந்து பயிற்றுவிக்கப்பட்டது என அவர் ஆவணப்படுத்தவில்லை; ஒரு ஆய்வு முறையையே விளக்கினார்.

OpenAI-யின் மேற்பார்வையுடனான நுணுக்கப் பயிற்சி வழிகாட்டி இந்தச் செயல்முறையை விளக்குகிறது. முதலில், வரையறுக்கப்பட்ட பணியில் பெரிய மாடல் நன்றாகச் செயல்படுகிறதா என உருவாக்குநர் சரிபார்த்து, பொருத்தமான வெளியீடுகளைத் தேர்ந்தெடுத்து, அவற்றைச் சிறிய மாடலுக்கான பயிற்சி எடுத்துக்காட்டுகளாகப் பயன்படுத்தி, அதே பணியில் சிறிய மாடலை மதிப்பிடுகிறார். இதனால் சிறிய மாடலின் செயல்திறனை பெரிய மாடலுக்கு நெருக்கமாக்கலாம் என OpenAI கூறுகிறது குறிப்பிட்ட ஒரு பணியில். ஆசிரியர் மாடலின் எல்லாத் திறன்களையும் சிறிய மாடல் பெறும் என்று இதனால் பொருளல்ல. OpenAI-யின் மாடல் distillation அறிவிப்பும் மதிப்பீடு, சேமித்த வெளியீடுகள், நுணுக்கப் பயிற்சி ஆகியவை மீண்டும் மீண்டும் நடைபெறும் செயல்முறை என விவரிக்கிறது.

இந்த யோசனைக்கு நீண்ட வரலாறு உண்டு. 2015-ஆம் ஆண்டு ஆய்வுக் கட்டுரையில், பெரிய அமைப்புகளிலிருந்து எளிதில் பயன்படுத்தக்கூடிய மாடலுக்குத் தகவலை மாற்றுவதை Geoffrey Hinton, Oriol Vinyals, Jeff Dean ஆகியோர் ஆய்வு செய்தனர். ஆசிரியர்–மாணவர் கருத்துக்கு அந்தப் பணி வரலாற்றுச் சூழலை அளிக்கிறது; OpenAI-யின் தற்போதைய ஆய்வுப் பங்கீட்டைப் பற்றி அது எதுவும் கூறவில்லை.

முன்னணி ஆய்வுக்கும் நடைமுறை மாடல்களுக்கும் இடையிலான தொடர்பை Power ஏன் சுட்டினார் என்பதை இது விளக்குகிறது. திறனுள்ள ஆசிரியர் மாடல், குறிப்பிட்ட பணிக்கான குறைந்த செலவுள்ள அமைப்புகளுக்குப் பயனுள்ள பயிற்சிப் பொருளை உருவாக்கலாம். இது நன்றாகச் செயல்படுமா என்பது பணி, தேர்ந்தெடுக்கப்படும் எடுத்துக்காட்டுகள், மதிப்பீடு ஆகியவற்றைப் பொறுத்தது. Astra–Luna எடுத்துக்காட்டுக்கான distillation முடிவுகளையோ ஒப்பீட்டு அளவீடுகளையோ Power வழங்கவில்லை.

OpenAI எங்கு அதிக ஆய்வு மதிப்பைக் காண்கிறது என்பது பற்றிய Power-இன் கருத்தை அவரது மதிப்பீடு வெளிப்படுத்துகிறது. அந்தக் கருத்தும் அவர் குறிப்பிட்ட பொதுவான நுட்பமும் பொது ஆதாரங்களில் உறுதிப்படுகின்றன. ஆனால் OpenAI-யின் வளங்கள் உண்மையில் எவ்வாறு பகிரப்பட்டுள்ளன, எதிர்கால GPT தலைமுறை என்ன வழங்கும் என்பவை இதனால் உறுதியாகவில்லை.