Microsoft-ன் MAI-Base-2 அறிக்கை அளவிடுவது முன்பயிற்சியை; வெளியிடப்பட்ட மாதிரியை அல்ல

80 பில்லியன் செயல்படும் அளவுருக்களும் மொத்தம் 2.8 டிரில்லியன் அளவுருக்களும் கொண்ட mixture-of-experts மாதிரியான MAI-Base-2-ன் முன்பயிற்சியை முடித்ததாக Microsoft AI கூறுகிறது. அதன் அக்டோபர் 15 தொழில்நுட்ப அறிக்கை 2026 ஆகஸ்ட் மற்றும் செப்டம்பரில் 16,000 GB200 GPU-களில் நடந்த 38 நாள் பயிற்சியை விவரிக்கிறது. முடிவை மதிப்பிடும் பொறியாளர்களுக்கு மாதிரித் தரவரிசையைவிடக் குறுகிய கேள்வியே பயனுள்ளது: பிந்தைய பயிற்சிக்கும் பொது அணுகலுக்கும் முன் இந்த அறிக்கை எதை அளவிடுகிறது?

பதிலுக்கு இரு பகுதிகள் உள்ளன. சோதித்த செக்பாயிண்ட்களைவிட ஒதுக்கிவைக்கப்பட்ட நான்கு மதிப்பீட்டுப் பிரிவுகளில் ஒரு பைட்டுக்கான பிட்கள் (BPB) குறைவாக இருந்ததாக Microsoft தெரிவிக்கிறது. தனியாக, தனது அளவுவாரிப் பரிசோதனைத் தொடருக்குப் பொருத்திய வளைவுகளைப் பயன்படுத்தி, ஒரே BPB-யை அடையத் தனது பயிற்சி முறைக்கு DeepSeek-V4-Pro-Base-ஐ விட 4.2–12.3 மடங்கு குறைவான பயிற்சி FLOPs தேவை என மதிப்பிடுகிறது. இவை வேறு முடிவுகள்; அவற்றின் வரம்புகளும் வேறு.

பெரிய மாற்றம்

• என்ன மாறியது: பெரிய அளவிலான அடிப்படை மாதிரிப் பயிற்சி முடிந்ததாக Microsoft தெரிவித்துள்ளது; ஒதுக்கிவைக்கப்பட்ட உரை மதிப்பீடுகளையும் பயிற்சி முறையின் விரிவான விளக்கத்தையும் அளித்துள்ளது. MAI-Base-2 இன்னும் பிந்தைய பயிற்சியில் உள்ளது.
• இது ஏன் முக்கியம்: மாதிரித் தரத்தைப் பயிற்சிக் கணக்கீட்டுடன் Microsoft எப்படி இணைக்கிறது, எந்தத் தரவு, கட்டமைப்பு, உள்கட்டமைப்புத் தேர்வுகள் பங்களித்ததாகச் சொல்கிறது என்பதைப் பொறியாளர்கள் ஆராயலாம். ஆதாரம் முன்பயிற்சி இழப்பு மற்றும் Microsoft-ன் உள் அளவீடுகளைப் பற்றியது; குறிப்பிட்ட வேலைப்பளுவில் சோதிக்கப் பொது MAI-Base-2 இன்ஃபரன்ஸ் சேவையோ வெளியிடப்பட்ட செக்பாயிண்டோ இல்லை.
• கவனிக்க வேண்டியது: இந்த அடித்தளம் தயாரிப்புகளிலோ வெளிப்புறக் குழுக்களுக்கோ பயனுள்ளதா என்பதைப் பிந்தைய பயிற்சி முடிவுகளும் அணுகல் விதிகளும் தீர்மானிக்கும். Foundry வழியாக எடைகளுக்கு உரிமம் வழங்கும் Microsoft-ன் கூறப்பட்ட திட்டம் எதிர்காலச் சலுகை; தற்போதைய கிடைக்கும் நிலை அல்ல.

ஒதுக்கிவைக்கப்பட்ட தரவு ஒப்பீடு என்ன சொல்கிறது

Microsoft முன்பயிற்சி பெற்ற மாதிரிகளை ஒதுக்கிவைக்கப்பட்ட உரையில் BPB மூலம் மதிப்பிடுகிறது. இது ஒரு பைட்டுக்கான கணிப்பு இழப்பைக் காட்டுவதால் டோக்கனைசரைச் சார்ந்த மதிப்பெண்ணைத் தவிர்க்கிறது. நிரல், STEM, கணிதம், கேள்வி-பதில் மதிப்பீடுகளை அறிக்கை குறிப்பிடுகிறது. நிரல் தொகுப்பு MAI-யின் சொந்த நிரல் தொகுதியிலிருந்து வந்ததாகவும், மற்றவற்றை Microsoft வழங்குநர்களிடம் தயாரிக்கச் சொன்னதாகவும் கூறுகிறது; நான்கிலும் பயிற்சித் தரவுடனான கலப்பை நீக்கியதாக Microsoft சொல்கிறது. இவை மதிப்பீட்டாளர் விவரித்த பாதுகாப்பு நடவடிக்கைகள்; சுயாதீனமாக மீண்டும் செய்யப்பட்ட தரவுத் தணிக்கை அல்ல.

இந்தத் தொகுப்புகளில் சோதித்த எல்லா மாதிரிகளையும்விட MAI-Base-2-ன் BPB குறைவாக இருந்ததாக Microsoft தெரிவிக்கிறது. செக்பாயிண்ட்களின் வேறுபாடு முக்கியம். தனது பயிற்சி முறையின் ஒப்பீட்டு அடிப்படையாக Microsoft பயன்படுத்தும் DeepSeek-V4-Pro-Base, வெளியிடப்பட்ட அடிப்படை மாதிரி. Microsoft கூறுவதன்படி பிந்தைய பயிற்சி பெற்ற செக்பாயிண்ட்கள் மட்டுமே Kimi K3, Qwen3.8-2.4T-A95B, MiMo-V2.6-Pro-RL ஆகியவற்றுக்குக் கிடைத்தன; பிந்தைய பயிற்சி இந்த மதிப்பீடுகளைப் பாதிக்கலாம் என்பதையும் அது ஒப்புக்கொள்கிறது. எனவே அடிப்படை மாதிரிகளையும் பிந்தைய பயிற்சி மாதிரிகளையும் காட்டும் BPB வரைபடம் நான்கு போட்டியாளர்களின் முன்பயிற்சி முறைகளுக்கான கட்டுப்படுத்தப்பட்ட ஒப்பீடு அல்ல. OpenAI செக்பாயிண்ட் சோதனையை அறிக்கை தரவில்லை; ஆகவே MAI-Base-2 ஒரு OpenAI மாதிரியை மிஞ்சுகிறது என்ற கூற்றுக்கு ஆதாரமில்லை.

BPB பதிலளிக்கும் கேள்வி உதவியாளரின் பயன்தன்மையிலிருந்தும் வேறுபடுகிறது. அது தேர்ந்தெடுத்த ஒதுக்கிவைக்கப்பட்ட தகவலின் இழப்பை அளவிடுகிறது; அறிவுறுத்தல்களைப் பின்பற்றுதல், பிந்தைய பயிற்சிக்குப் பிறகான பகுத்தறிதல், தாமதம், பாதுகாப்பு அல்லது செயலியின் இயக்கச் செலவை அல்ல. MAI-Base-2 இன்னும் பிந்தைய பயிற்சியில் இருப்பதாக Microsoft கூறுகிறது; பொது எடைகள், இன்ஃபரன்ஸ் முனையம், விலை அல்லது வாடிக்கையாளர் விளைவுகளை அறிக்கை வழங்கவில்லை.

கணக்கீட்டுத் திறன் வரம்பு எங்கிருந்து வருகிறது

4.2–12.3× என்ற கூற்று பொருத்தப்பட்ட அளவுவிரிவாக்க வளைவுகளிலிருந்து வருகிறது. தனது அளவுவாரிப் பரிசோதனைத் தொடரையும் MAI-Base-2-ன் தெரிந்த இறுதி முடிவையும் பயன்படுத்தி நான்கு மதிப்பீடுகளில் ஒவ்வொன்றுக்கும் தனியான BPB-க்கும் பயிற்சி FLOPs-க்கும் இடையிலான வளைவை Microsoft பொருத்தியது. பின்னர் DeepSeek-V4-Pro-Base-ன் BPB-க்குச் சமமாகத் தனது முறைக்கு எவ்வளவு கணக்கீடு தேவை என்பதை மதிப்பிட்டு, ஒப்பீட்டு மாதிரியின் தெரிவிக்கப்பட்ட பயிற்சிக் கணக்கீட்டுடன் ஒப்பிட்டது. சமநிலைப் புள்ளிகள் பொருத்தப்பட்ட மாதிரியின் வரம்புக்குள் இருப்பதாகவும் அதற்கு வெளியே நீட்டித்துக் கணிக்கப்பட்டவை அல்ல என்றும் Microsoft கூறுகிறது.

அந்த வரம்பு இந்த மதிப்பீடுகளில் Microsoft-ன் முறைக்கான சமமான இழப்பு அடிப்படையிலான மதிப்பீடு ஆகும். இது MAI-Base-2-ன் உண்மையான பயிற்சிக் கட்டணத்தில் அளவிடப்பட்ட குறைவு அல்ல; இன்ஃபரன்ஸ் வேக உயர்வோ வேறு ஆய்வகத்துக்கும் அதே முடிவு கிடைக்கும் என்பதற்கான சான்றோ அல்ல. தனது MAI-Base-1-ஐ ஒப்பிடும்போது FLOPs திறனில் மதிப்பிடப்பட்ட 6.3–12.7× உயர்வையும் Microsoft தெரிவிக்கிறது. இரு நிலைகளிலும் எண்ணைப் புரிந்துகொள்ளத் தேர்ந்தெடுத்த ஒப்பீட்டு அடிப்படை, மதிப்பீட்டுத் தொகுப்பு, வளைவுப் பொருத்த முறை ஆகியவை வாசகருக்குத் தேவை.

முக்கியப் பயிற்சி இயக்கத்துக்கு Microsoft இன்னொரு ஜோடி எண்களைக் கொடுக்கிறது: சராசரி மாதிரி FLOPs பயன்பாடு (MFU) 21%, goodput 89%. இங்கு goodput என்பது பயிற்சி முன்னேறிய நேரத்தின் பங்கு. BF16-ல் ஒவ்வொரு GB200-க்கும் கோட்பாட்டளவில் 2.5 PFLOPS என்பதை அடிப்படையாகக் கொண்டு MFU-வை அறிக்கை இயல்பாக்குகிறது; மறுஉருவாக்கம் மற்றும் ஆப்டிமைசர் FLOPs-ஐ விலக்குகிறது. கோட்பாட்டுக் கணக்கீட்டுத் திறனில் பயிற்சிக் கணக்கீடு எவ்வளவு பயன்படுத்தியது என்பதே MFU; சென்ற நேரத்தில் இடையூறும் முன்னேற்றமும் எவ்வளவு என்பதே goodput. இவை இரண்டுமே சமமான BPB-க்கான FLOPs திறன் விகிதம் அல்ல. வடிவமைப்புத் தேர்வுகளை மதிப்பிடும்போது பயிற்சி FLOPs-ல் அளவிட்ட நன்மைகளையும் உண்மையில் சென்ற நேரத்தில் அளவிட்ட நன்மைகளையும் Microsoft தெளிவாக வேறுபடுத்துகிறது.

முடிவைத் தந்ததாக Microsoft கூறும் பயிற்சி முறை

அறிக்கை நம்பத்தகுந்ததாகத் தோன்றும் செயல்முறைகளுடன் ஆதாரத்தின் வரம்புகளையும் தருகிறது. அளவுவாரிப் பரிசோதனைத் தொடர் சிறிய பயிற்சிகளில் தனித்த மாதிரிகளைக் கட்டுப்படுத்தி, தரவுத்தொகுப்புகள் முழுப் பயிற்சியிலுள்ள அதே எண்ணிக்கையில் மீண்டும் வரும்படி செய்கிறது. பெரிய அளவில் மிகைப்பொருத்தம் ஏற்படுத்தும் தேர்வுகளைச் சிறிய பரிசோதனைகள் விரும்புவதை இது தடுத்ததாக Microsoft கூறுகிறது. கற்றல் விகிதம், எடைச் சிதைவு, டிராப்அவுட் ஆகியவற்றின் அனுபவ அடிப்படையிலான அளவுவிரிவாக்க விதிகளையும் விவரிக்கிறது; முழுப் பயிற்சிக்கு முன் நடுத்தர அளவு மாதிரியில் அவை சரிபார்க்கப்பட்டன.

அடர்த்தி குறைந்த மாதிரியில் நிபுணர் வழித்தேர்வு, நிலையான நினைவகத் திறன், குழுவாக்கப்பட்ட தொடர்பு ஆகியவற்றின் மாற்றங்கள் MoE அடுக்குகளின் MFU-வை 24%-லிருந்து 35%-ஆக உயர்த்தி, ஒவ்வொரு அடுக்கிலும் MoE பயன்படுத்த உதவியதாக Microsoft கூறுகிறது. இது கூறு அளவிலான உள் அளவீடு; முழு 38 நாள் பயிற்சியின் 21% என்ற சராசரி MFU-வைக் குறிப்பது அல்ல. ஆப்டிமைசர் பணியின் பின்னர் Muon 165 மில்லிவினாடிகள், அதாவது சராசரி பயிற்சி மறு இயக்கத்தின் 2.1%, எடுத்ததாகவும் பயிற்சியை நிலைப்படுத்த ஆக்டிவேஷன் கிரேடியன்ட்களை வெட்டிக் கட்டுப்படுத்தும் முறை பயன்படுத்தப்பட்டதாகவும் அறிக்கை விவரிக்கிறது. தரவுப் பகுதியின்படி தனித்த டோக்கன் தொகுப்பு MAI-Base-1-ஐ விட சுமார் 36% வளர்ந்தது. 4.5 டிரில்லியன் தனித்த பார்வை-மொழி டோக்கன்களை அது தெரிவிக்கிறது; மீண்டும் பயன்படுத்தியதையும் சேர்த்தால் பார்வை-மொழித் தரவு 50 டிரில்லியன் டோக்கன் பயிற்சிக் கலவையில் 18% ஆக இருந்தது.

Microsoft பெரிய அளவை எப்படிக் கையாண்டது என்பதற்கான பயனுள்ள பொறியியல் விளக்கமாக இந்த விவரங்கள் அறிக்கையை ஆக்குகின்றன. சுயாதீனமாக மீண்டும் செய்யப்பட்ட பயிற்சிகள் மூலம் ஒவ்வொரு மாற்றத்தின் காரணரீதியான பங்களிப்பையும் அவை தனிமைப்படுத்தவில்லை. தரவின் தரத்திற்கும் மாதிரியாக்கத் தேர்வுகளுக்கும் Microsoft முடிவை இணைக்கிறது; வெளிப்புறக் குழுக்கள் அறிக்கை மட்டுமே கொண்டு அந்த விளைவுகளை உறுதிப்படுத்த முடியாது. உடனடியாக உள்ள ஆதாரம் முடிக்கப்பட்ட அடிப்படை மாதிரி, Microsoft தேர்ந்தெடுத்த ஒதுக்கிவைக்கப்பட்ட தரவின் இழப்புகள், வளைவுப் பொருத்த அடிப்படையிலான பயிற்சி முறைத் திறன் பகுப்பாய்வு ஆகியவையே. தயாரிப்புச் செயல்திறன் பின்னர் வரும் செக்பாயிண்ட்டுக்கான தனி அளவீடாகவே உள்ளது.

ஆதாரங்களும் மேலும் படிக்கவும்

• Microsoft AI, ‘Microsoft AI-யில் முன்னணி முன்பயிற்சி’, அக்டோபர் 15, 2026. கட்டமைப்பு, பயிற்சி இயக்கம், ஒதுக்கிவைக்கப்பட்ட BPB ஒப்பீடுகள், பொருத்தப்பட்ட கணக்கீட்டுத் திறன் வரம்புகள், பயன்பாடு, தரவு, கூறப்பட்ட வெளியீட்டு நிலை ஆகியவற்றுக்கான நிறுவனத்தின் சொந்தத் தொழில்நுட்ப அறிக்கை. இங்குள்ள அளவீடுகளும் நடைமுறைப்படுத்தல் விளைவுகளும் Microsoft தெரிவித்தவை; BIG CHANGE பயிற்சியை மீண்டும் செய்யவோ MAI-Base-2-ஐ மதிப்பிடவோ இல்லை.