நியூரான் விளக்கத்தன்மை குறித்த Goodfire கருத்துக்கு சூப்பர்பொசிஷன் சார்ந்த எதிர்ப்பு

பல பொருள்களைக் கொண்டிருப்பதாகத் தோன்றும் ஒரு நியூரானை, புரிந்துகொள்ள முடியாத நரம்பியல் வலையமைப்புக்கான சான்றாக ஆராய்ச்சியாளர்கள் அவசரப்பட்டுக் கருதியுள்ளனர் என Goodfire ஆராய்ச்சியாளர் Nick Cammarata வாதிடுகிறார். தனது அக்டோபர் 15 கட்டுரையில், விளக்கத்தன்மை குறித்த முந்தைய ஆய்வுகளில் உள்ள எடுத்துக்காட்டுகளை, தனது சொந்தப் பணிகள் உட்பட, அவர் மறுபரிசீலனை செய்து அவற்றில் பலவற்றுக்கு வேறொரு விளக்கத்தை முன்வைக்கிறார். இதை, ஆய்வில் இருக்கும் ஒரு கருதுகோளின் முறைசாரா விளக்கம் என அவர் குறிப்பிடுகிறார். மொழி மாதிரிப் பரிசோதனைகள் குறித்த விரிவான தொழில்நுட்ப ஆய்வுக்கட்டுரை இன்னும் வெளிவரவில்லை.

பெரிய மாற்றம்

• என்ன மாறியது: வலையமைப்பின் சொந்த நியூரான்கள் மற்றும் சுற்றுகள் வழியாக மாதிரியின் சில நடத்தைகளை ஆய்வு செய்யும் வழியை Cammarata முன்வைக்கிறார். முந்தைய எடுத்துக்காட்டுகளுக்கான அவரது மறுவிளக்கமும் மொழி மாதிரியின் தொடக்கநிலை ஆய்வும், நியூரான்கள் ஏன் பொருள்களைக் கலப்பதாகத் தோன்றுகின்றன என்பதற்கான ஒரு விளக்கத்தைச் சவாலுக்கு உட்படுத்துகின்றன; முழு வலையமைப்பும் புரிந்துகொள்ளப்பட்டுவிட்டது என்பதை அவை நிறுவவில்லை.
• இது ஏன் முக்கியம்: மாதிரியின் பதிலை ஆராயும் ஆய்வாளர்கள், அம்சங்களைப் பிரித்தெடுக்க முதலில் தனி மாதிரியைப் பயிற்றுவிக்காமல் நியூரான் அளவிலான கணக்கீட்டுத் தடங்களைப் பயன்படுத்தலாம். அந்தத் தடங்கள் நம்பகமான இடங்களில் நேரடி ஆய்வை இது நடைமுறைக்கு ஏற்றதாக்கும். எனினும், புரிந்துகொள்ளக்கூடிய ஒரு தடத்திலும் முக்கியமான கணக்கீடுகள் விடுபடலாம்.
• எதைக் கவனிக்க வேண்டும்: மொழி மாதிரி ஆய்வு எவ்வாறு நடத்தப்பட்டது என்பதையும், குறிப்பாக பலவீனமான செயல்பாடுகளுக்கு அதன் விளக்கங்கள் எவ்வளவு நிலைத்து நிற்கின்றன என்பதையும் வாக்குறுதியளிக்கப்பட்ட தொழில்நுட்ப ஆய்வுக்கட்டுரை காட்ட வேண்டும். வலையமைப்பின் இயல்பான நியூரான்களை ஆய்வு செய்வது எங்கு பயனுள்ளது, மற்ற முறைகள் எங்கு இன்னும் தேவை என்பதை அந்தச் சான்றுகள் தீர்மானிக்க உதவும்.

ஒரு நியூரானுக்குப் பல பொருள்கள் இருப்பதுபோல் ஏன் தோன்றலாம்

ஒரு மாதிரிக்குள் நடக்கும் கணக்கீடுகளை ஆராய்ந்து அதன் நடத்தையை விளக்க முயல்வதே இயங்குமுறை விளக்கத்தன்மை ஆய்வு. தொடர்பற்றவைபோல் தோன்றும் உள்ளீடுகளுக்கு எதிர்வினையாற்றும் நியூரான் பலபொருள் கொண்டது என அழைக்கப்படுகிறது. செல்வாக்குள்ள ஒரு விளக்கமான சூப்பர்பொசிஷன் என்பது, ஒவ்வொரு நியூரானுக்கும் ஒரு அம்சம் என்ற கண்ணோட்டம் அனுமதிப்பதைவிட அதிகமான அம்சங்களை ஒரு வலையமைப்பு தனக்குக் கிடைக்கும் பரிமாணங்களுக்குள் அடக்குகிறது என்பதாகும். இந்த விளக்கத்தின்படி, ஒரே நியூரான் தொடர்பற்ற பல அம்சங்களில் பங்கேற்கலாம்; சுற்றைப் புரிந்துகொள்வதற்கு முன் ஆராய்ச்சியாளர்கள் அந்த அம்சங்களைப் பிரிக்க வேண்டியிருக்கலாம்.

அந்த விளக்கத்தின் ஒரு குறுகிய வடிவத்தை Cammarata சவாலுக்கு உட்படுத்துகிறார்: ஒன்றுக்கொன்று இடையூறு செய்யாததால், தொடர்பற்றவைபோல் தோன்றும் வேலைகள் பொதுவாக ஒரே நியூரான்களுக்குள் அடக்கப்படுகின்றன என்ற கருத்து அது. மாதிரியின் ரெசிடுவல் ஸ்ட்ரீம் முழுவதும் தகவல் எவ்வாறு பிரதிநிதித்துவப்படுத்தப்படலாம் என்பது உட்பட, “சூப்பர்பொசிஷன்” என்ற சொல்லின் எல்லாப் பயன்பாடுகளையும் அவரது கட்டுரை முடிவுக்குக் கொண்டுவரவில்லை.

அவரது மிகத் தெளிவான எடுத்துக்காட்டு InceptionV1 என்ற பட வகைப்பாட்டு மாதிரியிலிருந்து வருகிறது; விளக்கத்தன்மை குறித்த ஆரம்பகால ஆய்வுகளில் அது ஆராயப்பட்டது. பூனையின் முகங்களுக்கும் கார்களின் முன்புறங்களுக்கும் எதிர்வினையாற்றுவதாகத் தோன்றிய ஒரு நியூரான், பலபொருள் தன்மையின் பரிச்சயமான எடுத்துக்காட்டானது. அவற்றின் பொதுவான சமிக்ஞை கூர்மையான V-வடிவ அமைப்பு என Cammarata இப்போது வாதிடுகிறார். அதன் உள்ளீடுகள், அடுத்தடுத்த இணைப்புகள், கூர்மையான மற்றும் வட்டமான வடிவங்களுக்கு அது காட்டும் எதிர்வினை ஆகியவற்றை அவர் சுட்டுகிறார். நாய் சார்ந்த நியூரான்களிடையே கார் சார்ந்த அம்சம் மறைந்திருப்பதாகத் தோன்றிய மற்றொரு ஆரம்பகாலச் சுற்றில், நாய் சார்ந்ததாகத் தோன்றிய சில அம்சங்கள் பொதுவான உடல் நிலைப்பாட்டையும் தவறாக வழிநடத்தும் அம்சக் காட்சிப்படுத்தல்களையும் பிரதிபலிக்கின்றன என அவர் வாதிடுகிறார். இவை, முன்னர் வெளியிட அவர் உதவிய பணிகள் உட்பட, குறிப்பிட்ட சுற்றுகள் குறித்து Cammarata செய்த மறுஆய்வுகள்; தொடர்பற்ற அம்சங்கள் ஒரே நியூரான்களை ஒருபோதும் பகிர்வதில்லை என்பதற்கான பொதுவான நிரூபணம் அல்ல.

விரிவான மாற்று விளக்கத்தை அவர் மீள்நிகழ் பொதுமைப்படுத்தல் என அழைக்கிறார். ஒரு நியூரான் கற்கும்போது, அதன் வேலை அருகிலுள்ள பொருள்களுக்குக் கிளைவிட்டு, பின்னர் மீண்டும் கிளைவிடலாம். கட்டுரையிலுள்ள ஒரு மொழி மாதிரி எடுத்துக்காட்டு “iy” என்ற எழுத்துத் தொடரில் தொடங்கி, “diy” என விரிந்து, பின்னர் “do it yourself” என மாறுகிறது. இறுதிச் சொற்றொடரில் மூல எழுத்துத் தொடர் இல்லை; இருந்தும், முன்வைக்கப்படும் கற்றல் பாதை, கலவையாகத் தோன்றும் அந்த அமைப்புக்கு ஆராய்ச்சியாளர் விசாரிக்கக்கூடிய வரலாற்றை அளிக்கிறது. பயிற்சி ஓட்டங்களில் இத்தகைய கிளைப்புகளை ஆசிரியர்கள் பார்த்துள்ளதாகக் கட்டுரை கூறுகிறது. அதேவேளையில், மிகுந்த பலபொருள் தன்மையுள்ள ஒவ்வொரு நியூரானும் இப்படித்தான் உருவாகிறது என்பதைத் தாங்கள் கடுமையான ஆய்வின் மூலம் காட்டவில்லை என்பதையும் ஒப்புக்கொள்கிறது.

மொழி மாதிரிச் சான்றுகள் இதுவரை காட்டுவது என்ன

Qwen3-32B குறித்த தொடக்கநிலை ஆய்வுகளில், சுமார் 90% நியூரான் துருவங்களுக்கு ஒரு முதன்மை வேலை இருந்ததாகவும், பெரும்பாலும் தொடர்புடைய கிளைப்பணிகளும் இருந்ததாகவும் Cammarata தெரிவிக்கிறார்; சுமார் 7% துருவங்களுக்கு தொடர்புடைய இரண்டு வேலைகள் இருந்தன; சுமார் 2–4% இன்னும் விளக்கப்படவில்லை. துருவம் என்பது ஒரு நியூரானின் எதிர்வினையின் நேர்மறை அல்லது எதிர்மறைப் பக்கம். எனவே, இந்த எண்ணிக்கைகளை முழு நியூரான்களின் முடிவுற்ற கணக்கெடுப்பாகப் படிக்கக் கூடாது. பலவீனமான செயல்பாடுகளுக்கான தொடக்க வரம்பு மதிப்புகள், சுற்றின் ஆழம், எதை ஒரு வேலை எனக் கருதுவது என்ற மதிப்பீடு ஆகியவற்றுடன் இந்தக் கணிப்புகள் மாறுகின்றன எனக் கட்டுரை கூறுகிறது. மாதிரியின் பதிலை மாற்றும் தலையீடுகள் உட்பட, நியூரான்கள் மற்றும் சுற்றுகளின் ஊடாடக்கூடிய எடுத்துக்காட்டுகளையும் Cammarata வழங்குகிறார். அவை அவரது ஆய்வு அணுகுமுறையை விளக்குகின்றன. ஆனால் மொழி மாதிரிகள் முழுவதிலும் விளக்கத்தன்மையை அளக்கும், சக ஆய்வாளர் மதிப்பாய்வு பெற்றுத் தனித்தரப்பால் மறுபரிசோதனையில் உறுதிசெய்யப்பட்ட அளவீடு இந்தக் கட்டுரை அல்ல.

பயனுள்ள கணக்கீட்டுத் தடத்திற்கும் முழுமையான விளக்கத்திற்கும் உள்ள வேறுபாடு முக்கியமானது. Google DeepMind நிறுவனத்தின் விளக்கத்தன்மை ஆராய்ச்சியாளர் Neel Nanda, பொதுவெளி பதிலில் எழுதியதாவது: ஒரு மாதிரி ஏன் குறிப்பிட்ட விதமாக நடந்துகொண்டது என்ற நடைமுறைக் கேள்விகளுக்குப் பதிலளிக்க நியூரான் அடிப்படையிலான பங்களிப்பு வரைபடங்கள் உதவலாம். பிற கணக்கீட்டுத் தட முறைகளைப் போலவே, இந்த வரைபடங்களிலும் கணிசமான கணக்கீடுகள் விடுபடும் என்றும் அவர் எதிர்பார்க்கிறார். மாதிரிகளை முழுவதுமாகத் தலைகீழ் பகுப்பாய்வு செய்வதற்கோ விளக்கத்தன்மைச் சிக்கலைத் தீர்ப்பதற்கோ இந்தக் கட்டுரை குறிப்பிடத்தக்க முன்னேற்றம் என அவர் கருதவில்லை.

Nanda முன்வைக்கும் தொழில்நுட்ப ஆட்சேபனை, நியூரான்களை ஆய்வுக் கருவியாக நிராகரிப்பதைவிடக் குறிப்பானது. குறிப்பாக ரெசிடுவல் ஸ்ட்ரீம் முழுவதும் பிரதிநிதித்துவப்படுத்தப்படும் தகவலுக்கும் பல நியூரான்கள் பங்கேற்கும் கணக்கீடுகளுக்கும் சூப்பர்பொசிஷன் இன்னும் சாத்தியமான விளக்கம் என அவர் வாதிடுகிறார். மொழி மாதிரிகளில் நியூரான்களின் பலவீனமான செயல்பாடுகள், கட்டுரை போதிய அளவு கணக்கில் கொள்ளாத பொருளுள்ள தகவல்களைத் தாங்கியிருக்கலாம் என அவர் சந்தேகிக்கிறார். பலவீனமான செயல்பாடுகளைப் பெரும்பாலும் குறைந்த இழப்புடன் நீக்கலாம் என்றும், அவற்றின் சில விளைவுகள் நுண்ணிய வேறுபாடுகளைப் பிரதிபலிக்கின்றன என்றும் தனிப் பகுதியில் Cammarata வாதிடுகிறார். அங்கு அவர் வழங்கும் எண்ணியல் அப்லேஷன் எடுத்துக்காட்டு ஒரு கணினிப் பார்வை மாதிரியிலிருந்து வருகிறது. அந்தச் சான்றுகளை மொழி மாதிரிகளுக்கு எந்த அளவுக்குப் பொருத்தலாம் என்ற கருத்து வேறுபாடு இன்னும் தீரவில்லை.

ஆராய்ச்சியாளர்களுக்கும் பாதுகாப்புப் பணியாளர்களுக்கும் உடனடியாக முன்வைக்கப்படுவது ஒரு ஆய்வுமுறை: மூல வலையமைப்பின் நியூரான்களை அவற்றின் உள்ளீடுகள், வெளியீடுகள், தலையீடுகள் ஆகியவற்றுடன் சேர்த்து ஆராய்வது, நியூரானுக்கு வைக்கப்பட்ட பெயரையோ செயல்பாட்டுக் காட்சித்தொகுப்பையோ மட்டும் பார்ப்பதைவிட அதிகமாக வெளிப்படுத்தலாம். வாக்குறுதியளிக்கப்பட்ட துணை ஆய்வுக்கட்டுரை, மொழி மாதிரி முறைகளை ஆராய்ந்து இந்த முன்மொழிவின் வரம்புகளைச் சோதிக்கும் வாய்ப்பாக இருக்கும். இந்த விளக்கங்கள் AI அமைப்புகளை மேலும் பாதுகாப்பானவையாக்குகின்றன என்பதை அந்தக் கட்டுரையோ Nanda அளித்த பதிலோ நிரூபிக்கவில்லை.

ஆதாரங்களும் மேலும் வாசிக்கவும்

• Nick Cammarata, “Neural Networks Are Already Clean” (Goodfire, அக்டோபர் 15, 2026). ஆசிரியரின் முறைசாரா ஆய்வுக் கட்டுரையும் ஆய்வில் இருக்கும் கருதுகோளும் சுற்றுகளின் மறுஆய்வுகள், மீள்நிகழ் பொதுமைப்படுத்தல் விளக்கம், Qwen3-32B தொடக்கநிலைக் கணிப்புகள் ஆகியவற்றை வழங்குகின்றன. தொடக்க வரம்பு மதிப்புகளைப் பொறுத்து முடிவுகள் மாறுவதையும் வெளிவரவுள்ள தொழில்நுட்பத் துணை ஆய்வுக்கட்டுரையையும் அதன் சொந்தக் குறிப்புகள் விவரிக்கின்றன.
• கட்டுரைக்கு Neel Nanda அளித்த பதில் (LessWrong விவாதம்; அக்டோபர் 19, 2026 அன்று அணுகப்பட்டது). நியூரான் அடிப்படையிலான ஆய்வில் நடைமுறைப் பயனை Nanda காண்கிறார்; அதேநேரத்தில் முழுமையான விளக்கத்தன்மையை நோக்கிய பெரிய முன்னேற்றம் என்ற கூற்றுகளை எதிர்த்து, சூப்பர்பொசிஷனும் பலவீனமான செயல்பாடுகளும் இன்னும் முக்கியமானவை என வாதிடுகிறார்.