DeepSeek ने अपनी DeepGEMM कर्नेल लाइब्रेरी का Ascend संस्करण Huawei की 950 श्रृंखला के NPU पर काम करने वाले डेवलपरों के लिए जारी किया है। रिपॉज़िटरी का README शुरुआती रिलीज़ की तारीख 30 सितंबर 2026 बताता है; Python पैकेज का संस्करण 0.1.0 है। यह उस हार्डवेयर पर मैट्रिक्स गुणा और मॉडल से जुड़ी अन्य गणनाओं के लिए टीमों को ओपन-सोर्स शुरुआती आधार देता है। अब तक प्रकाशित प्रदर्शन आँकड़े DeepSeek के अपने परीक्षणों से आए हैं।

Ascend सॉफ़्टवेयर स्टैक का आकलन करने वाले इंजीनियरों के लिए यह रिलीज़ उपयोगी है, क्योंकि इसमें कर्नेल का सोर्स कोड, परिचित DeepGEMM एंट्री पॉइंट और एक्सटेंशन बनाने की दर्ज प्रक्रिया शामिल है। पूरे मॉडल का प्रदर्शन और संचालन लागत फिर भी लक्षित सिस्टम पर अपेक्षित वर्कलोड से जाँचनी होगी।

रिलीज़ में क्या है

DeepGEMM AI मॉडल में बार-बार होने वाले मैट्रिक्स ऑपरेशन की लाइब्रेरी है। Ascend README में BF16, FP8 और FP4 GEMM कर्नेल, mixture-of-experts मॉडल के लिए समूहित ऑपरेशन, MQA logits, संयुक्त MegaMoE ऑपरेशन और mHC prenorm कर्नेल सूचीबद्ध हैं। Python पैकेज के एक्सपोर्ट में dense और grouped GEMM फ़ंक्शन, MQA फ़ंक्शन, स्केलिंग फ़ैक्टर लेआउट के सहायक फ़ंक्शन, JIT संकलन और AI core उपयोग के नियंत्रण शामिल हैं। रिपॉज़िटरी MIT लाइसेंस के तहत है।

DeepSeek के अनुसार, Ascend पोर्ट का API इसके अपस्ट्रीम DeepGEMMसे पूरी तरह मेल खाता है। वही deep_gemm पैकेज नाम और सार्वजनिक इंटरफ़ेस का बड़ा हिस्सा कोड माइग्रेशन आसान कर सकते हैं। फिर भी README डेटा-लेआउट का अहम अंतर बताता है: Ascend, K दिशा में मौजूद हर UE8M0 स्केलिंग फ़ैक्टर जोड़ी को int16 में पैक करता है और पैक किए गए मान MN-major क्रम में रखता है। पैकेज स्केलिंग फ़ैक्टर को अपेक्षित लेआउट में बदलने के फ़ंक्शन देता है। quantized इनपुट वाले ऐप्लिकेशन को उपयुक्त डेटा देना और अपने नतीजों की पुष्टि करना अब भी ज़रूरी है। अनुकूलता का दावा अनुरक्षकों का है, BIG CHANGE का माइग्रेशन परीक्षण नहीं।

डेवलपर को इसे आज़माने के लिए क्या चाहिए

दस्तावेज़ में दी गई आवश्यकताएँ Ascend NPU, CANN 9.20 के साथ bisheng और ld.lld टूल, torch_npu, Python 3.10 या नया संस्करण, और C++20 का समर्थन करने वाला कंपाइलर व मानक लाइब्रेरी हैं <format>। अनुरक्षकों के मुताबिक विकास और सत्यापन Ascend 950 श्रृंखला पर किए गए। tilelang को HC prenorm कर्नेल के लिए पैकेज निर्भरता बताया गया है; tree-sitter और tree-sitter-cpp सोर्स से बिल्ड करते समय टाइप स्टब बनाने के लिए चाहिए। README कोई torch_npu संस्करण तय नहीं करता और दूसरे Ascend डिवाइस पर सत्यापन की पुष्टि भी नहीं करता।

README डेवलपरों को सबमॉड्यूल सहित रिपॉज़िटरी क्लोन करने और C++ एक्सटेंशन को develop.sh के ज़रिए बनाने, या चेकआउट किए गए सोर्स से pip install . --no-build-isolation के साथ इंस्टॉल करने को कहता है। इसकी बिल्ड कॉन्फ़िगरेशन आयात करती है torch और torch_npu इम्पोर्ट करती है, ASCEND_HOME_PATH या ASCEND_TOOLKIT_HOME के ज़रिए Ascend टूलकिट ढूँढती है, और Ascend व Torch NPU लाइब्रेरी से लिंक करती है। इसलिए कर्नेल परखने के लिए उपयुक्त हार्डवेयर और टूलचेन चाहिए। रिपॉज़िटरी में ऑपरेशन परीक्षणभी हैं। BIG CHANGE ने दस्तावेज़ और कोड देखे, लेकिन बिल्ड या कर्नेल नहीं चलाए।

बेंचमार्क क्या बताता है

DeepSeek ने CANN 9.20 वाले Ascend 950DT पर bench_msprof इस्तेमाल करके माप किए; L2 कैश ठंडा था। एक dense BF16 मैट्रिक्स गुणा आकार M=4096, N=7168 और K=16384 के लिए प्रदर्शन तालिका में 2,229.9 माइक्रोसेकंड, 431 TFLOPS और तालिका में बताई हार्डवेयर सीमा का 99.8% दर्ज है। उसी आकार पर FP8×FP8 के लिए 1,117.6 माइक्रोसेकंड और 861 TFLOPS बताए गए हैं। ये बताए गए प्रकार और आकार के कर्नेल माप हैं, मॉडल थ्रूपुट नहीं। तालिका में अलग-अलग कॉन्फ़िगरेशन के grouped GEMM, MQA, MegaMoE और prenorm नतीजे भी हैं; MegaMoE के आँकड़े आठ ranks, आठ का expert parallelism, छह का top-k routing और एक shared expert के औसत हैं।

यह परीक्षण कोड GEMM आउटपुट को बनाए गए संदर्भ परिणामों से मिलाता है और समर्थित dense मामलों में ACLNN क्रॉस-चेक करता है। कुछ आकारों और रेसिपी में यह अतिरिक्त ACLNN तुलना साफ़ तौर पर छोड़ दी जाती है। प्रकाशित कोड और परीक्षण दावों की जाँच संभव बनाते हैं, लेकिन BIG CHANGE ने README के आँकड़ों को स्वतंत्र रूप से दोहराया नहीं है। रिलीज़ में किसी अन्य accelerator stack के साथ समान आधार वाला बेंचमार्क, लागत तुलना या एंड-टू-एंड सेवा परिणाम नहीं है।

बड़ा बदलाव

DeepSeek ने Ascend 950 श्रृंखला के लिए DeepGEMM Ascend कर्नेल कोड जारी किया है।

डेवलपर इस हार्डवेयर पर परिचित GEMM और मॉडल से जुड़े अन्य ऑपरेशन देख और बना सकते हैं। रिलीज़ में CANN 9.20 और Ascend-विशिष्ट स्केलिंग-फ़ैक्टर लेआउट दर्ज है।

Ascend 950 टीमों को अब अपने मॉडल आकारों पर जाँचने के लिए कर्नेल कोड मिला है। DeepSeek ने एक Ascend 950DT परीक्षण व्यवस्था में सीमा के करीब नतीजे बताए; BIG CHANGE ने कर्नेल नहीं चलाए।

पूरे ऐप्लिकेशन का प्रदर्शन, अन्य Ascend डिवाइस का समर्थन और संचालन लागत अभी स्थापित होनी बाकी है।

स्रोत और आगे पढ़ें

  • DeepGEMM Ascend रिपॉज़िटरी और README: 30 सितंबर का रिलीज़ नोट, आवश्यकताएँ, इंटरफ़ेस संबंधी दावे और परियोजना द्वारा बनाए गए बेंचमार्क टेबल। README परियोजना अनुरक्षकों का प्राथमिक स्रोत है, स्वतंत्र सत्यापन नहीं।
  • पैकेज एक्सपोर्ट और बिल्ड कॉन्फ़िगरेशन: शुरुआती commit में संस्करण, सार्वजनिक Python फ़ंक्शन, निर्भरता घोषणा और सोर्स-बिल्ड लिंक।
  • GEMM परीक्षण हार्नेस: रिपॉज़िटरी आउटपुट कैसे जाँचती है और प्रोफ़ाइलर कैसे चलाती है, साथ ही किन स्थितियों में ACLNN तुलना छोड़ी जाती है। ये फ़ाइलें प्रकाशित आँकड़ों को स्वतंत्र रूप से दोहराती नहीं हैं।