Markdown संस्करण

AI-translated from English; not yet reviewed by a fluent editor.

# DeepSeek ने Huawei Ascend 950 के लिए DeepGEMM कर्नेल जारी किए

> DeepSeek की नई Ascend 950 कर्नेल लाइब्रेरी परिचित DeepGEMM इंटरफ़ेस और सोर्स कोड देती है। इसकी आवश्यकताएँ और कंपनी के अपने बेंचमार्क उन डेवलपरों के लिए मूल्यांकन की सीमाएँ तय करते हैं जो इसे परख रहे हैं।

By BIG CHANGE Editorial

Published: 2026-09-30T17:47:47.035Z
Updated: 2026-09-30T17:47:47.035Z
Canonical: https://bigchange.ai/blog/deepseek-deepgemm-ascend-950-kernels

![Conceptual charcoal illustration of a generic rackmount computer chassis in an open test rack, seen from behind with two cables routed down the frame.](https://bigchange.ai/api/media/file/deepgemm-ascend-evaluation-rack-hero-v2.png)
AI-generated by OpenAI; BIG CHANGE conceptual editorial illustration.

DeepSeek ने [अपनी DeepGEMM कर्नेल लाइब्रेरी का Ascend संस्करण](https://github.com/deepseek-ai/DeepGEMM-Ascend) Huawei की 950 श्रृंखला के NPU पर काम करने वाले डेवलपरों के लिए जारी किया है। रिपॉज़िटरी का README शुरुआती रिलीज़ की तारीख 30 सितंबर 2026 बताता है; Python पैकेज का संस्करण 0.1.0 है। यह उस हार्डवेयर पर मैट्रिक्स गुणा और मॉडल से जुड़ी अन्य गणनाओं के लिए टीमों को ओपन-सोर्स शुरुआती आधार देता है। अब तक प्रकाशित प्रदर्शन आँकड़े DeepSeek के अपने परीक्षणों से आए हैं।

Ascend सॉफ़्टवेयर स्टैक का आकलन करने वाले इंजीनियरों के लिए यह रिलीज़ उपयोगी है, क्योंकि इसमें कर्नेल का सोर्स कोड, परिचित DeepGEMM एंट्री पॉइंट और एक्सटेंशन बनाने की दर्ज प्रक्रिया शामिल है। पूरे मॉडल का प्रदर्शन और संचालन लागत फिर भी लक्षित सिस्टम पर अपेक्षित वर्कलोड से जाँचनी होगी।

## रिलीज़ में क्या है

DeepGEMM AI मॉडल में बार-बार होने वाले मैट्रिक्स ऑपरेशन की लाइब्रेरी है। [Ascend README ](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/main/README.md)में BF16, FP8 और FP4 GEMM कर्नेल, mixture-of-experts मॉडल के लिए समूहित ऑपरेशन, MQA logits, संयुक्त MegaMoE ऑपरेशन और mHC prenorm कर्नेल सूचीबद्ध हैं। [Python पैकेज के एक्सपोर्ट ](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py)में dense और grouped GEMM फ़ंक्शन, MQA फ़ंक्शन, स्केलिंग फ़ैक्टर लेआउट के सहायक फ़ंक्शन, JIT संकलन और AI core उपयोग के नियंत्रण शामिल हैं। रिपॉज़िटरी MIT लाइसेंस के तहत है।

DeepSeek के अनुसार, Ascend पोर्ट का API इसके [अपस्ट्रीम DeepGEMM](https://github.com/deepseek-ai/DeepGEMM#interfaces)से पूरी तरह मेल खाता है। वही `deep_gemm` पैकेज नाम और सार्वजनिक इंटरफ़ेस का बड़ा हिस्सा कोड माइग्रेशन आसान कर सकते हैं। फिर भी README डेटा-लेआउट का अहम अंतर बताता है: Ascend, K दिशा में मौजूद हर UE8M0 स्केलिंग फ़ैक्टर जोड़ी को `int16` में पैक करता है और पैक किए गए मान MN-major क्रम में रखता है। पैकेज स्केलिंग फ़ैक्टर को अपेक्षित लेआउट में बदलने के फ़ंक्शन देता है। quantized इनपुट वाले ऐप्लिकेशन को उपयुक्त डेटा देना और अपने नतीजों की पुष्टि करना अब भी ज़रूरी है। अनुकूलता का दावा अनुरक्षकों का है, BIG CHANGE का माइग्रेशन परीक्षण नहीं।

## डेवलपर को इसे आज़माने के लिए क्या चाहिए

दस्तावेज़ में दी गई[ आवश्यकताएँ ](https://github.com/deepseek-ai/DeepGEMM-Ascend#requirements)Ascend NPU, CANN 9.20 के साथ `bisheng` और `ld.lld` टूल, `torch_npu`, Python 3.10 या नया संस्करण, और C++20 का समर्थन करने वाला कंपाइलर व मानक लाइब्रेरी हैं `<format>`। अनुरक्षकों के मुताबिक विकास और सत्यापन Ascend 950 श्रृंखला पर किए गए। `tilelang` को HC prenorm कर्नेल के लिए पैकेज निर्भरता बताया गया है; `tree-sitter` और `tree-sitter-cpp` सोर्स से बिल्ड करते समय टाइप स्टब बनाने के लिए चाहिए। README कोई `torch_npu` संस्करण तय नहीं करता और दूसरे Ascend डिवाइस पर सत्यापन की पुष्टि भी नहीं करता।

README डेवलपरों को सबमॉड्यूल सहित रिपॉज़िटरी क्लोन करने और C++ एक्सटेंशन को `develop.sh` के ज़रिए बनाने, या चेकआउट किए गए सोर्स से `pip install . --no-build-isolation` के साथ इंस्टॉल करने को कहता है। इसकी [बिल्ड कॉन्फ़िगरेशन](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/setup.py) आयात करती है `torch` और `torch_npu` इम्पोर्ट करती है, `ASCEND_HOME_PATH` या `ASCEND_TOOLKIT_HOME` के ज़रिए Ascend टूलकिट ढूँढती है, और Ascend व Torch NPU लाइब्रेरी से लिंक करती है। इसलिए कर्नेल परखने के लिए उपयुक्त हार्डवेयर और टूलचेन चाहिए। रिपॉज़िटरी में [ऑपरेशन परीक्षण](https://github.com/deepseek-ai/DeepGEMM-Ascend/tree/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests)भी हैं। BIG CHANGE ने दस्तावेज़ और कोड देखे, लेकिन बिल्ड या कर्नेल नहीं चलाए।

## बेंचमार्क क्या बताता है

DeepSeek ने CANN 9.20 वाले Ascend 950DT पर `bench_msprof` इस्तेमाल करके माप किए; L2 कैश ठंडा था। एक dense BF16 मैट्रिक्स गुणा आकार M=4096, N=7168 और K=16384 के लिए [प्रदर्शन तालिका ](https://github.com/deepseek-ai/DeepGEMM-Ascend#performance)में 2,229.9 माइक्रोसेकंड, 431 TFLOPS और तालिका में बताई हार्डवेयर सीमा का 99.8% दर्ज है। उसी आकार पर FP8×FP8 के लिए 1,117.6 माइक्रोसेकंड और 861 TFLOPS बताए गए हैं। ये बताए गए प्रकार और आकार के कर्नेल माप हैं, मॉडल थ्रूपुट नहीं। तालिका में अलग-अलग कॉन्फ़िगरेशन के grouped GEMM, MQA, MegaMoE और prenorm नतीजे भी हैं; MegaMoE के आँकड़े आठ ranks, आठ का expert parallelism, छह का top-k routing और एक shared expert के औसत हैं।

यह [परीक्षण कोड](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py) GEMM आउटपुट को बनाए गए संदर्भ परिणामों से मिलाता है और समर्थित dense मामलों में ACLNN क्रॉस-चेक करता है। कुछ आकारों और रेसिपी में यह अतिरिक्त ACLNN तुलना साफ़ तौर पर छोड़ दी जाती है। प्रकाशित कोड और परीक्षण दावों की जाँच संभव बनाते हैं, लेकिन BIG CHANGE ने README के आँकड़ों को स्वतंत्र रूप से दोहराया नहीं है। रिलीज़ में किसी अन्य accelerator stack के साथ समान आधार वाला बेंचमार्क, लागत तुलना या एंड-टू-एंड सेवा परिणाम नहीं है।

## बड़ा बदलाव

DeepSeek ने Ascend 950 श्रृंखला के लिए DeepGEMM Ascend कर्नेल कोड जारी किया है।

डेवलपर इस हार्डवेयर पर परिचित GEMM और मॉडल से जुड़े अन्य ऑपरेशन देख और बना सकते हैं। रिलीज़ में CANN 9.20 और Ascend-विशिष्ट स्केलिंग-फ़ैक्टर लेआउट दर्ज है।

Ascend 950 टीमों को अब अपने मॉडल आकारों पर जाँचने के लिए कर्नेल कोड मिला है। DeepSeek ने एक Ascend 950DT परीक्षण व्यवस्था में सीमा के करीब नतीजे बताए; BIG CHANGE ने कर्नेल नहीं चलाए।

पूरे ऐप्लिकेशन का प्रदर्शन, अन्य Ascend डिवाइस का समर्थन और संचालन लागत अभी स्थापित होनी बाकी है।

## स्रोत और आगे पढ़ें

- [DeepGEMM Ascend रिपॉज़िटरी और README](https://github.com/deepseek-ai/DeepGEMM-Ascend): 30 सितंबर का रिलीज़ नोट, आवश्यकताएँ, इंटरफ़ेस संबंधी दावे और परियोजना द्वारा बनाए गए बेंचमार्क टेबल। README परियोजना अनुरक्षकों का प्राथमिक स्रोत है, स्वतंत्र सत्यापन नहीं।
- [पैकेज एक्सपोर्ट](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py) और [बिल्ड कॉन्फ़िगरेशन](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/setup.py): शुरुआती commit में संस्करण, सार्वजनिक Python फ़ंक्शन, निर्भरता घोषणा और सोर्स-बिल्ड लिंक।
- [GEMM परीक्षण हार्नेस](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py): रिपॉज़िटरी आउटपुट कैसे जाँचती है और प्रोफ़ाइलर कैसे चलाती है, साथ ही किन स्थितियों में ACLNN तुलना छोड़ी जाती है। ये फ़ाइलें प्रकाशित आँकड़ों को स्वतंत्र रूप से दोहराती नहीं हैं।

## Sources

- [DeepSeek AI, DeepGEMM Ascend रिपॉज़िटरी और README](https://github.com/deepseek-ai/DeepGEMM-Ascend) — इंटरफ़ेस, आवश्यकताओं, इंस्टॉलेशन और परियोजना के बेंचमार्क का प्राथमिक रिकॉर्ड; प्रकाशित आँकड़े स्वतंत्र नतीजे नहीं हैं।
- [पहला सार्वजनिक commit](https://github.com/deepseek-ai/DeepGEMM-Ascend/commit/8491bbb4b8c02a094a2318965f50c70438a3e73c) — पहले सार्वजनिक commit का समय 01:07 UTC है; सोर्स संशोधन तय करने और रिलीज़ का समय जाँचने के लिए इसका उपयोग किया गया।
- [DeepGEMM Ascend Python पैकेज एक्सपोर्ट](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py) — संस्करण 0.1.0 और उपलब्ध GEMM, MQA, MegaMoE, स्केलिंग-लेआउट व JIT नियंत्रण; एक्सपोर्ट से हमारे सिस्टम पर उनके चलने का प्रमाण नहीं मिलता।
- [बिल्ड कॉन्फ़िगरेशन और GEMM परीक्षण हार्नेस](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py) — परीक्षण लॉजिक, correctness संदर्भ और सशर्त ACLNN जाँच; कोड देखना बेंचमार्क दोहराने के बराबर नहीं है।