Huawei کی 950 سیریز کے NPU پر کام کرنے والے ڈویلپرز کے لیے DeepSeek نے اپنی DeepGEMM کرنل لائبریری کا Ascend ورژن جاری کیا ہے۔ ریپوزٹری کا README ابتدائی ریلیز کی تاریخ 30 ستمبر 2026 بتاتا ہے؛ Python پیکیج اپنا ورژن 0.1.0 بتاتا ہے۔ یہ ٹیموں کو اس ہارڈویئر پر میٹرکس ضرب اور ماڈل سے متعلق دیگر آپریشنز کے لیے ایک اوپن سورس نقطۂ آغاز فراہم کرتا ہے۔ اب تک کے کارکردگی کے اعداد DeepSeek کے اپنے ٹیسٹوں سے آئے ہیں۔

Ascend سافٹ ویئر اسٹیک کا جائزہ لینے والے انجینئروں کے لیے یہ ریلیز اہم ہے کیونکہ اس میں کرنل کا سورس کوڈ، معروف DeepGEMM انٹری پوائنٹس اور ایکسٹینشن بنانے کا دستاویزی طریقہ موجود ہے۔ مکمل ماڈل کی کارکردگی اور آپریٹنگ لاگت جاننے کے لیے متوقع سسٹم پر کام کے بوجھ کی جانچ ضروری ہے۔

ریلیز میں کیا شامل ہے

DeepGEMM AI ماڈلز میں بار بار استعمال ہونے والی میٹرکس کارروائیوں کی لائبریری ہے۔ Ascend README BF16، FP8 اور FP4 GEMM کرنل، mixture-of-experts ماڈلز کے لیے grouped آپریشنز، MQA logits، fused MegaMoE آپریشن اور mHC prenorm کرنل درج کرتا ہے۔ اس کے Python پیکیج کی ایکسپورٹس dense اور grouped GEMM فنکشنز، MQA فنکشنز، اسکیلنگ فیکٹر لے آؤٹ کے مددگار، اور JIT compilation اور AI core کے استعمال کے کنٹرولز دکھاتی ہیں۔ ریپوزٹری MIT لائسنس کے تحت ہے۔

DeepSeek کے مطابق Ascend پورٹ API کے لحاظ سے اپنے upstream DeepGEMMکے ساتھ مکمل طور پر مطابقت رکھتا ہے۔ ایک ہی deep_gemm پیکیج کا نام اور زیادہ تر عوامی انٹرفیس کوڈ کی منتقلی آسان کر سکتے ہیں، لیکن README ڈیٹا لے آؤٹ کا ایک اہم فرق بتاتا ہے: Ascend، K کے رخ پر ہر UE8M0 اسکیلنگ فیکٹر کے جوڑے کو 16-bit قدر میں پیک کرتا ہے int16 اور پیک کی گئی قدروں کو MN-major ترتیب میں محفوظ کرتا ہے۔ پیکیج اسکیلنگ فیکٹرز کو مطلوبہ لے آؤٹ میں تبدیل کرنے کے فنکشنز ایکسپورٹ کرتا ہے۔ quantized ان پٹس استعمال کرنے والی ایپلیکیشن کو پھر بھی موزوں ڈیٹا فراہم کرنا اور اپنے نتائج کی توثیق کرنا ہوگی؛ مطابقت کا بیان مینٹینرز کا دعویٰ ہے، BIG CHANGE کی مائیگریشن ٹیسٹ نہیں۔

ڈویلپر کو اسے آزمانے کے لیے کیا چاہیے

دستاویزی تقاضے میں Ascend NPU، CANN 9.20 کے ساتھ bisheng اور ld.lld ٹولز، torch_npu، Python 3.10 یا بعد کا ورژن، اور C++20 کی حمایت کرنے والا compiler اور standard library <format>شامل ہیں۔ مینٹینرز کے مطابق ترقی اور توثیق Ascend 950 سیریز پر ہوئی۔ tilelang HC prenorm کرنل کے لیے پیکیج کی dependency قرار دیا گیا ہے؛ tree-sitter اور tree-sitter-cpp سورس سے بناتے وقت type stubs تیار کرنے کے لیے ضروری ہیں۔ README torch_npu کا ورژن مقرر نہیں کرتا اور دیگر Ascend ڈیوائسز پر توثیق کا ثبوت نہیں دیتا۔

README ڈویلپرز کو submodules سمیت ریپوزٹری clone کرنے اور C++ extension کو develop.shکے ذریعے build کرنے کی ہدایت دیتا ہے، یا چیک آؤٹ شدہ سورس سے pip install . --no-build-isolationکے ذریعے انسٹال کرنے کی۔ اس کی build configuration درآمد کرتی ہے torch اور torch_npu، Ascend toolkit کو ASCEND_HOME_PATH یا ASCEND_TOOLKIT_HOME، اور Ascend اور Torch NPU لائبریریوں سے link کرتی ہے۔ اس لیے کرنلز کی جانچ کے لیے موزوں ہارڈویئر اور ٹول چین درکار ہیں۔ ریپوزٹری میں آپریشن ٹیسٹسبھی شامل ہیں۔ BIG CHANGE نے دستاویزات اور کوڈ دیکھے؛ build یا کرنل نہیں چلائے۔

بینچ مارک کی حد کہاں تک ہے

DeepSeek نے CANN 9.20 والے Ascend 950DT پر bench_msprof اور ٹھنڈے L2 cache کے ساتھ پیمائش کی اطلاع دی۔ ایک dense BF16 میٹرکس ضرب کی شکل M=4096، N=7168 اور K=16384 کے لیے اس کے کارکردگی کے جدول میں 2,229.9 مائیکرو سیکنڈ، 431 TFLOPS اور اسی جدول میں بیان کردہ ہارڈویئر حد کا 99.8% درج ہے۔ اسی شکل پر FP8×FP8 کے لیے 1,117.6 مائیکرو سیکنڈ اور 861 TFLOPS بتائے گئے ہیں۔ یہ مخصوص اقسام اور شکلوں پر کرنل کی پیمائشیں ہیں، ماڈل throughput کی پیمائش نہیں۔ جدول میں الگ الگ ترتیبات کے grouped GEMM، MQA، MegaMoE اور prenorm نتائج بھی ہیں؛ MegaMoE کے اعداد آٹھ ranks، آٹھ کی expert parallelism، چھ کی top-k routing اور ایک shared expert کے ساتھ اوسط ہیں۔

یہ ٹیسٹ کوڈ GEMM آؤٹ پٹس کا تیار کردہ حوالوں سے موازنہ کرتا ہے اور معاون dense صورتوں میں ACLNN cross-check استعمال کرتا ہے۔ کچھ شکلوں اور recipes کے لیے یہ اضافی ACLNN موازنہ واضح طور پر چھوڑ دیتا ہے۔ شائع شدہ کوڈ اور ٹیسٹس دعوؤں کا جائزہ ممکن بناتے ہیں، لیکن BIG CHANGE نے README کے اعداد کو آزادانہ طور پر دوبارہ پیدا نہیں کیا۔ ریلیز میں دوسرے accelerator stack سے مساوی بینچ مارک، لاگت کا موازنہ یا end-to-end سروس کا نتیجہ شامل نہیں۔

اہم تبدیلی

DeepSeek نے Ascend 950 سیریز کے لیے DeepGEMM Ascend کرنل کوڈ جاری کیا ہے۔

ڈویلپرز اس ہارڈویئر کے لیے معروف GEMM اور ماڈل سے متعلق دیگر آپریشنز کا معائنہ اور build کر سکتے ہیں۔ ریلیز CANN 9.20 اور Ascend کے مخصوص اسکیلنگ فیکٹر لے آؤٹ کو دستاویز کرتی ہے۔

Ascend 950 استعمال کرنے والی ٹیموں کے پاس اب اپنے ماڈل کی شکلوں پر جانچنے کے لیے کرنل کوڈ ہے۔ DeepSeek نے ایک Ascend 950DT ٹیسٹ سیٹ اپ میں حد کے قریب نتائج بتائے؛ BIG CHANGE نے کرنل نہیں چلائے۔

مکمل ایپلیکیشن کی کارکردگی، دیگر Ascend ڈیوائسز کی معاونت اور آپریٹنگ لاگت کا تعین ہونا باقی ہے۔

ذرائع اور مزید مطالعہ

  • DeepGEMM Ascend ریپوزٹری اور README: 30 ستمبر کا ریلیز نوٹ، پیشگی شرائط، انٹرفیس سے متعلق دعوے اور پروجیکٹ کے تیار کردہ بینچ مارک جدول۔ README پروجیکٹ مینٹینرز کا بنیادی ماخذ ہے، آزاد توثیق نہیں۔
  • پیکیج ایکسپورٹساورbuild configuration: ابتدائی commit کا ورژن، عوامی Python فنکشنز، dependency کا اعلان اور سورس build کے روابط۔
  • GEMM test harness: ریپوزٹری آؤٹ پٹس کیسے جانچتی اور profiler چلاتی ہے، بشمول وہ حالات جہاں ACLNN موازنہ چھوڑا جاتا ہے۔ یہ فائلیں شائع شدہ اعداد کو آزادانہ طور پر دوبارہ پیدا نہیں کرتیں۔