Huawei-এর 950 সিরিজের NPU নিয়ে কাজ করা ডেভেলপারদের জন্য DeepSeek একটি Ascend সংস্করণের DeepGEMM কার্নেল লাইব্রেরি প্রকাশ করেছে। রিপোজিটরির README-তে প্রাথমিক প্রকাশের তারিখ 30 সেপ্টেম্বর, 2026 বলা হয়েছে; Python প্যাকেজটির সংস্করণ 0.1.0। ওই হার্ডওয়্যারে ম্যাট্রিক্স গুণ ও সংশ্লিষ্ট মডেল অপারেশনের জন্য এটি দলগুলোকে একটি ওপেন-সোর্স সূচনা দেয়। এ পর্যন্ত প্রকাশিত কর্মক্ষমতার পরিসংখ্যান DeepSeek-এর নিজস্ব পরীক্ষার ফল।

Ascend সফটওয়্যার স্ট্যাক মূল্যায়নকারী প্রকৌশলীদের জন্য এই প্রকাশনা গুরুত্বপূর্ণ, কারণ এতে কার্নেলের সোর্স কোড, পরিচিত DeepGEMM এন্ট্রি পয়েন্ট এবং এক্সটেনশন বিল্ড করার নথিভুক্ত পদ্ধতি আছে। সম্পূর্ণ মডেলের কর্মক্ষমতা এবং পরিচালন ব্যয় জানতে নির্দিষ্ট সিস্টেমে বাস্তব কাজের চাপ দিয়ে পরীক্ষা প্রয়োজন।

প্রকাশনাটিতে কী রয়েছে

DeepGEMM হলো AI মডেলে বারবার ব্যবহৃত ম্যাট্রিক্স অপারেশনের একটি লাইব্রেরি। Ascend README BF16, FP8 ও FP4 GEMM কার্নেল, mixture-of-experts মডেলের জন্য গ্রুপভিত্তিক অপারেশন, MQA logits, একটি fused MegaMoE অপারেশন এবং mHC prenorm কার্নেল তালিকাভুক্ত করেছে। এর Python প্যাকেজের এক্সপোর্ট ঘন ও গ্রুপভিত্তিক GEMM ফাংশন, MQA ফাংশন, স্কেলিং ফ্যাক্টরের বিন্যাস-সহায়ক এবং JIT কম্পাইলেশন ও AI core ব্যবহারের নিয়ন্ত্রণ দেখায়। রিপোজিটরিটি MIT লাইসেন্সের অধীনে।

DeepSeek বলেছে, Ascend পোর্টটি API-এর দিক থেকে এর upstream DeepGEMMএর সঙ্গে পুরোপুরি সামঞ্জস্যপূর্ণ। একই deep_gemm প্যাকেজের নাম এবং বেশিরভাগ পাবলিক ইন্টারফেস কোড স্থানান্তর সহজ করতে পারে, তবে README ডেটা বিন্যাসের একটি গুরুত্বপূর্ণ পার্থক্য চিহ্নিত করেছে: Ascend K অক্ষ বরাবর প্রতিটি UE8M0 স্কেলিং ফ্যাক্টরের জোড়াকে 16-bit মানে প্যাক করে int16 এবং প্যাক করা মানগুলো MN-major ক্রমে সংরক্ষণ করে। প্রয়োজনীয় বিন্যাসে স্কেলিং ফ্যাক্টর রূপান্তরের ফাংশন প্যাকেজটি এক্সপোর্ট করে। কোয়ান্টাইজড ইনপুট ব্যবহারকারী অ্যাপ্লিকেশনকে উপযুক্ত ডেটা দিতে এবং নিজের ফল যাচাই করতে হবে; সামঞ্জস্যের দাবিটি রক্ষণাবেক্ষণকারীদের, BIG CHANGE-এর মাইগ্রেশন পরীক্ষার ফল নয়।

ডেভেলপারদের চেষ্টা করতে যা লাগবে

নথিভুক্ত পূর্বশর্ত হলো Ascend NPU, CANN 9.20-এর সঙ্গে bisheng এবং ld.lld টুল, torch_npu, Python 3.10 বা পরবর্তী সংস্করণ, এবং C++20 সমর্থনকারী কম্পাইলার ও স্ট্যান্ডার্ড লাইব্রেরি <format>। রক্ষণাবেক্ষণকারীদের মতে, Ascend 950 সিরিজে উন্নয়ন ও যাচাই করা হয়েছে। tilelang HC prenorm কার্নেলের জন্য প্যাকেজ নির্ভরতা হিসেবে উল্লেখ করা হয়েছে; tree-sitter এবং tree-sitter-cpp সোর্স থেকে বিল্ডের সময় টাইপ স্টাব তৈরিতে লাগে। README-তে torch_npu এর সংস্করণ নির্দিষ্ট করা নেই এবং অন্য Ascend ডিভাইসে যাচাইয়ের কথাও বলা হয়নি।

README-তে ডেভেলপারদের সাবমডিউলসহ রিপোজিটরি ক্লোন করে develop.shদিয়ে C++ এক্সটেনশন বিল্ড করতে বলা হয়েছে; অথবা চেক-আউট করা সোর্স থেকে pip install . --no-build-isolationদিয়ে ইনস্টল করা যায়। এর বিল্ড কনফিগারেশন ইমপোর্ট করে torch এবং torch_npu, ASCEND_HOME_PATH বা ASCEND_TOOLKIT_HOMEদিয়ে Ascend টুলকিট খুঁজে Ascend ও Torch NPU লাইব্রেরির সঙ্গে লিংক করে। তাই কার্নেল মূল্যায়নে উপযুক্ত হার্ডওয়্যার ও টুলচেইন দরকার। রিপোজিটরিতে অপারেশন টেস্টআছে। BIG CHANGE ডকুমেন্টেশন ও কোড দেখেছে; বিল্ড বা কার্নেল চালায়নি।

বেঞ্চমার্ক কতটা বলে

DeepSeek CANN 9.20-সহ Ascend 950DT-তে bench_msprof ব্যবহার করে ঠান্ডা L2 cache-এ পরিমাপের কথা জানিয়েছে। M=4096, N=7168 ও K=16384 আকারের একটি dense BF16 ম্যাট্রিক্স গুণের জন্য তাদের কর্মক্ষমতার সারণিতে 2,229.9 মাইক্রোসেকেন্ড, 431 TFLOPS এবং ওই সারণিতে উল্লিখিত হার্ডওয়্যার সীমার 99.8% দেখানো হয়েছে। একই আকারে FP8×FP8-এর জন্য 1,117.6 মাইক্রোসেকেন্ড ও 861 TFLOPS জানানো হয়েছে। এগুলো নির্দিষ্ট ডেটা টাইপ ও আকারে কার্নেলের পরিমাপ, মডেলের throughput নয়। সারণিতে নিজ নিজ কনফিগারেশনে grouped GEMM, MQA, MegaMoE ও prenorm-এর ফলও আছে; MegaMoE মানগুলো আটটি rank, আটের expert parallelism, ছয়ের top-k routing এবং একটি shared expert-সহ গড় ফল।

এই পরীক্ষার কোড GEMM আউটপুট তৈরি করা reference-এর সঙ্গে মেলায় এবং সমর্থিত ঘন ক্ষেত্রে ACLNN cross-check করে। কিছু আকার ও recipe-তে অতিরিক্ত ACLNN তুলনাটি স্পষ্টভাবে বাদ দেয়। প্রকাশিত কোড ও পরীক্ষা দাবিগুলো পর্যালোচনা করতে সাহায্য করে, কিন্তু BIG CHANGE README-এর সংখ্যা স্বাধীনভাবে পুনরুৎপাদন করেনি। অন্য accelerator stack-এর সঙ্গে একই শর্তে বেঞ্চমার্ক, খরচের তুলনা বা end-to-end পরিষেবার ফল এই প্রকাশনায় নেই।

মূল পরিবর্তন

DeepSeek Ascend 950 সিরিজের জন্য DeepGEMM Ascend কার্নেল কোড প্রকাশ করেছে।

ডেভেলপাররা ওই হার্ডওয়্যারের জন্য পরিচিত GEMM ও সংশ্লিষ্ট মডেল অপারেশন পর্যালোচনা ও বিল্ড করতে পারেন। প্রকাশনায় CANN 9.20 এবং Ascend-নির্দিষ্ট স্কেলিং-ফ্যাক্টর বিন্যাস নথিভুক্ত করা হয়েছে।

Ascend 950 ব্যবহারকারী দলগুলো এখন নিজেদের মডেলের আকারে যাচাই করার জন্য কার্নেল কোড পেয়েছে। DeepSeek একটি Ascend 950DT পরীক্ষার কনফিগারেশনে হার্ডওয়্যার সীমার কাছাকাছি ফল জানিয়েছে; BIG CHANGE কার্নেল চালায়নি।

সম্পূর্ণ অ্যাপ্লিকেশনের কর্মক্ষমতা, অন্য Ascend ডিভাইসের সমর্থন এবং পরিচালন ব্যয় এখনো নির্ধারিত হয়নি।

সূত্র ও আরও পড়ুন

  • DeepGEMM Ascend রিপোজিটরি ও README: 30 সেপ্টেম্বরের প্রকাশনা নোট, পূর্বশর্ত, ইন্টারফেসসংক্রান্ত দাবি এবং প্রকল্পের তৈরি বেঞ্চমার্ক সারণি। README প্রকল্পের রক্ষণাবেক্ষণকারীদের প্রাথমিক সূত্র, স্বাধীন যাচাই নয়।
  • প্যাকেজ এক্সপোর্টএবংবিল্ড কনফিগারেশন: প্রাথমিক commit-এর সংস্করণ, পাবলিক Python ফাংশন, নির্ভরতার ঘোষণা এবং সোর্স-বিল্ড সংযোগ।
  • GEMM টেস্ট হারনেস: রিপোজিটরি কীভাবে আউটপুট যাচাই করে ও profiler চালায়, এবং কোন পরিস্থিতিতে ACLNN তুলনা বাদ দেয়। এই ফাইলগুলো প্রকাশিত সংখ্যা স্বাধীনভাবে পুনরুৎপাদন করে না।