Markdown izdanje

AI-translated from English; not yet reviewed by a fluent editor.

# DeepSeek objavio DeepGEMM kernele za Huawei Ascend 950

> Nova DeepSeek biblioteka kernela za Ascend 950 nudi poznate DeepGEMM interfejse i izvorni kod. Njeni preduslovi i rezultati testova koje je objavila sama kompanija postavljaju granice za procenu programera.

By BIG CHANGE Editorial

Published: 2026-09-30T17:47:47.035Z
Updated: 2026-09-30T17:47:47.035Z
Canonical: https://bigchange.ai/blog/deepseek-deepgemm-ascend-950-kernels

![Conceptual charcoal illustration of a generic rackmount computer chassis in an open test rack, seen from behind with two cables routed down the frame.](https://bigchange.ai/api/media/file/deepgemm-ascend-evaluation-rack-hero-v2.png)
AI-generated by OpenAI; BIG CHANGE conceptual editorial illustration.

DeepSeek je objavio [Ascend verziju svoje biblioteke DeepGEMM kernela](https://github.com/deepseek-ai/DeepGEMM-Ascend) za programere koji rade sa Huawei NPU-ovima serije 950. README repozitorijuma navodi 30. septembar 2026. kao datum prvog izdanja; Python paket označen je verzijom 0.1.0. Timovima pruža polaznu tačku otvorenog koda za množenje matrica i povezane operacije modela na tom hardveru. Dosadašnji podaci o performansama potiču iz DeepSeek-ovih testova.

Izdanje je važno inženjerima koji procenjuju softverski stek Ascend jer donosi izvorni kod kernela i poznate ulazne tačke DeepGEMM-a, uz dokumentovan postupak za izgradnju proširenja. Performanse celog modela i operativni troškovi i dalje zahtevaju testiranje radnog opterećenja na predviđenom sistemu.

## Šta izdanje sadrži

DeepGEMM je biblioteka za matrične operacije koje se često koriste u AI modelima. [Ascend README](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/main/README.md) navodi BF16, FP8 i FP4 GEMM kernele, grupisane operacije za modele mešavine eksperata, MQA logite, spojenu MegaMoE operaciju i mHC prenorm kernel. [Izvozi Python paketa](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py) prikazuju funkcije za gusti i grupisani GEMM, MQA funkcije, pomoćne alate za raspored faktora skaliranja i kontrole za JIT kompilaciju i korišćenje AI core-a. Repozitorijum je pod MIT licencom.

DeepSeek navodi da je Ascend port potpuno API-kompatibilan sa [izvornim DeepGEMM-om](https://github.com/deepseek-ai/DeepGEMM#interfaces). Isti naziv `deep_gemm` paketa i veći deo javnog interfejsa mogu da olakšaju migraciju koda, ali README ukazuje na važnu razliku u rasporedu podataka: Ascend pakuje svaki par UE8M0 faktora skaliranja duž ose K u vrednost od 16 bita `int16` i čuva upakovane vrednosti redosledom MN-major. Paket izvozi funkcije za transformisanje faktora skaliranja u taj obavezni raspored. Aplikacija koja koristi kvantizovane ulaze i dalje mora da obezbedi odgovarajuće podatke i proveri sopstvene rezultate; tvrdnja o kompatibilnosti potiče od održavalaca i nije BIG CHANGE test migracije.

## Šta je potrebno programeru da isproba biblioteku

Dokumentovani [preduslovi](https://github.com/deepseek-ai/DeepGEMM-Ascend#requirements) su Ascend NPU, CANN 9.20 sa `bisheng` i `ld.lld` alatima, `torch_npu`, Python 3.10 ili noviji, kao i kompajler i standardna biblioteka koji podržavaju C++20 `<format>`. Održavaoci navode da su razvoj i validacija obavljeni na seriji Ascend 950. `tilelang` je naveden kao zavisnost paketa za HC prenorm kernel; `tree-sitter` i `tree-sitter-cpp` su potrebni za generisanje tipskih deklaracija pri izgradnji iz izvornog koda. README ne navodi verziju `torch_npu` niti potvrđuje validaciju na drugim Ascend uređajima.

README upućuje programere da kloniraju repozitorijum zajedno sa njegovim podmodulima i izgrade C++ proširenje pomoću `develop.sh`, ili da ga instaliraju iz preuzetog izvornog koda komandom `pip install . --no-build-isolation`. Njegova [konfiguracija izgradnje](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/setup.py) uvozi `torch` i `torch_npu`, pronalazi Ascend komplet alata preko `ASCEND_HOME_PATH` ili `ASCEND_TOOLKIT_HOME` i povezuje Ascend i Torch NPU biblioteke. Zato su za procenu kernela potrebni odgovarajući hardver i skup alata. Repozitorijum sadrži [testove operacija](https://github.com/deepseek-ai/DeepGEMM-Ascend/tree/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests). BIG CHANGE je pregledao dokumentaciju i kod, ali nije pokrenuo izgradnju ni kernele.

## Koliki je domet objavljenih testova

DeepSeek navodi merenja na Ascend 950DT sa CANN 9.20, uz `bench_msprof` i hladnu L2 keš-memoriju. Za oblik gustog BF16 množenja matrica M=4096, N=7168 i K=16384, njegova [tabela performansi](https://github.com/deepseek-ai/DeepGEMM-Ascend#performance) navodi 2.229,9 mikrosekundi, 431 TFLOPS i 99,8% granice hardvera iskazane u toj tabeli. Za isti oblik prijavljeno je 1.117,6 mikrosekundi i 861 TFLOPS za FP8×FP8. To su merenja kernela za navedene tipove i oblike, a ne izmerena propusnost modela. Tabela sadrži i rezultate grupisanog GEMM-a, MQA, MegaMoE-a i prenorm-a u zasebnim konfiguracijama; vrednosti za MegaMoE predstavljaju prosek osam rank-ova, paralelizam eksperata osam, top-k usmeravanje šest i jednog zajedničkog eksperta.

Testni [kod](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py) poredi GEMM izlaze sa generisanim referentnim vrednostima i koristi ACLNN unakrsnu proveru za podržane guste slučajeve. Za neke oblike i recepte izričito preskače tu dodatnu ACLNN proveru. Objavljeni kod i testovi omogućavaju proveru tvrdnji, ali BIG CHANGE nije nezavisno ponovio rezultate iz README-a. Izdanje ne donosi uporediv test sa drugim stekom akceleratora, poređenje troškova niti rezultat za uslugu od početka do kraja.

## Glavna promena

DeepSeek je objavio DeepGEMM Ascend kod kernela za seriju Ascend 950.

Programeri mogu da pregledaju i izgrade poznate GEMM operacije i povezane operacije modela za taj hardver. Izdanje dokumentuje CANN 9.20 i raspored faktora skaliranja specifičan za Ascend.

Timovi koji koriste Ascend 950 sada imaju kod kernela za procenu na oblicima svojih modela. DeepSeek navodi rezultate blizu granice u jednom Ascend 950DT testnom okruženju; BIG CHANGE nije pokrenuo kernele.

Performanse kompletnih aplikacija, podrška za druge Ascend uređaje i operativni troškovi tek treba da se utvrde.

## Izvori i dodatna literatura

- [DeepGEMM Ascend repozitorijum i README](https://github.com/deepseek-ai/DeepGEMM-Ascend): beleška o izdanju od 30. septembra, preduslovi, tvrdnje o interfejsu i tabele testova koje je pripremio projekat. README je primarni izvor održavalaca projekta, a ne nezavisna potvrda.
- [Izvozi paketa](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py) i [konfiguracija izgradnje](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/setup.py): verzija, javne Python funkcije, navedene zavisnosti i povezivanje izgradnje iz izvornog koda u prvom commitu.
- [GEMM testni okvir](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py): način na koji repozitorijum proverava izlaze i poziva profiler, uključujući uslove pod kojima se preskače ACLNN poređenje. Ove datoteke ne reprodukuju nezavisno objavljene rezultate.

## Sources

- [DeepSeek AI, DeepGEMM Ascend repozitorijum i README](https://github.com/deepseek-ai/DeepGEMM-Ascend) — Primarni zapis o interfejsima, preduslovima, instalaciji i projektnim testovima; objavljeni rezultati nisu nezavisna merenja.
- [Prvi javni commit](https://github.com/deepseek-ai/DeepGEMM-Ascend/commit/8491bbb4b8c02a094a2318965f50c70438a3e73c) — Prvi javni commit datiran je u 01:07 UTC; korišćen je za utvrđivanje izvorne revizije i potvrdu vremena objave.
- [Izvozi Python paketa DeepGEMM Ascend](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/deep_gemm/__init__.py) — Verzija 0.1.0 i izložene GEMM, MQA i MegaMoE funkcije, raspored skaliranja i JIT kontrole; sami izvozi ne dokazuju rad na našim sistemima.
- [Konfiguracija izgradnje i GEMM testni okvir](https://github.com/deepseek-ai/DeepGEMM-Ascend/blob/8491bbb4b8c02a094a2318965f50c70438a3e73c/tests/common.py) — Testna logika, referentne vrednosti za ispravnost i uslovne ACLNN provere; pregled koda ne znači da su testovi performansi ponovljeni.