DeepSeek je objavio Ascend verziju svoje biblioteke DeepGEMM kernela za programere koji rade sa Huawei NPU-ovima serije 950. README repozitorijuma navodi 30. septembar 2026. kao datum prvog izdanja; Python paket označen je verzijom 0.1.0. Timovima pruža polaznu tačku otvorenog koda za množenje matrica i povezane operacije modela na tom hardveru. Dosadašnji podaci o performansama potiču iz DeepSeek-ovih testova.

Izdanje je važno inženjerima koji procenjuju softverski stek Ascend jer donosi izvorni kod kernela i poznate ulazne tačke DeepGEMM-a, uz dokumentovan postupak za izgradnju proširenja. Performanse celog modela i operativni troškovi i dalje zahtevaju testiranje radnog opterećenja na predviđenom sistemu.

Šta izdanje sadrži

DeepGEMM je biblioteka za matrične operacije koje se često koriste u AI modelima. Ascend README navodi BF16, FP8 i FP4 GEMM kernele, grupisane operacije za modele mešavine eksperata, MQA logite, spojenu MegaMoE operaciju i mHC prenorm kernel. Izvozi Python paketa prikazuju funkcije za gusti i grupisani GEMM, MQA funkcije, pomoćne alate za raspored faktora skaliranja i kontrole za JIT kompilaciju i korišćenje AI core-a. Repozitorijum je pod MIT licencom.

DeepSeek navodi da je Ascend port potpuno API-kompatibilan sa izvornim DeepGEMM-om. Isti naziv deep_gemm paketa i veći deo javnog interfejsa mogu da olakšaju migraciju koda, ali README ukazuje na važnu razliku u rasporedu podataka: Ascend pakuje svaki par UE8M0 faktora skaliranja duž ose K u vrednost od 16 bita int16 i čuva upakovane vrednosti redosledom MN-major. Paket izvozi funkcije za transformisanje faktora skaliranja u taj obavezni raspored. Aplikacija koja koristi kvantizovane ulaze i dalje mora da obezbedi odgovarajuće podatke i proveri sopstvene rezultate; tvrdnja o kompatibilnosti potiče od održavalaca i nije BIG CHANGE test migracije.

Šta je potrebno programeru da isproba biblioteku

Dokumentovani preduslovi su Ascend NPU, CANN 9.20 sa bisheng i ld.lld alatima, torch_npu, Python 3.10 ili noviji, kao i kompajler i standardna biblioteka koji podržavaju C++20 <format>. Održavaoci navode da su razvoj i validacija obavljeni na seriji Ascend 950. tilelang je naveden kao zavisnost paketa za HC prenorm kernel; tree-sitter i tree-sitter-cpp su potrebni za generisanje tipskih deklaracija pri izgradnji iz izvornog koda. README ne navodi verziju torch_npu niti potvrđuje validaciju na drugim Ascend uređajima.

README upućuje programere da kloniraju repozitorijum zajedno sa njegovim podmodulima i izgrade C++ proširenje pomoću develop.sh, ili da ga instaliraju iz preuzetog izvornog koda komandom pip install . --no-build-isolation. Njegova konfiguracija izgradnje uvozi torch i torch_npu, pronalazi Ascend komplet alata preko ASCEND_HOME_PATH ili ASCEND_TOOLKIT_HOME i povezuje Ascend i Torch NPU biblioteke. Zato su za procenu kernela potrebni odgovarajući hardver i skup alata. Repozitorijum sadrži testove operacija. BIG CHANGE je pregledao dokumentaciju i kod, ali nije pokrenuo izgradnju ni kernele.

Koliki je domet objavljenih testova

DeepSeek navodi merenja na Ascend 950DT sa CANN 9.20, uz bench_msprof i hladnu L2 keš-memoriju. Za oblik gustog BF16 množenja matrica M=4096, N=7168 i K=16384, njegova tabela performansi navodi 2.229,9 mikrosekundi, 431 TFLOPS i 99,8% granice hardvera iskazane u toj tabeli. Za isti oblik prijavljeno je 1.117,6 mikrosekundi i 861 TFLOPS za FP8×FP8. To su merenja kernela za navedene tipove i oblike, a ne izmerena propusnost modela. Tabela sadrži i rezultate grupisanog GEMM-a, MQA, MegaMoE-a i prenorm-a u zasebnim konfiguracijama; vrednosti za MegaMoE predstavljaju prosek osam rank-ova, paralelizam eksperata osam, top-k usmeravanje šest i jednog zajedničkog eksperta.

Testni kod poredi GEMM izlaze sa generisanim referentnim vrednostima i koristi ACLNN unakrsnu proveru za podržane guste slučajeve. Za neke oblike i recepte izričito preskače tu dodatnu ACLNN proveru. Objavljeni kod i testovi omogućavaju proveru tvrdnji, ali BIG CHANGE nije nezavisno ponovio rezultate iz README-a. Izdanje ne donosi uporediv test sa drugim stekom akceleratora, poređenje troškova niti rezultat za uslugu od početka do kraja.

Glavna promena

DeepSeek je objavio DeepGEMM Ascend kod kernela za seriju Ascend 950.

Programeri mogu da pregledaju i izgrade poznate GEMM operacije i povezane operacije modela za taj hardver. Izdanje dokumentuje CANN 9.20 i raspored faktora skaliranja specifičan za Ascend.

Timovi koji koriste Ascend 950 sada imaju kod kernela za procenu na oblicima svojih modela. DeepSeek navodi rezultate blizu granice u jednom Ascend 950DT testnom okruženju; BIG CHANGE nije pokrenuo kernele.

Performanse kompletnih aplikacija, podrška za druge Ascend uređaje i operativni troškovi tek treba da se utvrde.

Izvori i dodatna literatura

  • DeepGEMM Ascend repozitorijum i README: beleška o izdanju od 30. septembra, preduslovi, tvrdnje o interfejsu i tabele testova koje je pripremio projekat. README je primarni izvor održavalaca projekta, a ne nezavisna potvrda.
  • Izvozi paketa i konfiguracija izgradnje: verzija, javne Python funkcije, navedene zavisnosti i povezivanje izgradnje iz izvornog koda u prvom commitu.
  • GEMM testni okvir: način na koji repozitorijum proverava izlaze i poziva profiler, uključujući uslove pod kojima se preskače ACLNN poređenje. Ove datoteke ne reprodukuju nezavisno objavljene rezultate.