DeepSeek је објавио Ascend верзију своје библиотеке DeepGEMM језгара за програмере који користе Huawei NPU уређаје серије 950. README репозиторијума наводи 30. септембар 2026. као датум првог издања; Python пакет је означен верзијом 0.1.0. То тимовима пружа полазну тачку отвореног кода за множење матрица и сродне операције модела на том хардверу. До сада објављени подаци о перформансама потичу из DeepSeek-ових тестова.

Издање је важно за инжењере који процењују софтверски стек Ascend-а јер пружа изворни код језгара и познате DeepGEMM улазне тачке, као и документован поступак за изградњу проширења. Перформансе целог модела и трошкове рада и даље треба тестирати са предвиђеним оптерећењем на циљном систему.

Шта садржи издање

DeepGEMM је библиотека за матричне операције које се често користе у AI моделима. У Ascend README-у наведена су BF16, FP8 и FP4 GEMM језгра, груписане операције за моделе мешавине стручњака, MQA логити, спојена MegaMoE операција и mHC prenorm језгро. Извози Python пакета приказују функције за густо и груписано GEMM, MQA функције, помоћне алате за распоред фактора скалирања и контроле JIT компилације и употребе AI језгра. Репозиторијум је под MIT лиценцом.

DeepSeek наводи да је Ascend порт у потпуности компатибилан са API-јем узводног DeepGEMM-а. Исти deep_gemm назив пакета и велики део јавног интерфејса могу да олакшају миграцију кода. Ипак, README указује на важну разлику у распореду података: Ascend пакује сваки пар UE8M0 фактора скалирања дуж осе K у int16 и чува спаковане вредности у MN-major редоследу. Пакет извози функције за претварање фактора скалирања у тражени распоред. Апликација која користи квантизоване улазе и даље мора да обезбеди одговарајуће податке и провери сопствене резултате. Тврдња о компатибилности потиче од одржавалаца, а не из BIG CHANGE теста миграције.

Шта је програмеру потребно за испробавање

Документовани предуслови су Ascend NPU, CANN 9.20 са алатима bisheng и ld.lld, torch_npu, Python 3.10 или новији и компајлер и стандардна библиотека са подршком за C++20 <format>. Одржаваоци наводе да су развој и валидација обављени на серији Ascend 950. tilelang је наведен као зависност пакета за HC prenorm језгро; tree-sitter и tree-sitter-cpp и потребни су за генерисање типских заглавља при изградњи из изворног кода. README не наводи torch_npu верзију нити потврђује валидацију на другим Ascend уређајима.

README упућује програмере да клонирају репозиторијум заједно са подмодулима и изграде C++ проширење помоћу develop.sh или да га инсталирају из преузетог изворног кода командом pip install . --no-build-isolation. Његова конфигурација изградње увози torch и torch_npu, проналази Ascend алатни комплет преко ASCEND_HOME_PATH или ASCEND_TOOLKIT_HOME и повезује Ascend и Torch NPU библиотеке. За процену језгара зато су потребни одговарајући хардвер и ланац алата. Репозиторијум садржи тестове операција. BIG CHANGE је прегледао документацију и код, али није покренуо изградњу нити језгра.

Колико далеко досежу резултати тестирања

DeepSeek наводи мерења на Ascend 950DT са CANN 9.20, уз bench_msprof и хладну L2 кеш меморију. За један облик густог BF16 множења матрица, M=4096, N=7168 и K=16384, табела перформанси наводи 2.229,9 микросекунди, 431 TFLOPS и 99,8% границе хардвера наведене у тој табели. За исти облик пријављује 1.117,6 микросекунди и 861 TFLOPS за FP8×FP8. То су мерења језгра за наведене типове и облике, а не пропусност модела. Табела даје и резултате за груписани GEMM, MQA, MegaMoE и prenorm у засебним конфигурацијама; вредности MegaMoE представљају просек осам рангова, са паралелизмом стручњака осам, top-k усмеравањем шест и једним заједничким стручњаком.

Тестни код поређује GEMM излазе са генерисаним референтним вредностима и користи ACLNN унакрсну проверу за подржане густе случајеве. Изричито прескаче ту додатну ACLNN проверу за неке облике и рецепте. Објављени код и тестови омогућавају проверу тврдњи, али BIG CHANGE није независно поновио резултате из README-а. Издање не пружа упоредив тест са другим стеком акцелератора, поређење трошкова нити резултат услуге од почетка до краја.

Велика промена

DeepSeek је објавио код DeepGEMM Ascend језгара за серију Ascend 950.

Програмери могу да прегледају и изграде познате GEMM и сродне операције модела за тај хардвер. Издање документује CANN 9.20 и распоред фактора скалирања специфичан за Ascend.

Тимови са Ascend 950 сада имају код језгара који могу да процене на сопственим облицима модела. DeepSeek наводи резултате близу границе у једном тестном окружењу Ascend 950DT; BIG CHANGE није покренуо језгра.

Перформансе целе апликације, подршка за друге Ascend уређаје и трошкови рада тек треба да се утврде.

Извори и додатна литература

  • DeepGEMM Ascend репозиторијум и README: белешка о издању од 30. септембра, предуслови, тврдње о интерфејсу и табеле тестова које је саставио пројекат. README је примарни извор одржавалаца пројекта, а не независна валидација.
  • Извози пакета и конфигурација изградње: верзија, јавне Python функције, декларисане зависности и веза изградње из изворног кода у почетном комиту.
  • GEMM тестни скуп: начин на који репозиторијум проверава излазе и позива профилер, укључујући услове под којима се прескаче ACLNN поређење. Ове датотеке не репродукују независно објављене резултате.