Repozitorijum openTPU objedinjuje Python simulator skupa instrukcija, kompajler, SystemVerilog dizajn i alate za FPGA host u jednom projektu. Autori navode da su pokretali jezičke modele na Inspur Kintex-7 kartici. Za programera sistema mašinskog učenja ili FPGA uređaja, najpristupačniji prvi korak je softversko pokretanje ćaskanja sa stvarnim težinama modela. Prenos istog projekta na karticu zahteva konkretnu ploču, licencirane alate za izgradnju i Linux podešavanje hosta. Ovaj vodič prati repozitorijum na komitu b9a3f3b od 7. oktobra 2026; BIG CHANGE ga nije instalirao, simulirao niti testirao.

Velika promena

  • Šta se promenilo: openTPU zajedno objavljuje skup instrukcija akceleratora, simulator, kompajler, RTL i integraciju ploče. Inženjer može da ispita put od operacije modela do simuliranih instrukcija pre nabavke podržane kartice.
  • Zašto je važno: Dokumentovani simulator pruža onima koji uče o hardveru konkretan način da prouče dizajn i pokrenu mali jezički model pomoću uobičajenog softvera na hostu. Projekat navodi da su AI agenti pomogli u izradi hardverskog steka; artefakti koji mogu da se pregledaju čine tu tvrdnju vrednom provere, dok rezultati prijavljeni za karticu ostaju merenja samog projekta.
  • Šta treba pratiti: Ponavljanje fizičkog rezultata zavisi od Kintex-7 ploče, licencirane Vivado izgradnje i ispravnog pokretanja PCIe veze. Repozitorijum nudi komande i samotestove za taj posao. Nezavisno pokretanje na fiksiranoj reviziji pokazalo bi koliko lako drugi inženjeri mogu da ga ponove.

Fiksirajte izvor i izaberite softverski put

Sledeći koraci prate main na komitu b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93, komitovanom 7. oktobra 2026. u 11:24 UTC. Repozitorijum ima oznaku v0.5, ali ovaj vodič koristi kasniji fiksirani komit jer njegov README sadrži nov odeljak za validaciju preko Hugging Face-a. Python paket se i dalje predstavlja kao verzija 0.1.0 u datoteci pyproject.toml; sam broj verzije paketa ne identifikuje snimak izvornog koda. Repozitorijum koristi licencu Apache 2.0.

Potreban vam je Python 3.10 ili noviji. Paket navodi zavisnosti numpy i textual; README zasebno instalira pytest, torch i transformers za testove i upotrebu modela. Prikazuje Hugging Face komandu hf koja preuzima kontrolnu tačku u models/LFM2.5-230M. Proverite da li je hf dostupna u vašem Python okruženju pre preuzimanja. Kontrolna tačka je ulaz za komandu za ćaskanje, a ne model koji dolazi uz izvorni kod. Projekat ne navodi ukupnu veličinu preuzimanja, potrebnu memoriju hosta niti fiksno trajanje simulacije za ovaj put.

Iz korena repozitorijuma, dokumentovani niz komandi je:

Terminal
git clone https://github.com/FeSens/openTPU.git
cd openTPU
git checkout b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93
pip install -e .
pip install pytest torch transformers
python3 -m pytest -q
hf download LiquidAI/LFM2.5-230M --local-dir models/LFM2.5-230M
otpu-chat --model lfm2 --backend isa

Komande za preuzimanje repozitorijuma i fiksiranje verzije obezbeđuju ispitivanu reviziju; komande za instalaciju, testiranje, preuzimanje modela i ćaskanje preuzete su iz README-a. --backend isa bira Python ISA simulator. Kompletna pytest testna serija obuhvata i RTL testove koji zahtevaju Verilator 5, pa mašina bez tog alata ne može da koristi celu seriju kao proveru uspešnog rada samo softverom. Za najmanje dokumentovano interaktivno pokretanje, signal završetka je učitana LFM2.5-230M kontrolna tačka i interfejs za ćaskanje koji prihvata upit i vraća tekst modela. Tačan tekst odgovora zavisi od upita i uzorkovanja. izvorni kod CLI-ja za ćaskanje nudi i opciju --plain za terminalski REPL i --prompt za jednokratni odgovor; druga opcija ispisuje odgovor i statistiku poteza. To su dokumentovani interfejsi, a ne rezultati koje je BIG CHANGE posmatrao.

README među glavnim izborima za ćaskanje navodi Qwen3-0.6B, LFM2.5-230M i Qwen3.5-0.8B, kao i nekoliko većih modela. Za svaki je potrebna sopstvena kontrolna tačka u očekivanom direktorijumu modela ili izričita putanja do nje. Navedena LFM2 putanja je najkraći primer preuzimanja modela u repozitorijumu. Širi rezultati u README-u obuhvataju deset modela na kartici, uključujući Gemma 4 i modele koji zahtevaju delimično prebacivanje eksperata, a za neke i više formata težina. Ta tabela sadrži merenja autora; ona ne obećava da svaki model prati ovo jednokomandno LFM2 podešavanje.

Šta simulator proverava

Projekat opisuje jezik jezgara i kompajler koji generišu instrukcije za akcelerator. Python ISA simulator izvršava te instrukcije; SystemVerilog RTL je hardverska implementacija. Pregled sistema u README-u i opentpu/isasim.py omogućavaju čitaocu da prati tu granicu. Pokretanje otpu-chat sa opcijom isa proverava inferenciju modela kroz softversku putanju instrukcija. Ne programira FPGA niti meri protok kartice.

Održavaoci navode da njihova kartica proizvodi iste tokene kao simulator, bit po bit, i nude skriptu za validaciju radi poređenja izabranih pokretanja na uređaju sa CPU Hugging Face referencom. Fiksirani README opisuje podrazumevane upite, poređenja tokena i logita i pokretanje na kartici 7. oktobra. Ti izveštaji i kod omogućavaju pregled provera. BIG CHANGE ih nije ponovio, pa oni ne dokazuju nezavisno tačnost ili brzinu.

Šta se menja sa fizičkom karticom

Priručnik za ploču namenjen je kartici Inspur YPCB-00338 sa Xilinx Kintex-7 xc7k480t-ffg1156-2, dva DDR3 kanala od 2 GiB i PCIe vezom sa računarom domaćinom. Podrazumevana izgradnja bitstrima koristi Vivado 2026.1. Priručnik kaže da besplatno izdanje ne obuhvata ovaj uređaj i predlaže plaćenu licencu ili probni period od 30 dana. AMD-ova tabela uređaja za 2026.1 protivreči toj tvrdnji o uređaju: Basic obuhvata sve Kintex 7 uređaje.

Trenutne AMD opcije licenciranja navode da Basic košta 0 dolara, podržava Linux i ima besplatno godišnje obnavljanje. Česta pitanja o licenciranju kažu da je za Basic i dalje potrebna važeća godišnja datoteka licence; zasebni probni period sa svim funkcijama traje 60 dana. AMD-ova tabela funkcija za 2026.1 navodi JTAG programiranje u Basic-u, ali ograničava XSIM simulaciju i neke funkcije otklanjanja grešaka. Viši plaćeni nivoi dodaju funkcije, a AMD kaže da se IP licenciranje ne menja. BIG CHANGE nije izgradio openTPU u Basic-u. Pre nego što se ovo smatra besplatnom izgradnjom, treba proveriti prava na alate i IP za ovaj tok bitstrima. Priručnik za ploču procenjuje da make bit traje 1,5 do 3 sata, zavisno od mašine. Ni on ni AMD-ova tabela nivoa ne navode cenu kupovine kartice niti ukupan trošak reprodukcije.

Kada nabavite ploču i lanac alata, dokumentovani put za ploču je izgradnja bitstrima u direktorijumu boards/ypcb-00338, programiranje FPGA preko JTAG-a i podešavanje Linux hosta. Makefile шаље make bit излаз ка build/vivado/otpu.bit. make program podrazumevano koristi openFPGALoader; priručnik opisuje i Vivado menadžer hardvera. JTAG učitavanje se ne zadržava posle isključivanja i ponovnog uključivanja.

Terminal
cd boards/ypcb-00338
make lint
make bit
make program

Gornji hardverski koraci preuzeti su iz priručnika za ploču, a ovde nisu testirani. Kontrolna lista za pokretanje Linux hosta traži Python paket i kontrolnu tačku, sudo otpu-setup za instalaciju XDMA upravljačkog programa i pravila uređaja, ponovno skeniranje PCIe-a posle JTAG učitavanja i otpu-setup --check. Prema dokumentaciji, poslednja komanda uspešno se završava porukom „sve je na mestu“ kada su upravljački program, kartica, veza, čvorovi uređaja i ID registar ispravni. Zatim otpu-selftest proverava karticu pre komande otpu-chat --backend board --model lfm2. Dijagnostika ploče može da se sačuva pomoću otpu-diag --json diag.json. Te provere su konkretni signali završetka za put sa karticom; ISA ćaskanje samo po sebi ne može da ih zameni.

Objavljene brojke o performansama zahtevaju isti oprez. README, na primer, navodi 82,1 token u sekundi ukupnog vremena za LFM2.5-230M sa težinama od 4 bita i int8 glavom na kartici autora. Metod koristi 64 greedy dekodirana tokena posle upita od 512 tokena, a tabela razlikuje cikluse uređaja od ukupnog vremena koje obuhvata host. Drugi host, bitstrim, format težina ili upit daju drugo merenje. Poruka komita od 7. oktobra beleži dodatnu kvalifikaciju na kartici, ali i dalje je to zapis održavalaca. Među izvorima pregledanim za ovaj vodič nema nezavisno ponovljenog benchmark testa.

Izvori i dodatno čitanje

  • openTPU repozitorijum na ispitivanom komitu, 7. oktobar 2026. README sadrži pregled sistema, komande simulatora, spisak modela i prijavljena merenja kartice. To su tvrdnje projekta; BIG CHANGE nije pokrenuo repozitorijum.
  • Metapodaci Python paketa i Apache 2.0 licenca. Utvrđuju verziju Python-a, navedene zavisnosti, CLI ulazne tačke, verziju paketa i licencu izvornog koda. Kontrolne tačke modela i Vivado imaju zasebne uslove i zahteve.
  • Priručnik za pokretanje ploče i hosta, proveren 7. oktobra 2026. Navodi podržanu karticu, korake za bitstrim, Linux podešavanje, JTAG programiranje i samotestove. Njegove tvrdnje o plaćenoj licenci i probnom periodu od 30 dana protivreče AMD-ovim aktuelnim dokumentima o licenciranju 2026.1. Neki istorijski primeri bitstrima odnose se na starije izgradnje; pri reprodukciji koristite fiksirano stablo i trenutna uputstva za izgradnju.
  • AMD Vivado 2026.1 dostupnost uređaja, UG973 i podržani uređaji i funkcije, oba dokumenta od 23. juna 2026, kao i opcije licenciranja proverene 7. oktobra. Ovi izvori stavljaju sve Kintex 7 uređaje u besplatni Basic, navode podršku za Linux i JTAG i prikazuju ograničenja Basic simulacije i otklanjanja grešaka. AMD česta pitanja o licenciranju navode godišnju datoteku licence za Basic i probni period od 60 dana. Podrška za uređaj sama po sebi ne proverava kompletan tok bitstrima ovog projekta u Basic-u.
  • CLI za ćaskanje i LFM2 vodič. Prikazuju izbor pozadinskog sistema, putanju modela, interaktivni i jednokratni izlaz i primer malog kontrolnog punkta.
  • GIGAZINE izveštaj od 7. oktobra pruža koristan kontekst o javnoj pažnji projekta. Detalji podešavanja i performansi u ovom vodiču provereni su u repozitorijumu, a nisu preuzeti iz tog izveštaja.