Репозиторијум openTPU обједињује Python симулатор скупа инструкција, компајлер, SystemVerilog дизајн и алате за FPGA хост у једном пројекту. Аутори наводе да су покретали језичке моделе на Inspur Kintex-7 картици. За програмера система машинског учења или FPGA уређаја, најприступачнији први корак је софтверско покретање ћаскања са стварним тежинама модела. Пренос истог пројекта на картицу захтева конкретну плочу, лиценциране алате за изградњу и Linux подешавање хоста. Овај водич прати репозиторијум на комиту b9a3f3b од 7. октобра 2026; BIG CHANGE га није инсталирао, симулирао нити тестирао.

Велика промена

  • Шта се променило: openTPU заједно објављује скуп инструкција акцелератора, симулатор, компајлер, RTL и интеграцију плоче. Инжењер може да испита пут од операције модела до симулираних инструкција пре набавке подржане картице.
  • Зашто је важно: Документовани симулатор пружа онима који уче о хардверу конкретан начин да проуче дизајн и покрену мали језички модел помоћу уобичајеног софтвера на хосту. Пројекат наводи да су AI агенти помогли у изради хардверског стека; артефакти који могу да се прегледају чине ту тврдњу вредном провере, док резултати пријављени за картицу остају мерења самог пројекта.
  • Шта треба пратити: Понављање физичког резултата зависи од Kintex-7 плоче, лиценциране Vivado изградње и исправног покретања PCIe везе. Репозиторијум нуди команде и самотестове за тај посао. Независно покретање на фиксираној ревизији показало би колико лако други инжењери могу да га понове.

Фиксирајте извор и изаберите софтверски пут

Следећи кораци прате main на комиту b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93, комитованом 7. октобра 2026. у 11:24 UTC. Репозиторијум има ознаку v0.5, али овај водич користи каснији фиксирани комит јер његов README садржи нов одељак за валидацију преко Hugging Face-а. Python пакет се и даље представља као верзија 0.1.0 у датотеци pyproject.toml; сам број верзије пакета не идентификује снимак изворног кода. Репозиторијум користи лиценцу Apache 2.0.

Потребан вам је Python 3.10 или новији. Пакет наводи зависности numpy и textual; README засебно инсталира pytest, torch и transformers за тестове и употребу модела. Приказује Hugging Face команду hf која преузима контролни пункт у models/LFM2.5-230M. Проверите да ли је hf доступан у вашем Python окружењу пре преузимања. Контролни пункт је улаз за команду за ћаскање, а не модел који долази уз изворни код. Пројекат не наводи укупну величину преузимања, потребну меморију хоста нити фиксно трајање симулације за овај пут.

Из корена репозиторијума, документовани низ команди је:

Terminal
git clone https://github.com/FeSens/openTPU.git
cd openTPU
git checkout b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93
pip install -e .
pip install pytest torch transformers
python3 -m pytest -q
hf download LiquidAI/LFM2.5-230M --local-dir models/LFM2.5-230M
otpu-chat --model lfm2 --backend isa

Команде за преузимање репозиторијума и фиксирање верзије обезбеђују испитивану ревизију; команде за инсталацију, тестирање, преузимање модела и ћаскање преузете су из README-а. --backend isa бира Python ISA симулатор. Комплетна pytest тестна серија обухвата и RTL тестове који захтевају Verilator 5, па машина без тог алата не може да користи целу серију као проверу успешног рада само софтвером. За најмање документовано интерактивно покретање, сигнал завршетка је учитан LFM2.5-230M контролни пункт и интерфејс за ћаскање који прихвата упит и враћа текст модела. Тачан текст одговора зависи од упита и узорковања. изворни код CLI-ја за ћаскање нуди и опцију --plain за терминалски REPL и --prompt за једнократни одговор; друга опција исписује одговор и статистику потеза. То су документовани интерфејси, а не резултати које је BIG CHANGE посматрао.

README међу главним изборима за ћаскање наводи Qwen3-0.6B, LFM2.5-230M и Qwen3.5-0.8B, као и неколико већих модела. За сваки је потребан сопствени контролни пункт у очекиваном директоријуму модела или изричита путања до њега. Наведени LFM2 пример је најкраћи пример преузимања модела у репозиторијуму. Шири резултати у README-у обухватају десет модела на картици, укључујући Gemma 4 и моделе који захтевају делимично пребацивање експерата, а за неке и више формата тежина. Та табела садржи мерења аутора; она не обећава да сваки модел прати ово једнокомандно LFM2 подешавање.

Шта симулатор проверава

Пројекат описује језик језгара и компајлер који генеришу инструкције за акцелератор. Python ISA симулатор извршава те инструкције; SystemVerilog RTL је хардверска имплементација. Преглед система у README-у и opentpu/isasim.py омогућавају читаоцу да прати ту границу. Покретање otpu-chat са опцијом isa проверава инференцију модела кроз софтверску путању инструкција. Не програмира FPGA нити мери проток картице.

Одржаваоци наводе да њихова картица производи исте токене као симулатор, бит по бит, и нуде скрипту за валидацију ради поређења изабраних покретања на уређају са CPU Hugging Face референцом. Фиксирани README описује подразумеване упите, поређења токена и логита и покретање на картици 7. октобра. Ти извештаји и код омогућавају преглед провера. BIG CHANGE их није поновио, па они не доказују независно тачност или брзину.

Шта се мења са физичком картицом

Приручник за плочу намењен је картици Inspur YPCB-00338 са Xilinx Kintex-7 xc7k480t-ffg1156-2, два DDR3 канала од 2 GiB и PCIe везом са рачунаром домаћином. Подразумевана изградња битстрима користи Vivado 2026.1. Приручник каже да бесплатно издање не обухвата овај уређај и предлаже плаћену лиценцу или пробни период од 30 дана. AMD-ова табела уређаја за 2026.1 противречи тој тврдњи о уређају: Basic обухвата све Kintex 7 уређаје.

Тренутне AMD опције лиценцирања наводе да Basic кошта 0 долара, подржава Linux и има бесплатно годишње обнављање. Честа питања о лиценцирању кажу да је за Basic и даље потребна важећа годишња датотека лиценце; засебни пробни период са свим функцијама траје 60 дана. AMD-ова табела функција за 2026.1 наводи JTAG програмирање у Basic-у, али ограничава XSIM симулацију и неке функције отклањања грешака. Виши плаћени нивои додају функције, а AMD каже да се IP лиценцирање не мења. BIG CHANGE није изградио openTPU у Basic-у. Пре него што се ово сматра бесплатном изградњом, треба проверити права на алате и IP за овај ток битстрима. Приручник за плочу процењује да make bit траје 1,5 до 3 сата, зависно од машине. Ни он ни AMD-ова табела нивоа не наводе цену куповине картице нити укупан трошак репродукције.

Када набавите плочу и ланац алата, документовани пут за плочу је изградња битстрима у директоријуму boards/ypcb-00338, програмирање FPGA преко JTAG-а и подешавање Linux хоста. Makefile шаље make bit излаз ка build/vivado/otpu.bit. make program подразумевано користи openFPGALoader; приручник описује и Vivado менаџер хардвера. JTAG учитавање се не задржава после искључивања и поновног укључивања.

Terminal
cd boards/ypcb-00338
make lint
make bit
make program

Горњи хардверски кораци преузети су из приручника за плочу, а овде нису тестирани. Контролна листа за покретање Linux хоста тражи Python пакет и контролни пункт, sudo otpu-setup за инсталацију XDMA управљачког програма и правила уређаја, поновно скенирање PCIe-а после JTAG учитавања и otpu-setup --check. Према документацији, последња команда успешно се завршава поруком „све је на месту“ када су управљачки програм, картица, веза, чворови уређаја и ID регистар исправни. Затим otpu-selftest проверава картицу пре команде otpu-chat --backend board --model lfm2. Дијагностика плоче може да се сачува помоћу otpu-diag --json diag.json. Те провере су конкретни сигнали завршетка за пут са картицом; ISA ћаскање само по себи не може да их замени.

Објављене бројке о перформансама захтевају исти опрез. README, на пример, наводи 82,1 токен у секунди укупног времена за LFM2.5-230M са тежинама од 4 бита и int8 главом на картици аутора. Метод користи 64 greedy декодирана токена после упита од 512 токена, а табела разликује циклусе уређаја од укупног времена које обухвата хост. Други хост, битстрим, формат тежина или упит дају друго мерење. Порука комита од 7. октобра бележи додатну квалификацију на картици, али и даље је то запис одржавалаца. Међу изворима прегледаним за овај водич нема независно поновљеног benchmark теста.

Извори и додатно читање

  • openTPU репозиторијум на испитаном комиту, 7. октобар 2026. README садржи преглед система, команде симулатора, списак модела и пријављена мерења картице. То су тврдње пројекта; BIG CHANGE није покренуо репозиторијум.
  • Метаподаци Python пакета и Apache 2.0 лиценца. Утврђују верзију Python-а, наведене зависности, CLI улазне тачке, верзију пакета и лиценцу изворног кода. Контролни пунктови модела и Vivado имају засебне услове и захтеве.
  • Приручник за покретање плоче и хоста, проверен 7. октобра 2026. Наводи подржану картицу, кораке за битстрим, Linux подешавање, JTAG програмирање и самотестове. Његове тврдње о плаћеној лиценци и пробном периоду од 30 дана противрече AMD-овим актуелним документима о лиценцирању 2026.1. Неки историјски примери битстрима односе се на старије изградње; при репродукцији користите фиксирано стабло и тренутна упутства за изградњу.
  • AMD Vivado 2026.1 доступност уређаја, UG973 и подржани уређаји и функције, оба документа од 23. јуна 2026, као и опције лиценцирања проверене 7. октобра. Ови извори стављају све Kintex 7 уређаје у бесплатни Basic, наводе подршку за Linux и JTAG и приказују ограничења Basic симулације и отклањања грешака. AMD честа питања о лиценцирању наводе годишњу датотеку лиценце за Basic и пробни период од 60 дана. Подршка за уређај сама по себи не проверава комплетан ток битстрима овог пројекта у Basic-у.
  • CLI за ћаскање и LFM2 водич. Приказују избор позадинског система, путању модела, интерактивни и једнократни излаз и пример малог контролног пункта.
  • GIGAZINE извештај од 7. октобра пружа користан контекст о јавној пажњи пројекта. Детаљи подешавања и перформанси у овом водичу проверени су у репозиторијуму, а нису преузети из тог извештаја.