Markdown edition

AI-translated from English; not yet reviewed by a fluent editor.

# Paano patakbuhin ang simulator ng openTPU at suriin ang mga kailangan nito sa FPGA

> Nagdodokumento ang openTPU ng Python simulator para sa inference ng language model at hiwalay na paraan para sa Inspur Kintex-7 card. Inilalahad ng gabay na ito ang mga command, inaasahang output, at kinakailangan sa hardware mula sa repository.

By BIG CHANGE Editorial

Published: 2026-10-07T13:36:01.795Z
Updated: 2026-10-07T13:36:01.795Z
Canonical: https://bigchange.ai/blog/opentpu-simulator-fpga-requirements-guide

![Conceptual charcoal illustration of one engineer holding and examining a PCIe FPGA accelerator card above an electronics work mat.](https://bigchange.ai/api/media/file/opentpu-fpga-card-hero-v2.png)
AI-generated conceptual illustration by BIG CHANGE, based on a reference photograph of the Inspur YPCB-00338 board. It does not depict a BIG CHANGE test or observed openTPU run.

Ang [openTPU repository](https://github.com/FeSens/openTPU/tree/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93) ay naglalaman ng Python instruction-set simulator, compiler, SystemVerilog design, at FPGA host tools sa iisang proyekto. Iniulat ng mga may-akda na nagpatakbo sila ng mga language model sa Inspur Kintex-7 card. Para sa developer ng ML systems o FPGA, pinakamadaling unang hakbang ang software chat run gamit ang tunay na model weights. Kailangan naman ng partikular na board, lisensiyadong build tools, at Linux host setup para mailipat ang parehong proyekto sa card. Sinusundan ng gabay na ito ang repository sa commit na `b9a3f3b` mula Oktubre 7, 2026; hindi ito ini-install, sini-simulate, o sinusubukan ng BIG CHANGE.

## Ang malaking pagbabago

- **Ano ang nagbago:** Magkasamang inilalabas ng openTPU ang instruction set ng accelerator, simulator, compiler, RTL, at integration ng board. Masusuri ng engineer ang daan mula sa model operation hanggang sa mga simulated instruction bago bumili ng suportadong card.
- **Bakit mahalaga:**Nagbibigay ang dokumentadong simulator ng kongkretong paraan para pag-aralan ng mga nag-aaral ng hardware ang disenyo at magpatakbo ng maliit na language model gamit ang karaniwang host software. Sinasabi ng proyekto na tumulong ang AI agents sa paggawa ng hardware stack; nagbibigay-daan ang mga nasusuring artifact para siyasatin ang pahayag na iyon, habang sariling sukat pa rin ng proyekto ang mga naiulat na resulta sa card.
- **Ano ang dapat bantayan:**Nakadepende ang pag-uulit ng pisikal na resulta sa Kintex-7 board, lisensiyadong Vivado build, at gumaganang PCIe bring-up. May mga command at self-test ang repository para rito. Ipapakita ng independiyenteng run sa isang nakapirming revision kung gaano kadaling ulitin ito ng ibang engineer.

## I-pin ang source at piliin ang software path

Sinusunod ng mga hakbang sa ibaba ang `main` repository sa [commit `b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93`](https://github.com/FeSens/openTPU/commit/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93), na ginawa noong Oktubre 7. May `v0.5` tag ang repository, pero ginagamit ng gabay na ito ang mas huling naka-pin na commit dahil may bago itong seksiyon sa README para sa validation ng [Hugging Face](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#validating-against-hugging-face). Bersiyon `0.1.0` pa rin ang pagkakakilanlan ng Python package sa [`pyproject.toml`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml); hindi sapat ang numero ng package para matukoy ang source snapshot. Apache 2.0 ang lisensiya ng repository.

Kailangan mo ng Python 3.10 o mas bago. Idinedeklara ng package ang `numpy` at `textual`; hiwalay namang ini-install ng README ang `pytest`, `torch`, at `transformers` para sa mga test at paggamit ng modelo. Ipinapakita nito ang Hugging Face command na `hf` para mag-download ng checkpoint sa `models/LFM2.5-230M`. Tiyaking mayroon kang `hf` sa Python environment bago mag-download. Input sa chat command ang checkpoint; hindi ito modelong kasama sa source. Hindi sinasabi ng proyekto ang kabuuang laki ng download, kailangan sa host memory, o tiyak na runtime ng simulator para sa path na ito.

Mula sa root ng repository, ito ang [dokumentadong pagkakasunod-sunod ](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#try-it):

```shell
git clone https://github.com/FeSens/openTPU.git
cd openTPU
git checkout b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93
pip install -e .
pip install pytest torch transformers
python3 -m pytest -q
hf download LiquidAI/LFM2.5-230M --local-dir models/LFM2.5-230M
otpu-chat --model lfm2 --backend isa
```

Pini-pin ng checkout commands ang sinuring revision; mula sa README ang install, test, download, at chat commands. Pinipili ng `--backend isa` ang Python instruction-set simulator. Kasama rin sa buong `pytest` suite ang RTL tests na nangangailangan ng Verilator 5, kaya hindi magagamit ng makinang walang tool na iyon ang buong suite bilang software-only na pagsusuri ng tagumpay. Para sa pinakamaliit na dokumentadong interactive run, palatandaan ng pagkumpleto ang na-load na LFM2.5-230M checkpoint at chat interface na tumatanggap ng prompt at nagbabalik ng text ng modelo. Nakadepende sa prompt at sampling ang eksaktong sagot. Nagbibigay rin ang [chat CLI source](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/host/chat.py) ng `--plain` para sa terminal REPL at `--prompt` para sa iisang sagot; ini-print ng huli ang sagot at turn statistics. Mga dokumentadong interface ang mga ito, hindi output na nakita ng BIG CHANGE.

Inililista ng README ang Qwen3-0.6B, LFM2.5-230M, at Qwen3.5-0.8B sa mga pangunahing chat option, pati ilang mas malalaking modelo. Kailangan ng bawat isa ang sarili nitong checkpoint sa inaasahang model directory o tahasang checkpoint path. Ang LFM2 path sa itaas ang pinakamaikling halimbawa ng pag-download ng modelo sa repository. Saklaw ng mas malawak na resulta sa README ang sampung modelo sa card, kabilang ang Gemma 4 at mga modelong nangangailangan ng expert offloading; may ilang sinubukan sa maraming weight format. Mga sukat ito ng mga may-akda, hindi pangakong gagana ang bawat modelo sa iisang-command na LFM2 setup na ito.

## Ano ang sinusuri ng simulator

Inilalarawan ng proyekto ang kernel language at compiler na gumagawa ng mga instruction para sa accelerator nito. Isinasagawa ng Python ISA simulator ang mga instruction; ang SystemVerilog RTL ang implementasyon ng hardware. Ipinakikita ng [system outline sa README](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#how-it-works) at ng [`opentpu/isasim.py`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/isasim.py) ang hangganang ito. Sa pagpapatakbo ng `otpu-chat` kasama ang `isa` dumaraan sa software instruction path ang model inference. Hindi nito pino-program ang FPGA o sinusukat ang throughput ng card.

Iniulat ng mga maintainer na bit-for-bit na kapareho ng simulator ang mga token ng card nila, at may ibinigay silang [validation script](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/tools/validate.py) para ihambing ang piling device run sa CPU Hugging Face reference. Inilalarawan ng naka-pin na README ang default prompt, paghahambing ng token at logit, at card run noong Oktubre 7. Nasusuri ang mga test na ito sa pamamagitan ng ulat at code. Hindi inulit ng BIG CHANGE ang mga ito, kaya hindi ito independiyenteng patunay ng katumpakan o bilis.

## Ano ang nag-iiba sa pisikal na card

Tinutukoy ng [board manual](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md) ang **Inspur YPCB-00338** na may Xilinx Kintex-7 `xc7k480t-ffg1156-2`, dalawang 2 GiB DDR3 channel, at PCIe connection sa host PC. Vivado 2026.1 ang gamit sa default bitstream build nito. Sinasabi ng manual na hindi kasama ang device sa libreng edisyon at nagmumungkahi ng bayad na lisensiya o 30-araw na evaluation. Sumasalungat dito ang [2026.1 device table ng AMD ](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A): **Kasama sa Basic ang lahat ng Kintex 7 device**.

[Nasa kasalukuyang licensing option ng AMD](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html) ang Basic sa halagang $0, may Linux support, at libreng taunang renewal. Sinasabi ng [licensing FAQ](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) na kailangan pa rin ng wastong taunang license file ang Basic;  ang hiwalay na evaluation na kumpleto ang feature. **60 araw**. [2026.1 feature table ng AMD](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features) Ipinakikita ng  ang JTAG programming sa Basic pero nililimitahan ang XSIM simulation at ilang debug feature. May dagdag na feature ang mas mataas na bayad na tier, at hindi nagbabago ang IP licensing ayon sa AMD. Hindi nag-build ng openTPU sa Basic ang BIG CHANGE. Kailangang beripikahin ang karapatan sa tool at IP para sa bitstream flow na ito bago sabihing walang gastos ang build. Tinataya ng board manual na `make bit` ay aabot ng 1.5 hanggang 3 oras depende sa makina. Walang binibigay ang manual o AMD tier table na presyo ng card o kabuuang gastos sa pag-uulit.

Matapos makuha ang board at toolchain, itinatayo ang bitstream sa `boards/ypcb-00338`, pina-program ang FPGA sa JTAG, at kino-configure ang Linux host ayon sa dokumentadong board path. Ipinapadala ng [`Makefile`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/boards/ypcb-00338/Makefile) ng board ang output ng `make bit` papunta sa `build/vivado/otpu.bit`. `make program` ang default na gamit na openFPGALoader; inilalarawan din ng manual ang Vivado hardware manager. Hindi nananatili ang JTAG load kapag pinatay at binuksan muli ang power.

```shell
cd boards/ypcb-00338
make lint
make bit
make program
```

Mula sa board manual ang mga hardware step sa itaas; hindi ito sinubukan dito. Sa Linux host, hinihingi ng bring-up checklist ang Python package at checkpoint, `sudo otpu-setup` para i-install ang XDMA driver at device rule, PCIe rescan matapos ang JTAG load, at `otpu-setup --check`. Ayon sa dokumentasyon, matagumpay na nagtatapos ang huli at ipinakikita ang “all in place” kapag tama ang driver, card, link, device node, at ID register. Pagkatapos, sinusuri ng `otpu-selftest` ang card bago patakbuhin ang `otpu-chat --backend board --model lfm2`. Maaaring i-save ang board diagnostics sa `otpu-diag --json diag.json`. Mga kongkretong palatandaan ng pagkumpleto ng card path ang mga pagsusuring ito; hindi sapat na pamalit ang ISA chat lamang.

Kailangan ding maingat na unawain ang mga inilathalang performance figure. Halimbawa, iniulat ng README ang **82.1 token bawat segundo na wall time** para sa LFM2.5-230M na may 4-bit weights at int8 head sa card ng mga may-akda. Gumagamit ang paraan ng 64 greedy decode token matapos ang 512-token prompt; pinag-iiba ng talahanayan ang device cycle at wall time na kasama ang host. Ibang sukat ang makukuha sa ibang host, bitstream, weight format, o prompt. May dagdag na qualification sa card na iniulat sa commit message noong Oktubre 7, pero tala pa rin iyon ng maintainer. Walang benchmark na independiyenteng inulit sa mga source na sinuri para sa gabay na ito.

## Mga source at karagdagang babasahin

- [openTPU repository sa sinuring commit](https://github.com/FeSens/openTPU/tree/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93), Oktubre 7, 2026. Nasa README ang system outline, simulator command, listahan ng modelo, at sariling iniulat na sukat sa board. Mga pahayag ng proyekto ang mga resulta; hindi pinatakbo ng BIG CHANGE ang repository.
- [Metadata ng Python package](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml) at [Apache 2.0 license](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/LICENSE). Itinatatag ng mga ito ang Python version, idineklarang dependency, CLI entry point, package version, at source license. May hiwalay na tuntunin at kinakailangan ang model checkpoint at Vivado.
- [Manual sa bring-up ng board at host](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md), sinuri noong Oktubre 7, 2026. Tinutukoy nito ang suportadong card, bitstream step, Linux setup, JTAG programming, at self-test. Sumasalungat sa kasalukuyang licensing document ng AMD para sa 2026.1 ang mga pahayag nito tungkol sa bayad na lisensiya at 30-araw na evaluation. Tumutukoy sa mas lumang build ang ilang historikal na bitstream example; gamitin ang naka-pin na tree at kasalukuyang build instruction sa pag-uulit.
- [AMD Vivado 2026.1 device availability, UG973](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A) at [supported devices and features](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features), kapwa may petsang Hunyo 23, 2026, pati [licensing option](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html), sinuri noong Oktubre 7. Kabilang sa libreng Basic ang lahat ng Kintex 7 device; inililista rin ng mga ito ang Linux at JTAG support at mga limitasyon ng Basic sa simulation/debug. Tinutukoy ng [licensing FAQ ng AMD](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) ang taunang Basic license file at 60-araw na evaluation. Hindi pinatutunayan ng device coverage lamang ang buong bitstream flow ng proyektong ito sa Basic.
- [Chat CLI](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/host/chat.py) at [LFM2 guide](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/lfm2.md). Ipinakikita ng mga ito ang pagpili ng backend, model path, interactive at one-shot output behavior, at halimbawa ng maliit na checkpoint.
- [ulat ng GIGAZINE noong Oktubre 7](https://gigazine.net/gsc_news/en/20261007-opentpu)Kapaki-pakinabang na konteksto sa interes ng publiko sa proyekto ang . Sa repository, hindi sa ulat na iyon, sinuri ang mga detalye ng setup at performance sa gabay na ito.

## Sources

- [openTPU README sa sinuring commit](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md) — Pangunahing overview, simulator command, listahan ng modelo, naiulat na sukat sa card, at pamamaraan. Mga pahayag ng proyekto ang resulta at paglalarawan ng AI-assisted design.
- [openTPU board manual](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md) — Suportadong Inspur card, device, DDR3, Vivado 2026.1, setup ng build/program/host, at mga pagsusuri. Sumasalungat sa AMD 2026.1 tier document ang payo nito tungkol sa paid-only/30-day license. May mga lumang larawan sa historikal na bahagi.
- [openTPU package metadata at chat source](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml) — Minimum na Python version, idineklarang dependency, package version, license declaration, at CLI entry point; itinatatag ng chat source ang backend option at inaasahang output interface.
- [openTPU Apache 2.0 license](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/LICENSE) — Lisensiya ng source code ng proyekto; hindi nito ipinahihiwatig ang kaparehong tuntunin para sa modelo o Vivado.
- [AMD Vivado 2026.1 device availability ayon sa subscription tier (UG973)](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A) — Malinaw na inililista ng AMD 2026.1 device table ang lahat ng Kintex 7 device sa Basic; hindi nito independiyenteng sinusuri ang buong openTPU bitstream/IP flow.
- [AMD Vivado 2026.1 supported devices and features (UG973)](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features) — Kailangan ng wastong license file sa startup; kasama sa Basic ang JTAG programming ngunit limitado ang XSIM simulation at ilang debug function. Hindi nito pinatutunayan ang openTPU build sa Basic.
- [AMD Vivado licensing options](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html) — $0 ang kasalukuyang Basic, may libreng taunang renewal at Linux support; nagkakaiba ang feature ayon sa tier at hindi nagbabago ang IP licensing. Nagsimula ang tier model sa 2026.1.
- [AMD licensing FAQ](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) — Kailangan ng Basic 2026.1 pataas ng wastong taunang license file na makukuha nang libre; 60 araw ang hiwalay na full-feature evaluation.
- [GIGAZINE: ulat tungkol sa openTPU](https://gigazine.net/gsc_news/en/20261007-opentpu) — Para lamang sa konteksto mula sa secondary reporting. Sinuri ang mga katotohanan tungkol sa setup at performance sa mga primary source ng repository.