AI-translated from English; not yet reviewed by a fluent editor.

# openTPU सिम्युलेटर कसा चालवायचा आणि FPGA च्या गरजांचे मूल्यांकन कसे करायचे

> openTPU भाषा-मॉडेल इन्फरन्ससाठी Python सिम्युलेटर आणि Inspur Kintex-7 कार्डसाठी स्वतंत्र मार्गाचे दस्तऐवजीकरण करते. या मार्गदर्शिकेत रिपॉझिटरीमधील आदेश, अपेक्षित आउटपुट आणि हार्डवेअरच्या गरजा दिल्या आहेत.

By BIG CHANGE Editorial

Published: 2026-10-07T13:36:01.795Z
Updated: 2026-10-07T13:36:01.795Z
Canonical: https://bigchange.ai/blog/opentpu-simulator-fpga-requirements-guide

![Conceptual charcoal illustration of one engineer holding and examining a PCIe FPGA accelerator card above an electronics work mat.](https://bigchange.ai/api/media/file/opentpu-fpga-card-hero-v2.png)
AI-generated conceptual illustration by BIG CHANGE, based on a reference photograph of the Inspur YPCB-00338 board. It does not depict a BIG CHANGE test or observed openTPU run.

हे [openTPU रिपॉझिटरी](https://github.com/FeSens/openTPU/tree/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93) Python instruction-set सिम्युलेटर, compiler, SystemVerilog डिझाइन आणि FPGA host tools यांना एका प्रकल्पात एकत्र आणते. लेखकांच्या मते, त्यांनी Inspur Kintex-7 कार्डवर भाषा-मॉडेल चालवली. ML systems किंवा FPGA विकसकांसाठी सुरुवातीचा सहज मार्ग म्हणजे प्रत्यक्ष मॉडेल weights वापरून software chat चालवणे. हाच प्रकल्प कार्डवर नेण्यासाठी विशिष्ट बोर्ड, परवानाधारक build tools आणि Linux host सेटअप आवश्यक आहे. ही मार्गदर्शिका 7 ऑक्टोबर 2026 च्या commit `b9a3f3b` मधील रिपॉझिटरीचा मागोवा घेते; BIG CHANGE ने ते install, simulate किंवा test केलेले नाही.

## मोठा बदल

- **काय बदलले:** openTPU accelerator चा instruction set, simulator, compiler, RTL आणि बोर्ड एकत्रीकरण एकाच वेळी प्रकाशित करते. समर्थित कार्ड घेण्यापूर्वी अभियंता मॉडेल ऑपरेशनपासून simulated instructions पर्यंतचा प्रवास तपासू शकतो.
- **हे महत्त्वाचे का:**दस्तऐवजीकृत सिम्युलेटरमुळे हार्डवेअर शिकणाऱ्यांना डिझाइन समजून घेण्याचा आणि सामान्य host software वापरून लहान भाषा-मॉडेल चालवण्याचा ठोस मार्ग मिळतो. AI agents ने hardware stack तयार करण्यास मदत केली, असे प्रकल्प सांगतो; तपासता येण्याजोगे artifacts या विकास-दाव्याचे परीक्षण शक्य करतात, तर कार्डवरील नोंदवलेले निकाल प्रकल्पाची स्वतःची मोजमापे राहतात.
- **कशाकडे लक्ष द्यावे:**प्रत्यक्ष निकाल पुन्हा मिळवण्यासाठी Kintex-7 बोर्ड, परवानाधारक Vivado build आणि कार्यरत PCIe bring-up आवश्यक आहे. त्यासाठी रिपॉझिटरी commands आणि self-tests देते. ठरवलेल्या revision वर स्वतंत्र रन केल्यास इतर अभियंते निकाल किती सहज पुन्हा मिळवतात हे कळेल.

## स्रोत निश्चित करा आणि सॉफ्टवेअर मार्ग निवडा

खालील पायऱ्या `main` रिपॉझिटरीमधील [commit `b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93`](https://github.com/FeSens/openTPU/commit/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93) चे अनुसरण करतात; ते 7 ऑक्टोबर रोजी commit केले गेले. रिपॉझिटरीमध्ये `v0.5` tag आहे; मात्र या मार्गदर्शिकेत नंतरचे निश्चित commit वापरले आहे, कारण त्याच्या README मध्ये नवीन [Hugging Face प्रमाणीकरण विभाग](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#validating-against-hugging-face) आहे. Python package अजूनही `0.1.0` मध्ये स्वतःची आवृत्ती [`pyproject.toml`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml) अशी दाखवते; केवळ package क्रमांकामुळे source snapshot ओळखता येत नाही. रिपॉझिटरी Apache 2.0 परवान्याखाली आहे.

तुम्हाला Python 3.10 किंवा त्यानंतरची आवृत्ती लागेल. Package `numpy` आणि `textual` घोषित करते; चाचण्या आणि मॉडेल वापरासाठी README स्वतंत्रपणे `pytest`, `torch` आणि `transformers` install करते. Hugging Face चा `hf` command checkpoint `models/LFM2.5-230M` मध्ये डाउनलोड करण्याचे README दाखवते. डाउनलोड करण्यापूर्वी तुमच्या Python environment मध्ये `hf` उपलब्ध आहे का तपासा. Checkpoint हा chat command साठी input आहे; source सोबत दिलेले मॉडेल नाही. या मार्गासाठी एकूण download आकार, host memory आवश्यकता किंवा सिम्युलेटरची निश्चित runtime प्रकल्प सांगत नाही.

रिपॉझिटरीच्या root मधून [दस्तऐवजीकृत क्रम](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#try-it) असा आहे:

```shell
git clone https://github.com/FeSens/openTPU.git
cd openTPU
git checkout b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93
pip install -e .
pip install pytest torch transformers
python3 -m pytest -q
hf download LiquidAI/LFM2.5-230M --local-dir models/LFM2.5-230M
otpu-chat --model lfm2 --backend isa
```

Checkout commands तपासलेली revision निश्चित करतात; install, test, download आणि chat commands README मधील आहेत. `--backend isa` Python instruction-set simulator निवडते. पूर्ण `pytest` suite मध्ये Verilator 5 लागणाऱ्या RTL चाचण्याही आहेत; त्यामुळे हे साधन नसलेल्या मशीनवर पूर्ण suite ला केवळ सॉफ्टवेअरद्वारे यश तपासण्याचा निकष मानता येत नाही. सर्वांत लहान दस्तऐवजीकृत interactive run पूर्ण झाल्याचे चिन्ह म्हणजे LFM2.5-230M checkpoint लोड होणे आणि त्यानंतर prompt स्वीकारून मॉडेल मजकूर परत देणारा chat interface दिसणे. तयार उत्तरातील अचूक शब्द prompt आणि sampling वर अवलंबून असतात. [chat CLI source](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/host/chat.py) terminal REPL साठी `--plain` आणि एकदाच उत्तर मिळवण्यासाठी `--prompt` देखील देते; दुसरा पर्याय उत्तर आणि turn statistics छापतो. हे दस्तऐवजीकृत interfaces आहेत, BIG CHANGE ने पाहिलेले आउटपुट नाही.

README मध्ये Qwen3-0.6B, LFM2.5-230M आणि Qwen3.5-0.8B हे मुख्य chat पर्याय तसेच आणखी मोठी काही मॉडेल्स दिली आहेत. प्रत्येकासाठी अपेक्षित model directory मध्ये स्वतंत्र checkpoint किंवा स्पष्ट checkpoint path आवश्यक आहे. वरील LFM2 मार्ग हा रिपॉझिटरीतील सर्वांत लहान model-download उदाहरण आहे. README मधील व्यापक निकालांत कार्डवर दहा मॉडेल्स आहेत; त्यात Gemma 4 आणि expert offloading लागणारी मॉडेल्सही आहेत, तर काहींसाठी अनेक weight formats तपासले आहेत. ही लेखकांची मोजमापे आहेत; प्रत्येक मॉडेल या एक-command LFM2 सेटअपमध्ये चालेल याची हमी नाही.

## सिम्युलेटर काय तपासतो

प्रकल्पाच्या वर्णनानुसार kernel language आणि compiler accelerator साठी instructions तयार करतात. Python ISA simulator त्या instructions चालवतो; SystemVerilog RTL ही हार्डवेअरची अंमलबजावणी आहे. [README मधील system outline](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md#how-it-works) आणि [`opentpu/isasim.py`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/isasim.py) या सीमारेषेचा मागोवा घेण्यास मदत करतात. `otpu-chat` सोबत `isa` चालवल्यास software instruction path मधून model inference होते. त्यामुळे FPGA program होत नाही किंवा कार्डचा throughput मोजला जात नाही.

त्यांच्या कार्डवर सिम्युलेटरसारखेच bit-for-bit tokens मिळतात, असे maintainers सांगतात. निवडक device runs ची CPU Hugging Face reference शी तुलना करणारी [प्रमाणीकरण स्क्रिप्ट](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/tools/validate.py) ते देतात. निश्चित README मध्ये default prompts, token आणि logit तुलना तसेच 7 ऑक्टोबरचा card run वर्णन केला आहे. अहवाल आणि कोडमुळे या तपासण्या पाहता येतात. BIG CHANGE ने त्या पुन्हा केल्या नाहीत; त्यामुळे स्वतंत्र अचूकता किंवा वेग सिद्ध होत नाही.

## प्रत्यक्ष कार्ड वापरल्यावर काय बदलते

हे [बोर्ड मॅन्युअल](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md) लक्ष्य करते **Inspur YPCB-00338** आणि Xilinx Kintex-7 `xc7k480t-ffg1156-2` यांना लक्ष्य करते; त्यात दोन 2 GiB DDR3 channels आणि host PC शी PCIe connection आहे. त्याचा default bitstream build Vivado 2026.1 वापरतो. मोफत आवृत्तीत हे device नसल्याचे मॅन्युअल सांगते आणि सशुल्क परवाना किंवा 30-दिवसांची evaluation सुचवते. [AMD ची 2026.1 device table](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A) या device दाव्याशी विसंगत आहे: **Basic मध्ये सर्व Kintex 7 devices समाविष्ट आहेत**।

[AMD चे सध्याचे परवाना पर्याय](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html) Basic ची किंमत $0, Linux support आणि मोफत वार्षिक renewal दाखवतात. [परवाना FAQ](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) नुसार Basic साठीही वैध वार्षिक license file आवश्यक आहे; स्वतंत्र full-feature evaluation **60 दिवस** चालते. [AMD ची 2026.1 feature table](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features) Basic मध्ये JTAG programming दाखवते, पण XSIM simulation आणि काही debug features मर्यादित करते. उच्च सशुल्क स्तर अधिक features देतात आणि IP licensing बदललेले नाही, असे AMD सांगते. BIG CHANGE ने Basic वर openTPU build केलेले नाही. हा zero-cost build आहे असे म्हणण्यापूर्वी या bitstream flow साठी tool आणि IP वापराचे अधिकार तपासावेत. बोर्ड मॅन्युअलनुसार `make bit` ला मशीननुसार 1.5 ते 3 तास लागतात. हे मॅन्युअल किंवा AMD tier table कार्डची खरेदी किंमत अथवा पुनरुत्पादनाचा एकूण खर्च सांगत नाही.

बोर्ड आणि toolchain मिळाल्यावर दस्तऐवजीकृत बोर्ड मार्गात `boards/ypcb-00338` मध्ये bitstream build करणे, JTAG द्वारे FPGA program करणे आणि Linux host configure करणे येते. बोर्डचा [`Makefile`](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/boards/ypcb-00338/Makefile) पाठवतो `make bit` output `build/vivado/otpu.bit` कडे पाठवतो. `make program` default ने openFPGALoader वापरते; मॅन्युअल Vivado hardware manager चेही वर्णन करते. JTAG load वीज बंद करून पुन्हा सुरू केल्यावर टिकत नाही.

```shell
cd boards/ypcb-00338
make lint
make bit
make program
```

वरील हार्डवेअर पायऱ्या बोर्ड मॅन्युअलमधील आहेत; येथे तपासलेला क्रम नाही. Linux host वरील bring-up checklist मध्ये Python package आणि checkpoint, XDMA driver आणि device rules install करण्यासाठी `sudo otpu-setup`, JTAG load नंतर PCIe rescan आणि `otpu-setup --check` यांचा समावेश आहे. driver, card, link, device nodes आणि ID register योग्य असल्यास शेवटचा command यशस्वीपणे exit होऊन “all in place” दाखवतो, असे दस्तऐवजीकरण आहे. त्यानंतर `otpu-selftest` कार्ड तपासते आणि मग `otpu-chat --backend board --model lfm2` चालते. बोर्ड diagnostics `otpu-diag --json diag.json` ने जतन करता येतात. ही card path ची ठोस completion signals आहेत; केवळ ISA chat त्यांची जागा घेऊ शकत नाही.

प्रकाशित performance आकडेही तितक्याच काळजीने पाहायला हवेत. लेखकांच्या कार्डवर 4-bit weights आणि int8 head असलेल्या LFM2.5-230M साठी README उदाहरणार्थ **प्रति सेकंद 82.1 tokens wall time** नोंदवते. पद्धतीत 512-token prompt नंतर 64 greedy decode tokens वापरले आहेत; table device cycles आणि host-सह wall time वेगळे दाखवते. दुसरा host, bitstream, weight format किंवा prompt म्हणजे वेगळे मोजमाप. 7 ऑक्टोबरचा commit message कार्डवरील अतिरिक्त qualification नोंदवतो, पण ती maintainer ची नोंदच आहे. या मार्गदर्शिकेसाठी तपासलेल्या स्रोतांत स्वतंत्रपणे पुनरुत्पादित benchmark नाही.

## स्रोत आणि पुढील वाचन

- [तपासलेल्या commit मधील openTPU repository](https://github.com/FeSens/openTPU/tree/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93), 7 ऑक्टोबर 2026. README मध्ये system outline, simulator commands, model list आणि लेखकांनी स्वतः नोंदवलेली board measurements आहेत. हे प्रकल्पाचे दावे आहेत; BIG CHANGE ने रिपॉझिटरी चालवली नाही.
- [Python package metadata](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml) आणि [Apache 2.0 परवाना](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/LICENSE) Python version, घोषित dependencies, CLI entry points, package version आणि source license निश्चित करतात. Model checkpoints आणि Vivado साठी स्वतंत्र अटी व आवश्यकता आहेत.
- [बोर्ड व host bring-up मॅन्युअल](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md), 7 ऑक्टोबर 2026 रोजी तपासले. समर्थित कार्ड, bitstream पायऱ्या, Linux सेटअप, JTAG programming आणि self-tests दिल्या आहेत. सशुल्क परवाना व 30-दिवसांच्या evaluation विषयीचे दावे AMD च्या सध्याच्या 2026.1 परवाना कागदपत्रांशी विसंगत आहेत. काही ऐतिहासिक bitstream उदाहरणे जुन्या builds ची आहेत; पुनरुत्पादनासाठी निश्चित tree आणि सध्याच्या build सूचना वापरा.
- [AMD Vivado 2026.1 device availability, UG973](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A) आणि [समर्थित devices आणि features](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features), दोन्ही 23 जून 2026 चे, तसेच [परवाना पर्याय](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html), 7 ऑक्टोबर रोजी तपासले. यांत सर्व Kintex 7 devices मोफत Basic मध्ये दाखवले आहेत, Linux आणि JTAG support दिले आहे आणि Basic च्या simulation/debug मर्यादा स्पष्ट केल्या आहेत. [AMD परवाना FAQ](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) वार्षिक Basic license file आणि 60-दिवसांची evaluation सांगते. device coverage मुळे या प्रकल्पाचा संपूर्ण bitstream flow Basic वर चालतो हे सिद्ध होत नाही.
- [Chat CLI](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/opentpu/host/chat.py) आणि [LFM2 मार्गदर्शिका](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/lfm2.md) backend निवड, model path, interactive व one-shot output वर्तन आणि लहान checkpoint उदाहरण दाखवतात.
- [7 ऑक्टोबरचा GIGAZINE अहवाल](https://gigazine.net/gsc_news/en/20261007-opentpu) प्रकल्पाला मिळालेल्या सार्वजनिक लक्षाचा उपयोगी संदर्भ देतो. या मार्गदर्शिकेतील सेटअप आणि performance तपशील अहवालातून नव्हे तर रिपॉझिटरीतून तपासले.

## Sources

- [तपासलेल्या commit मधील openTPU README](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/README.md) — प्राथमिक आढावा, simulator commands, model list, नोंदवलेली card measurements आणि पद्धत. निकाल आणि AI-सहाय्यित design चे वर्णन हे प्रकल्पाचे दावे आहेत.
- [openTPU board manual](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/docs/board.md) — समर्थित Inspur कार्ड, device, DDR3, Vivado 2026.1, build/program/host सेटअप आणि तपासण्या. केवळ सशुल्क/30-दिवस परवान्याचा सल्ला AMD च्या 2026.1 tier कागदपत्रांशी विसंगत आहे. ऐतिहासिक विभागांत जुनी चित्रे आहेत.
- [openTPU package metadata आणि chat source](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/pyproject.toml) — Python ची किमान आवृत्ती, घोषित dependencies, package version, license declaration आणि CLI entry points; chat source backend पर्याय आणि अपेक्षित output interface ठरवते.
- [openTPU Apache 2.0 परवाना](https://github.com/FeSens/openTPU/blob/b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93/LICENSE) — प्रकल्पाच्या source code चा परवाना; मॉडेल किंवा Vivado च्या स्वतंत्र अटी यातून लागू होत नाहीत.
- [AMD Vivado 2026.1 subscription tier नुसार device availability (UG973)](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Device-Availability-by-Subscription-Tier?contentId=FXBYqlfi_pd_k5OTkJcJ1A) — AMD ची 2026.1 device table सर्व Kintex 7 devices Basic अंतर्गत स्पष्टपणे देते; त्यामुळे संपूर्ण openTPU bitstream/IP flow स्वतंत्रपणे सत्यापित होत नाही.
- [AMD Vivado 2026.1 समर्थित devices आणि features (UG973)](https://docs.amd.com/r/en-US/ug973-vivado-release-notes-install-license/Supported-Devices-and-Features) — सुरुवातीला वैध license file आवश्यक आहे; Basic मध्ये JTAG programming आहे, पण XSIM simulation आणि काही debug functions मर्यादित आहेत. Basic अंतर्गत openTPU build सत्यापित होत नाही.
- [AMD Vivado परवाना पर्याय](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/vivado/vivado-licensing-options.html) — सध्याच्या Basic ची किंमत $0 आहे, वार्षिक renewal मोफत आहे आणि Linux support आहे; tier नुसार features बदलतात, IP licensing मात्र बदलत नाही. 2026.1 पासून tier model सुरू झाले.
- [AMD परवाना FAQ](https://www.amd.com/en/products/software/adaptive-socs-and-fpgas/licensing-faq.html) — Basic 2026.1+ साठी मोफत मिळणारी वैध वार्षिक license file आवश्यक आहे; स्वतंत्र full-feature evaluation 60 दिवसांची आहे.
- [GIGAZINE: openTPU अहवाल](https://gigazine.net/gsc_news/en/20261007-opentpu) — फक्त दुय्यम बातमीचा संदर्भ. सेटअप आणि performance तथ्ये रिपॉझिटरीच्या प्राथमिक स्रोतांशी पडताळली आहेत.