ఒకే ప్రాజెక్ట్‌లో Python instruction-set సిమ్యులేటర్, కంపైలర్, SystemVerilog డిజైన్, FPGA host సాధనాలను openTPU రిపాజిటరీ కలిపి ఉంచుతుంది. Inspur Kintex-7 కార్డుపై భాషా మోడళ్లను నడిపామని రచయితలు చెబుతున్నారు. ML systems లేదా FPGA డెవలపర్‌కు అందుబాటులో ఉండే మొదటి అడుగు నిజమైన మోడల్ weightsతో సాఫ్ట్‌వేర్ chat రన్ చేయడం. అదే ప్రాజెక్ట్‌ను కార్డుపైకి మార్చాలంటే నిర్దిష్ట బోర్డు, లైసెన్స్ ఉన్న build సాధనాలు, Linux host సెటప్ అదనంగా అవసరం. 2026 అక్టోబర్ 7 నాటి commit b9a3f3b వద్ద ఉన్న రిపాజిటరీని ఈ గైడ్ అనుసరిస్తుంది; BIG CHANGE దీన్ని ఇన్‌స్టాల్ చేయలేదు, సిమ్యులేట్ చేయలేదు, పరీక్షించలేదు.

పెద్ద మార్పు

  • ఏం మారింది: accelerator యొక్క instruction set, సిమ్యులేటర్, కంపైలర్, RTL, బోర్డు integrationను openTPU కలిపి విడుదల చేస్తుంది. మద్దతు ఉన్న కార్డు కొనుగోలు చేయకముందే మోడల్ ఆపరేషన్ నుంచి simulated instructions వరకు ఉన్న మార్గాన్ని ఇంజినీర్ పరిశీలించవచ్చు.
  • ఇది ఎందుకు ముఖ్యం:డాక్యుమెంట్ చేసిన సిమ్యులేటర్ హార్డ్‌వేర్ నేర్చుకునేవారికి డిజైన్‌ను అధ్యయనం చేసి సాధారణ host సాఫ్ట్‌వేర్‌తో చిన్న భాషా మోడల్ నడపడానికి స్పష్టమైన మార్గం ఇస్తుంది. హార్డ్‌వేర్ stack తయారీలో AI agents సహకరించాయని ప్రాజెక్ట్ చెబుతోంది; పరిశీలించగల artifacts ఆ అభివృద్ధి వాదనను తనిఖీ చేయడానికి తోడ్పడతాయి. కార్డుపై నివేదించిన ఫలితాలు మాత్రం ప్రాజెక్ట్ స్వయంగా చేసిన కొలతలే.
  • ఏం గమనించాలి:భౌతిక ఫలితాన్ని పునరుత్పత్తి చేయడానికి Kintex-7 బోర్డు, లైసెన్స్ ఉన్న Vivado build, పనిచేసే PCIe bring-up అవసరం. ఆ పని కోసం రిపాజిటరీ commands, self-testsను అందిస్తుంది. నిర్దిష్ట revisionపై స్వతంత్ర రన్ చేస్తే ఇతర ఇంజినీర్లు ఫలితాన్ని ఎంత సులభంగా పునరావృతం చేయగలరో తెలుస్తుంది.

సోర్స్‌ను స్థిరపరచి సాఫ్ట్‌వేర్ మార్గాన్ని ఎంచుకోండి

క్రింది దశలు main రిపాజిటరీలోని commit b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93ను అనుసరిస్తాయి; అది అక్టోబర్ 7న commit అయింది. రిపాజిటరీలో v0.5 tag ఉంది. అయితే READMEలో కొత్త Hugging Face ధృవీకరణ విభాగం ఉన్నందున ఈ గైడ్ తరువాతి స్థిర commitను ఉపయోగిస్తుంది. Python package ఇంకా 0.1.0 లో వెర్షన్ pyproject.tomlగా చూపిస్తుంది; package సంఖ్య ఒక్కటే source snapshotను గుర్తించదు. రిపాజిటరీ Apache 2.0 లైసెన్స్‌లో ఉంది.

Python 3.10 లేదా కొత్తది అవసరం. package numpy మరియు textualలను dependencyలుగా ప్రకటిస్తుంది; పరీక్షలు, మోడల్ వినియోగం కోసం README విడిగా pytest, torch మరియు transformers ను ఇన్‌స్టాల్ చేస్తుంది. Hugging Face hf commandతో checkpointను models/LFM2.5-230Mలోకి డౌన్‌లోడ్ చేసే ఉదాహరణను చూపిస్తుంది. డౌన్‌లోడ్‌కు ముందు Python environmentలో hf అందుబాటులో ఉందో చూడండి. Checkpoint అనేది chat commandకు input; sourceతో వచ్చిన మోడల్ కాదు. ఈ మార్గానికి మొత్తం డౌన్‌లోడ్ పరిమాణం, host memory అవసరం, సిమ్యులేటర్‌కు స్థిర run time గురించి ప్రాజెక్ట్ చెప్పదు.

రిపాజిటరీ root నుంచి డాక్యుమెంట్ చేసిన క్రమం ఇలా ఉంటుంది:

Terminal
git clone https://github.com/FeSens/openTPU.git
cd openTPU
git checkout b9a3f3bc98e7f74808fd5650bf9db33eaf7b2c93
pip install -e .
pip install pytest torch transformers
python3 -m pytest -q
hf download LiquidAI/LFM2.5-230M --local-dir models/LFM2.5-230M
otpu-chat --model lfm2 --backend isa

Checkout commands పరిశీలించిన revisionను స్థిరపరుస్తాయి; install, test, download, chat commands README నుంచి వచ్చాయి. --backend isa Python instruction-set సిమ్యులేటర్‌ను ఎంచుకుంటుంది. పూర్తి pytest suiteలో Verilator 5 అవసరమయ్యే RTL tests కూడా ఉన్నాయి; ఆ సాధనం లేని యంత్రం మొత్తం suiteను సాఫ్ట్‌వేర్ మాత్రమే విజయవంతమైందని నిర్ధారించడానికి ఉపయోగించలేదు. డాక్యుమెంట్ చేసిన అతి చిన్న interactive రన్ పూర్తయిన సూచన LFM2.5-230M checkpoint లోడ్ కావడం, prompt స్వీకరించి మోడల్ text ఇచ్చే chat interface రావడం. తయారైన సమాధానంలోని ఖచ్చితమైన పదాలు prompt, samplingపై ఆధారపడతాయి. chat CLI source terminal REPL కోసం --plain మరియు ఒకసారి సమాధానం కోసం --prompt ను కూడా అందిస్తుంది; చివరిది సమాధానం, turn గణాంకాలను ముద్రిస్తుంది. ఇవి డాక్యుమెంట్ చేసిన interfaces; BIG CHANGE చూసిన అవుట్‌పుట్ కాదు.

ప్రధాన chat ఎంపికల్లో Qwen3-0.6B, LFM2.5-230M, Qwen3.5-0.8Bతో పాటు మరికొన్ని పెద్ద మోడళ్లను README జాబితా చేస్తుంది. ప్రతి దానికి ఆశించిన model directoryలో స్వంత checkpoint లేదా స్పష్టమైన checkpoint path అవసరం. పైనున్న LFM2 మార్గం రిపాజిటరీలోని అతి చిన్న మోడల్ డౌన్‌లోడ్ ఉదాహరణ. READMEలోని విస్తృత ఫలితాలు కార్డుపై పది మోడళ్లను కలిగి ఉన్నాయి; వాటిలో Gemma 4, expert offloading అవసరమైన మోడళ్లు ఉన్నాయి, కొన్నింటికి అనేక weight formatsను ఉపయోగించారు. ఈ పట్టిక రచయితల కొలతలు; ప్రతి మోడల్ ఈ ఒక్క-command LFM2 సెటప్‌లో నడుస్తుందన్న హామీ కాదు.

సిమ్యులేటర్ ఏం తనిఖీ చేస్తుంది

ప్రాజెక్ట్ వివరణ ప్రకారం kernel language, compiler దాని accelerator కోసం instructionsను తయారు చేస్తాయి. Python ISA సిమ్యులేటర్ వాటిని నడుపుతుంది; SystemVerilog RTL హార్డ్‌వేర్ అమలు. READMEలోని సిస్టమ్ రూపురేఖలు మరియు opentpu/isasim.py ఆ సరిహద్దును అర్థం చేసుకోవడంలో సహాయపడతాయి. otpu-chat ను isa తో నడిపితే సాఫ్ట్‌వేర్ instruction pathలో మోడల్ inference జరుగుతుంది. ఇది FPGAను ప్రోగ్రామ్ చేయదు, కార్డు throughputను కొలవదు.

తమ కార్డు సిమ్యులేటర్‌తో bit-for-bit సరిపోయే tokens ఇస్తుందని నిర్వహకులు చెబుతున్నారు. ఎంపిక చేసిన device runsను CPUలోని Hugging Face referenceతో పోల్చడానికి ధృవీకరణ script ను కూడా అందిస్తున్నారు. స్థిర READMEలో default prompts, token/logit పోలికలు, అక్టోబర్ 7 కార్డు రన్ వివరాలున్నాయి. నివేదికలు, code ద్వారా తనిఖీలు పరిశీలించవచ్చు. BIG CHANGE వాటిని మళ్లీ చేయలేదు; అందువల్ల అవి స్వతంత్ర ఖచ్చితత్వం లేదా వేగాన్ని నిరూపించవు.

భౌతిక కార్డుతో ఏం మారుతుంది

ఈ బోర్డు మాన్యువల్ లక్ష్యం Inspur YPCB-00338 మరియు Xilinx Kintex-7 xc7k480t-ffg1156-2; రెండు 2 GiB DDR3 ఛానెల్లు, host PCకు PCIe కనెక్షన్ ఉన్నాయి. డిఫాల్ట్ bitstream build Vivado 2026.1ను ఉపయోగిస్తుంది. ఉచిత editionలో ఈ device లేదని మాన్యువల్ చెబుతూ, చెల్లింపు లైసెన్స్ లేదా 30-రోజుల evaluationను సూచిస్తుంది. AMD 2026.1 device పట్టిక deviceపై ఆ వాదనకు విరుద్ధంగా ఉంది: Basicలో అన్ని Kintex 7 devices ఉన్నాయి.

AMD ప్రస్తుత లైసెన్స్ ఎంపికలు Basic ధర $0 అని, Linux మద్దతు, ఉచిత వార్షిక renewal ఉన్నాయని చెబుతున్నాయి. లైసెన్స్ FAQ ప్రకారం Basicకూ చెల్లుబాటు అయ్యే వార్షిక license file అవసరం; విడిగా అందించే పూర్తి-ఫీచర్ evaluation 60 రోజులు ఉంటుంది. AMD 2026.1 feature పట్టిక Basicలో JTAG programming ఉందని చూపిస్తుంది, కానీ XSIM simulation, కొన్ని debug featuresను పరిమితం చేస్తుంది. అధిక ధర tierలు మరిన్ని ఫీచర్లు ఇస్తాయి; IP licensing మారలేదని AMD చెబుతుంది. BIG CHANGE Basicపై openTPU build చేయలేదు. ఈ bitstream మార్గాన్ని ఖర్చులేని buildగా భావించే ముందు tool, IP వినియోగ హక్కులను తనిఖీ చేయాలి. బోర్డు మాన్యువల్ make bitకు యంత్రాన్ని బట్టి 1.5 నుంచి 3 గంటల సమయం అంచనా వేస్తుంది. ఈ కార్డు కొనుగోలు ధర లేదా పునరుత్పత్తి మొత్తం ఖర్చును మాన్యువల్ కానీ AMD tier పట్టిక కానీ ఇవ్వవు.

బోర్డు, toolchain పొందిన తర్వాత డాక్యుమెంట్ చేసిన బోర్డు మార్గంలో boards/ypcb-00338లో bitstream build చేయడం, JTAG ద్వారా FPGAను ప్రోగ్రామ్ చేయడం, Linux hostను సెటప్ చేయడం ఉంటాయి. బోర్డు యొక్క Makefile ఆదేశం make bit యొక్క అవుట్‌పుట్‌ను build/vivado/otpu.bitకు. make program డిఫాల్ట్‌గా openFPGALoaderను ఉపయోగిస్తుంది; Vivado hardware managerను కూడా మాన్యువల్ వివరిస్తుంది. విద్యుత్ ఆపి మళ్లీ ఆన్ చేసిన తర్వాత JTAG load నిలవదు.

Terminal
cd boards/ypcb-00338
make lint
make bit
make program

పైనున్న హార్డ్‌వేర్ దశలు బోర్డు మాన్యువల్‌లోనివి; ఇక్కడ పరీక్షించిన క్రమం కాదు. Linux host bring-up checklistలో Python package, checkpoint, XDMA driver/device rules ఇన్‌స్టాల్ చేయడానికి sudo otpu-setup, JTAG load తర్వాత PCIe rescan, otpu-setup --check ఉన్నాయి. driver, card, link, device nodes, ID register సరిగ్గా ఉంటే చివరి command విజయవంతంగా ముగిసి “all in place” చూపుతుందని డాక్యుమెంట్ చేశారు. ఆపై otpu-selftest కార్డును తనిఖీ చేసి otpu-chat --backend board --model lfm2ను నడుపుతుంది. బోర్డు diagnosticsను otpu-diag --json diag.jsonతో సేవ్ చేయవచ్చు. ఇవే కార్డు మార్గం పూర్తయిందనే స్పష్టమైన సంకేతాలు; ISA chat ఒక్కటే వాటికి ప్రత్యామ్నాయం కాదు.

ప్రచురించిన పనితీరు గణాంకాలనూ ఇదే జాగ్రత్తతో చూడాలి. ఉదాహరణకు, రచయితల కార్డుపై 4-bit weights, int8 headతో LFM2.5-230Mకు README wall timeలో సెకనుకు 82.1 tokens అని నివేదిస్తుంది. 512-token prompt తర్వాత 64 greedy decode tokens ఉపయోగిస్తారు; పట్టిక device cyclesను hostతో కూడిన wall time నుంచి వేరు చేస్తుంది. వేరే host, bitstream, weight format లేదా prompt వేరే కొలత ఇస్తాయి. అక్టోబర్ 7 commit message కార్డుపై అదనపు qualificationను చెబుతుంది, కానీ అది నిర్వహకుడి రికార్డే. ఈ గైడ్ కోసం చూసిన ఆధారాల్లో స్వతంత్రంగా పునరుత్పత్తి చేసిన benchmark లేదు.

మూలాలు, తదుపరి పఠనం

  • పరిశీలించిన commitలో openTPU రిపాజిటరీ, 2026 అక్టోబర్ 7. READMEలో system outline, సిమ్యులేటర్ ఆదేశాలు, మోడల్ జాబితా, రచయితలు స్వయంగా తెలిపిన బోర్డు కొలతలు ఉన్నాయి. ఇవి ప్రాజెక్ట్ వాదనలు; BIG CHANGE రిపాజిటరీని నడపలేదు.
  • Python package metadata మరియు Apache 2.0 లైసెన్స్ Python వెర్షన్, ప్రకటించిన dependencies, CLI entry points, package వెర్షన్, source licenseను నిర్ధారిస్తాయి. మోడల్ checkpoints, Vivadoకు వేర్వేరు నిబంధనలు, అవసరాలు ఉన్నాయి.
  • బోర్డు, host bring-up మాన్యువల్, 2026 అక్టోబర్ 7న పరిశీలించారు. మద్దతు ఉన్న కార్డు, bitstream దశలు, Linux సెటప్, JTAG programming, self-testsను ఇది పేర్కొంటుంది. చెల్లింపు లైసెన్స్, 30-రోజుల evaluation వాదనలు AMD ప్రస్తుత 2026.1 లైసెన్స్ పత్రాలతో విభేదిస్తున్నాయి. కొన్ని పాత bitstream ఉదాహరణలు మునుపటి buildsకు చెందినవి; పునరుత్పత్తి కోసం స్థిర tree, ప్రస్తుత build సూచనలను వాడండి.
  • AMD Vivado 2026.1 device availability, UG973 మరియు మద్దతు ఉన్న devices, features (రెండూ 2026 జూన్ 23 తేదీతో), అలాగే లైసెన్స్ ఎంపికలు (అక్టోబర్ 7న పరిశీలించబడినవి). అన్ని Kintex 7 devices ఉచిత Basicలో ఉన్నాయని, Linux/JTAG మద్దతు ఉందని, Basicలో simulation/debug పరిమితులు ఉన్నాయని ఇవి చూపిస్తాయి. AMD లైసెన్స్ FAQ వార్షిక Basic license file, 60-రోజుల evaluationను పేర్కొంటుంది. device coverage ఒక్కటే ఈ ప్రాజెక్ట్ మొత్తం bitstream మార్గం Basicలో నడుస్తుందని నిర్ధారించదు.
  • Chat CLI మరియు LFM2 గైడ్ backend ఎంపిక, model path, interactive/one-shot output ప్రవర్తన, చిన్న checkpoint ఉదాహరణను చూపిస్తాయి.
  • అక్టోబర్ 7న వచ్చిన GIGAZINE కథనం ప్రాజెక్ట్‌పై ప్రజల దృష్టికి ఉపయోగకరమైన నేపథ్యం. ఈ గైడ్‌లోని setup, performance వివరాలు ఆ కథనం నుంచి కాకుండా రిపాజిటరీతో పోల్చి తనిఖీ చేశారు.