అక్టోబర్ 2న Ai2, Astaలోని Generate a report ఫీచర్‌లోని Fast mode వెనుక ఉన్న మోడల్‌గా AstaBrief 8Bను విడుదల చేసింది. డౌన్‌లోడ్ చేసుకోగల ఈ మోడల్ ఒక పరిశోధన ప్రశ్నను, శాస్త్రీయ పత్రాల నుంచి సేకరించిన భాగాలను తీసుకుని, ఒకే దశలో మూలాలతో కూడిన నివేదికను రాస్తుంది. పరిశోధకులకు ముఖ్యమైన తేడా—ఆ పత్రాలు ఎక్కడి నుంచి వస్తాయి, citations వాదనకు నిజంగా ఏమి ఆధారం ఇస్తాయి అన్నది: అందించిన ఆధారాల నుంచే AstaBrief రాస్తుంది; అది ఒక్కటే సాహిత్య శోధన సేవ కాదు. Ai2 విడుదల మరియు మోడల్ కార్డు ఆ సరిహద్దును వివరిస్తాయి.

పెద్ద మార్పు

  • ఏమి మారింది: Ai2, AstaBrief‌ను Asta ప్రత్యక్ష Fast mode‌లో చేర్చి, మోడల్ వెయిట్‌లు, శిక్షణ సామగ్రిని విడుదల చేసింది.
  • ఇది ఎందుకు ముఖ్యం: Ai2 ప్రకారం, పరిశోధనా బృందాలు నివేదిక జనరేటర్‌ను పరిశీలించవచ్చు లేదా అనుకూలీకరించవచ్చు; ఓపెన్ వెయిట్‌ల మోడల్‌ను తమ స్వంత మౌలిక సదుపాయాలపై నడపవచ్చు.
  • ఏమి గమనించాలి: నివేదిక నాణ్యత సేకరించిన పరిశోధన సాహిత్యంపై, ప్రాముఖ్యమైన ప్రతి వాదనను దాని మూలంతో సరిపోల్చి తనిఖీ చేయడంపై ఆధారపడి ఉంటుంది. Claudeతో పనిచేసే Asta Thinking mode వేరైన, పలు దశల ఎంపికగా కొనసాగుతుంది.

ప్రశ్న నుంచి నివేదిక వరకు

హోస్ట్ చేసిన విధానం Astaలోని Generate a report ఫీచర్‌లో మొదలవుతుంది; అందులో Fast mode AstaBrief‌ను ఉపయోగిస్తుంది. ప్రశ్న, భాగాలను మోడల్‌కు పంపే ముందు నివేదిక వ్యవస్థ సంబంధిత సాహిత్యాన్ని సేకరిస్తుందని Ai2 చెబుతోంది. ఆ తర్వాత మోడల్ ఒకే దశలో నివేదిక రాస్తుంది; Thinking mode‌లో ఉండే ఉల్లేఖనాల వెలికితీత, సమూహీకరణ, విభాగాలవారీ ముసాయిదా దశలు ఇందులో ఉండవు. బహిరంగ ScholarQA repository లో Semantic Scholar passage, keyword శోధనల నుంచి సమాచారాన్ని సేకరించి, తర్వాత వాటిని మళ్లీ ర్యాంక్ చేస్తారని వివరిస్తుంది; దాని సరళీకృత implementation మళ్లీ ర్యాంక్ చేసిన సూచనలతో prompt నిర్మించి, కాన్ఫిగర్ చేసిన generator‌ను పిలుస్తుంది. ఇవి documentationలోని భాగాలు మాత్రమే; BIG CHANGE ప్రత్యక్ష Asta సేవను పరీక్షించలేదు.

డౌన్‌లోడ్ చేసుకోగల విధానం కోసం AstaBrief మోడల్ కార్డు లింక్ చేసిన prompt format‌ను, ప్రశ్నతో పాటు విభాగాల references ఉన్న input‌ను సిఫార్సు చేస్తుంది. ఉదాహరణ transformers/vLLM inference code‌ను 4,096 గరిష్ఠ output tokens‌తో అందిస్తుంది. కార్డు ఉదాహరణలో model_name ను SFT checkpointగా సెట్ చేస్తుంది; కానీ ఆ పేజీ తర్వాతి DPO-tuned AstaBrief_8B; ఉదాహరణలో ముద్రించినట్లుగానే తుది మోడల్ నడుస్తుందని భావించకుండా, checkpoint ఎంచుకునే పరిశోధకుడు ఈ వ్యత్యాసాన్ని పరిష్కరించాలి. తమ PDFల నుంచి నివేదికలు రూపొందించడానికి మార్చుకోగల ఉదాహరణ ScholarQA lite code ను కూడా Ai2 లింక్ చేస్తుంది. లింక్ చేసిన directory code మాత్రమే; పేర్కొన్న కనీస హార్డ్‌వేర్‌తో సిద్ధంగా ఉపయోగించగల PDF setup‌గా అది documentationలో లేదు.

స్థానిక ప్రయోగానికి ఆచరణాత్మక క్రమం ఇలా ఉంటుంది: ఉపయోగించడానికి అనుమతి ఉన్న పత్రాలను పొందండి; పత్రాల గుర్తింపు వివరాలతో సంబంధిత భాగాలను వెలికితీసి ఎంచుకోండి; కార్డు సూచించిన రీతిలో ప్రశ్న, references‌ను format చేయండి; ఎంచుకున్న checkpoint‌ను నడపండి; వచ్చిన నివేదికను ఆ భాగాలు, అసలు పత్రాలతో పక్కపక్కన పెట్టి పరిశీలించండి. మూలాలు documentationలో తెలిపిన భాగాలు ఇవి మాత్రమే; BIG CHANGE చేసిన దశలు కావు. మోడల్ వెయిట్‌లు మాత్రమే పూర్తి స్థానిక ప్రతిరూపానికి సరిపోవు—retrieval, PDF parsing, reference నిర్వహణ, serving ఎంపికలూ అవసరం.

వచనాన్ని ఉపయోగించే ముందు ఆధారాలను తనిఖీ చేయండి

ముందుగా retrieval‌ను పరిశీలించండి. Generator‌కు ఇచ్చిన ప్రశ్న, పత్రాలు లేదా PDFల సమూహాన్ని నమోదు చేయండి. ఏదైనా అధ్యయనం తప్పిపోవడం లేదా సంబంధంలేని భాగం చేరడం వల్ల AstaBrief ఒక్క మాట రాయకముందే సమాధానం వక్రీకరించవచ్చు. తర్వాత ముఖ్యమైన వాదనలకు citation ఇచ్చిన ప్రతి పత్రాన్ని తెరవండి. జనాభా, పద్ధతి, తేదీ, నిశ్చయ స్థాయి సహా, సూచించిన భాగం ఆ వాక్యానికి నిజంగా మద్దతిస్తుందో చూడండి. Citation నిజమైనదై, అంశానికి సంబంధించినదైనా, నివేదిక ఒక నమూనా ఫలితాన్ని మొత్తం రంగానికి విస్తరించవచ్చు లేదా వివరణాత్మక ఫలితాన్ని సలహాగా మార్చవచ్చు. వాదన పరిధి విస్తరించే ఈ వైఫల్యాన్ని Ai2 తన విడుదలలో స్పష్టంగా గుర్తించింది.

చివరగా, ముఖ్యమైన citation లేని వాదనలు, సేకరించిన పత్రాల్లోని కొద్దిపాటి భాగంపైనే నివేదిక పదేపదే ఆధారపడే చోట్లను గమనించండి. శిక్షణ నివేదికల్లో citation సాంద్రతను వడపోయడం వల్ల అభివృద్ధి దశ ఫలితాలు మెరుగయ్యాయని Ai2 చెబుతోంది. Attribution ఎందుకు ముఖ్యమో ఆ ఫలితం వివరిస్తుంది; అయితే citationల సాంద్రత మాత్రమే సూచించిన వాదనలు మూలానికి నమ్మకంగా ఉన్నాయని నిరూపించదు. ముఖ్యంగా పరిశోధనలో citation ఇవ్వడానికి లేదా గణనీయమైన నిర్ణయం తీసుకోవడానికి ముందు, రూపొందించిన నివేదికను పత్రాలతో సరిపోల్చి సవరించాల్సిన ప్రాథమిక సంశ్లేషణగా చూడండి.

ప్రచురిత మూల్యాంకనం ఏమి నిరూపిస్తోంది

Ai2 నివేదిక ప్రకారం, Asta pipeline అంతటా Fast mode సగటున ఒక్కో నివేదికకు 51.1 సెకన్లు తో పోలిస్తే ఒక్కో నివేదికకు 178.5 సెకన్లు Thinking mode‌కు పట్టింది; ఈ పోలికలో Fast mode సుమారు 3.5 రెట్లు వేగంగా ఉంది. కంప్యూటర్ సైన్స్ ప్రశ్నల ScholarQA-CS2, DeepScholarBench‌పై AstaBrief ఫలితాలను మోడల్ కార్డు నివేదిస్తుంది; అలాగే విడుదలలో ముగ్గురు పరిశోధకులు కలిపి 14 ప్రశ్నలు అడిగిన చిన్న మానవ పోలికను విడిగా వివరిస్తుంది. ఇవి Ai2 తన వ్యవస్థలు, పరీక్షా సమూహాలపై చేసిన మూల్యాంకనాలు; ఏదైనా నిర్దిష్ట నివేదిక ఖచ్చితమైనదని స్వతంత్రంగా నిరూపించవు. ఎక్కువ శిక్షణ, మూల్యాంకనం 2025లో జరిగాయని విడుదల చెబుతోంది; పూర్తి మూల్యాంకనాన్ని ప్రస్తుత అత్యాధునిక మోడళ్లతో మళ్లీ పరీక్షించలేదు.

చివరి checkpoint Apache 2.0 కింద బహిరంగంగా లభిస్తోంది; శిక్షణ డేటాసెట్‌లు, prompts‌ను Ai2 AstaBrief సేకరణలో. మోడల్ కార్డు ప్రకారం, ఈ మోడల్ Ai2 బాధ్యతాయుత వినియోగ మార్గదర్శకాల మేరకు పరిశోధన, విద్య కోసం ఉద్దేశించబడింది. దాని శిక్షణ గమనికలో DPO శిక్షణకు ఎనిమిది H100 GPUలు ఉపయోగించినట్లు ఉంది; అది inference‌కు అవసరమైన కనీస హార్డ్‌వేర్‌గా ప్రచురించబడలేదు. సమీక్షించిన ప్రాథమిక మూలాల్లో హోస్ట్ చేసిన Astaలో ఒక్కో నివేదిక ధర, స్థానికంగా ఉపయోగించడానికి కనీస GPU స్పెసిఫికేషన్ లేదా ఒక్కో నివేదికకు నమ్మదగిన స్థానిక ఖర్చు పేర్కొనలేదు. Deployment ప్రణాళిక చేసే వారు తమ స్వంత ఏర్పాటుకు ఈ ఖర్చులను నిర్ణయించాలి.

మూలాలు, మరింత చదవడానికి

  • Ai2 అక్టోబర్ 2 విడుదల ప్రత్యక్ష Fast mode, ఒకే దశలోని రూపకల్పన, వేగం, మూల్యాంకన పరిమితులను ఇది వివరిస్తుంది. పనితీరుపై వాదనలు Ai2వే.
  • AstaBrief 8B మోడల్ కార్డు లైసెన్స్, ఉద్దేశించిన వినియోగం, prompt సిఫార్సు, inference ఉదాహరణను ఇది అందిస్తుంది; ఉదాహరణలోని SFT checkpoint పేరూ అందులో ఉంది.
  • AstaBrief సేకరణ ప్రచురించిన తుది/SFT checkpoint‌లు, dataset‌లు, prompts‌ను జాబితా చేస్తుంది; ఇవన్నీ ఉండటం వల్ల స్థానికంగా మొదటి నుంచి చివరి వరకు పునరుత్పత్తి సాధ్యమని నిరూపించదు.
  • ScholarQA code, documentation retrieval వ్యవస్థను వివరిస్తాయి; lite generator మళ్లీ ర్యాంక్ చేసిన references‌ను ఒకే దశ generation prompt‌గా ఎలా మారుస్తుందో చూపుతుంది. Documentation, code‌ను పరిశీలించాం; నడపలేదు.
  • ScholarQA-CS2 మూల్యాంకన repository rubric నిర్మాణం సహా benchmark code, డేటాను అందిస్తుంది. పరీక్ష రూపకల్పనను అర్థం చేసుకోవడానికి ఉపయోగపడుతుంది; AstaBrief స్కోర్లను స్వతంత్రంగా మళ్లీ నిర్ధారించదు.