2026 సెప్టెంబర్ 23న Fellows Forumలో, OpenAI అనువర్తిత పరిశోధన విభాగాధిపతి బోరిస్ పవర్, ఆ సంస్థ పరిశోధనలో 80–90% “GPT-7, GPT-8, ఆ తర్వాతి తరాలపై” కేంద్రీకృతమైందని అంచనా వేశారు. ప్రస్తుత ఉత్పత్తుల పని, మరింత సామర్థ్యమున్న మోడళ్ల పరిశోధన మధ్య OpenAI ఎలా సమతుల్యం పాటిస్తోందో వివరిస్తూ ఆయన ఈ సంఖ్యను చెప్పారు. ఇది బహిరంగ చర్చలో ఆయన వ్యక్తం చేసిన అంచనా; దానితో పోల్చి చూడటానికి OpenAI పరిశోధన కేటాయింపు వివరాలను ప్రచురించలేదు.

ముఖ్యమైన మార్పు

  • ఏం మారింది: ప్రజలు ప్రస్తుతం ఉపయోగించే మోడళ్లను మెరుగుపరచడం, తర్వాతి తరాలపై పరిశోధన చేయడం అనే రెండు అనుసంధానిత దారులను పవర్ వివరించారు. OpenAI పరిశోధనలో ఎక్కువ భాగం రెండో దారికే చెందుతుందని ఆయన అంచనా వేశారు.
  • ఇది ఎందుకు ముఖ్యం: నిర్దిష్ట పనికి పెద్ద, శక్తివంతమైన మోడల్ శిక్షణ ఉదాహరణలను అందించగలదు; తద్వారా చిన్న, చౌకైన మోడల్‌కు శిక్షణ ఇవ్వవచ్చు. ఉత్పత్తుల్లో చిన్న మోడళ్లపై ఆధారపడినా, అత్యాధునిక పరిశోధనను అనుసరించేందుకు ఇది డెవలపర్లకు కారణం ఇస్తుంది.
  • ఏమి గమనించాలి: భవిష్యత్తు మోడల్ విడుదలలు, సాంకేతిక వెల్లడింపులు పెద్ద మోడళ్ల పురోగతి చిన్నవాటికి చేరుతోందో లేదో చూపగలవు. GPT-7 లేదా GPT-8 విడుదల తేదీలు, సాంకేతిక వివరాలు, ఫలితాలేవీ ఇంటర్వ్యూలో ఇవ్వలేదు.

ఈ అంచనా వెనుక ఉన్న సందర్భం

కస్టమర్ల అభ్యర్థనలు పరిశోధనకు ఎలా తిరిగి చేరతాయని జకరీ లిప్టన్ అడిగిన ప్రశ్నకు పవర్ సమాధానమిచ్చారు. సాధనాల వినియోగం వంటి నిర్దిష్ట ప్రవర్తనను ప్రత్యేక శిక్షణ డేటా, అనువర్తిత పరిశోధనతో OpenAI మెరుగుపరచగలదని ఆయన అన్నారు. మోడల్ తరంలో చిన్నచిన్న నవీకరణలు తరచూ ఇలాంటి అవసరాలను తీరుస్తాయని ఆయన వివరించారు. పెద్ద మోడళ్ల కొత్త తరం ఏ ప్రత్యేక సవరణలు ఇంకా అవసరమో మార్చగలదని ఆయన వాదించారు. దీర్ఘకాల వ్యూహం కాకపోయినా, ఈ రోజు వేగంగా నేర్చుకొని మెరుగుపడేందుకు ఉపయోగించే కొన్ని పెట్టుబడులను కూడా ఆయన ప్రస్తావించారు.

ఆ తేడా నేపథ్యంలో 80–90% వ్యాఖ్యను ఆయన Fellows Forum రికార్డింగ్‌లో 1:32:52 వద్ద చేశారు. తన బృందంలోని పరిశోధన మాత్రమే కాక, OpenAIలోని పరిశోధన గురించి పవర్ మాట్లాడారు. లెక్కలోకి తీసుకున్న పరిశోధనకు నిర్వచనం, కాలవ్యవధి, బడ్జెట్, సిబ్బంది సంఖ్య లేదా అంచనాకు ఉపయోగించిన పద్ధతిని రికార్డింగ్ గానీ, OpenAI ప్రచురించిన సమాచారం గానీ ఇవ్వలేదు. అందువల్ల ఈ సంఖ్యను కంపెనీ ఖర్చు లేదా సిబ్బందికి సంబంధించిన ఆడిట్ చేసిన కొలతగా కాక, ప్రాధాన్యతలపై పవర్ వివరణగా చూడాలి.

తర్వాతి తరాలకు ఉదాహరణగా GPT-7, GPT-8 పేర్లను పవర్ ప్రస్తావించారు. ఈ మోడళ్లలో దేనినీ ప్రకటించలేదు; అభివృద్ధి దశను వెల్లడించలేదు, విడుదల షెడ్యూల్‌నూ ఇవ్వలేదు. OpenAI ప్రస్తుత మోడల్ జాబితా లో GPT-6 Astra, Sol, Luna ఉన్నాయి. పవర్ ప్రస్తావించిన పేర్లకు ఇది బహిరంగ సందర్భాన్ని అందిస్తుంది; తర్వాతి తరాల ప్రస్తుత స్థితికి ఆధారం కాదు.

డిస్టిల్లేషన్‌ను ఆయన ఎందుకు ప్రస్తావించారు

ఆ అంచనా చెప్పిన వెంటనే, పెద్ద GPT-6 Astra మోడల్ చిన్న GPT Luna మోడల్‌కు నేర్పే ఉదాహరణను పవర్ వివరించారు. బలమైన పెద్ద మోడల్, చిన్నదానికి శిక్షణ ఇవ్వడానికి ఉదాహరణలను అందించగలదనేది ఆయన ఉద్దేశం. ఒక నిర్దిష్ట విడుదలైన Luna మోడల్‌ను Astraతో శిక్షణ ఇచ్చినట్లు ఆయన నమోదు చేయలేదు; పరిశోధనా విధానాన్ని వివరించారు.

OpenAI పర్యవేక్షిత ఫైన్-ట్యూనింగ్ మార్గదర్శి ఆ విధానాన్ని వివరిస్తుంది. ముందుగా నిర్దిష్ట పనిలో పెద్ద మోడల్ బాగా పనిచేస్తోందో డెవలపర్ తనిఖీ చేసి, తగిన ఫలితాలను ఎంపిక చేస్తారు; వాటిని చిన్న మోడల్‌కు శిక్షణ ఉదాహరణలుగా వాడి, అదే పనిపై చిన్న మోడల్‌ను అంచనా వేస్తారు. నిర్దిష్ట పనిలో చిన్న మోడల్ పనితీరును పెద్ద మోడల్‌కు చేరువ చేయవచ్చని OpenAI చెబుతోంది నిర్దిష్ట పనిలో. చిన్న మోడల్ ఉపాధ్యాయ మోడల్ సామర్థ్యాలన్నింటినీ పొందుతుందని మాత్రం దీని అర్థం కాదు. OpenAI విడుదల చేసిన APIలో మోడల్ డిస్టిల్లేషన్ ప్రకటన కూడా మూల్యాంకనం, భద్రపరిచిన ఫలితాలు, ఫైన్-ట్యూనింగ్‌ను పునరావృతమయ్యే ప్రక్రియగా వివరిస్తుంది.

ఈ ఆలోచనకు సుదీర్ఘ చరిత్ర ఉంది. 2015 పరిశోధనా పత్రంలో, జెఫ్రీ హింటన్, ఒరియోల్ విన్యాల్స్, జెఫ్ డీన్ పెద్ద వ్యవస్థల నుంచి సులభంగా అమలు చేయగల మోడల్‌కు జ్ఞానాన్ని బదిలీ చేయడాన్ని పరిశీలించారు. ఆ పని ఉపాధ్యాయ–విద్యార్థి భావనకు నేపథ్యం ఇస్తుంది; OpenAI ప్రస్తుతం పరిశోధనను ఎలా కేటాయిస్తుందో దాని గురించి ఏమీ చెప్పదు.

ఇది అత్యాధునిక పరిశోధనకు, ఆచరణాత్మక మోడళ్లకు మధ్య పవర్ గీసిన సంబంధాన్ని వివరిస్తుంది. ఎక్కువ సామర్థ్యమున్న ఉపాధ్యాయ మోడల్, నిర్దిష్ట అవసరాలున్న తక్కువ ఖర్చు వ్యవస్థలకు ఉపయోగపడే శిక్షణ పదార్థాన్ని తయారుచేయగలదు. అది ఎంత బాగా పనిచేస్తుందనేది పని, ఎంపిక చేసిన ఉదాహరణలు, మూల్యాంకనంపై ఆధారపడి ఉంటుంది. Astra–Luna ఉదాహరణకు సంబంధించిన డిస్టిల్లేషన్ ఫలితాలనో పోలిక కొలతలనో పవర్ అందించలేదు.

OpenAI పరిశోధన విలువలో ఎక్కువ భాగం ఎక్కడ ఉంటుందని తాను భావిస్తున్నాడో పవర్ అంచనా వెల్లడిస్తుంది. ఆయన వ్యాఖ్యను, ప్రస్తావించిన సాధారణ సాంకేతికతను బహిరంగ ఆధారాలు నిర్ధారిస్తాయి. OpenAI వనరులు వాస్తవంగా ఎలా పంచబడ్డాయో లేదా భవిష్యత్తు GPT తరం ఏమి అందిస్తుందో మాత్రం అవి నిర్ధారించవు.