ఒక కస్టమర్ ఆర్డర్‌లో చిరునామాను మారుస్తారు. సందేశంలో డబ్బు వాపసు కూడా అడుగుతారు, దెబ్బతిన్న పార్సెల్‌ను ప్రస్తావిస్తారు, ఇలా జరగడం ఇది మూడోసారని సూచిస్తారు. ఆ సందేశానికి ఉపయోగకరమైన సమాధానం ఇవ్వడం ఒక పని. ఏ రికార్డులను మార్చాలి, ఏ బృందం జోక్యం చేసుకోవాలి, ఏ చర్యలకు అనుమతి అవసరమో నిర్ణయించడం మరో పని.
2026 సెప్టెంబర్ 15న ముందస్తు ప్రాప్యతలో TypeSafe AI ప్రవేశపెట్టిన మోడల్ Jev, ఇలాంటి నిర్ణయాలనే లక్ష్యంగా చేసుకుంది. ఇది సాఫ్ట్‌వేర్ కోసం నిర్దిష్ట పరిమితులున్న నిర్మిత సమాధానాలను ఇస్తుంది. ప్రతి పరస్పర చర్య సాధారణ ప్రయోజన మోడల్‌తో సుదీర్ఘ సంభాషణపై ఆధారపడాలా అనే విషయాన్ని ఈ ప్రారంభం మళ్లీ ఆలోచించమంటోంది. TypeSafe ప్రారంభ ప్రకటన
TypeSafe సహ వ్యవస్థాపకుడు, సీఈఓ డియోగో అల్మెయిడాతో Latent Space నిర్వహించిన సెప్టెంబర్ 21 ఇంటర్వ్యూలో ఈ వాదన అత్యంత విస్తృతంగా వినిపిస్తుంది; దానికి swyx వ్యాఖ్యాతగా ఉన్నారు. రెండు గంటల 22 నిమిషాల సంభాషణకు సంబంధించిన పూర్తి ఆంగ్ల ఉపశీర్షికలను పరిశీలించి, ఉత్పత్తి పత్రాలను కూడా తనిఖీ చేశాం. ఇది ఆ ఇంటర్వ్యూ, బహిరంగ ఆధారాల విశ్లేషణ మాత్రమే; మేము Jev పనితీరును స్వతంత్రంగా పరీక్షించలేదు. అసలు ఇంటర్వ్యూ చూడండి
మా విశ్లేషణ ప్రకారం, ఆటోమేషన్‌కు ఏకకంగా దేనిని ఎంచుకోవాలనే ప్రతిపాదనే Jevలో అత్యంత ప్రాముఖ్యమైనది. ఒక సంస్థ ఇప్పటికే ఉన్న ప్రక్రియలో పరిమితమైన ఒక నిర్ణయాన్ని ఆటోమేట్ చేయగలదు; మొత్తం ప్రక్రియను అప్పగించడానికి ముందే అలా చేయడం బాధ్యతాయుతం కావచ్చు. ఆ నిర్ణయాన్ని పదేపదే తీసుకోవడం తగినంత చవకగా, కొలవడం స్పష్టంగా మారితే, ప్రతి పరస్పర చర్య చాట్‌గా మారకుండానే మనకు పరిచయమైన వ్యాపార సాఫ్ట్‌వేర్ ఉపయోగకరమైన సామర్థ్యాలు పొందవచ్చు.
ఇది పని ప్రవాహాలను రూపొందించే వారితో పాటు వాటిని ఉపయోగించే వారిపైనా ప్రభావం చూపుతుంది. ఏ చర్యలకు అనుమతి ఇవ్వాలి, దేనిని తప్పిదంగా పరిగణించాలి, మినహాయింపు కేసులను ఎవరు నిర్వహించాలి అనే విషయాలను ఎవరో ఒకరు ఇంకా నిర్ణయించాలి. ఈ నిర్ణయాల నాణ్యతే ఈ విధానం నమ్మదగిన సేవలను సృష్టిస్తుందా, లేక తప్పిదాలను వేగవంతం చేస్తుందా అన్నది నిర్ణయిస్తుంది.
TypeSafe నిజంగా ప్రారంభించినది ఏమిటి
Jev డాక్యుమెంట్ చేసిన ఇంటర్‌ఫేస్‌కు ఒక స్థితి వివరంతో పాటు రకం నిర్దేశించిన ప్రశ్నల సమితి ఇస్తారు. ఇందులో మూడు ప్రాథమికాలు ఉన్నాయి: Choice నిర్దిష్ట ఎంపికల్లో ఒకదాన్ని ఎంచుకుంటుంది; Score ప్రమాణాల ఆధారంగా అంచనా వేస్తుంది; Noul ఒక ప్రకటన సంభావ్యతను సున్నా నుంచి ఒకటి వరకూ తెలియజేస్తుంది. Choice, Score సంభావ్యతల పంపిణీతో పాటు confidence క్షేత్రాన్ని ఇస్తాయి. Noulకు ఆ ప్రత్యేక confidence క్షేత్రం ఉండదు. ఇచ్చిన స్థితిని ఒకేలా పంచుకున్నా ప్రశ్నలను స్వతంత్రంగా అంచనా వేయవచ్చు. TypeSafe ఇంటర్‌ఫేస్ డాక్యుమెంటేషన్
కస్టమర్ సేవా అప్లికేషన్‌లో డెవలపర్ ఈ ప్రాథమికాలను ఉపయోగించి చిరునామా మార్పు అభ్యర్థనను రద్దు అభ్యర్థన నుంచి వేరు చేయవచ్చు, అత్యవసరతను అంచనా వేయవచ్చు, సందేశంలో నష్టం జరిగినట్లు ఆధారముందా చూడవచ్చు. ఇవి ఊహాత్మక ఉదాహరణలు మాత్రమే; Jev అమలు ఫలితాలు కావు. వచ్చిన సమాధానాల ఆధారంగా తర్వాత ఏమి చేయాలో అప్లికేషన్ నిర్ణయిస్తుంది.
వ్యాఖ్యానం, అధికార పరిధి వేర్వేరు బాధ్యతలు కాబట్టి ఈ విభజన ఉపయోగకరం. కస్టమర్ వాపసు కోరుతున్నారని AI ఊహించవచ్చు. ఆ నిర్ణయానికి వచ్చినంత మాత్రాన వాపసు జారీ చేసే అనుమతి దానికి లభించకూడదు. అప్లికేషన్ ఆర్డర్‌ను తనిఖీ చేయవచ్చు, వాపసు పరిమితిని అమలు చేయవచ్చు, అవసరమైనప్పుడు ఆమోదం కోరవచ్చు.
ఈ మోడల్ వర్గాన్ని TypeSafe System One అని పిలుస్తూ, వేగమైన సహజ ఆలోచన అనే భావనను తీసుకుంటుంది. ఆ పేరును ఉద్దేశించిన పనిభారం వివరణగా మాత్రమే చూడాలి. అది మానవుడిలా ఆలోచిస్తుందని ధ్రువీకరించదు; సులభమైన, క్లిష్టమైన పనుల మధ్య స్పష్టమైన హద్దునూ నిర్ధారించదు. ముఖ్యమైన సమాచారం లేనప్పుడు చిన్న ప్రశ్నలోనూ క్లిష్టమైన నిర్ణయం దాగి ఉండవచ్చు.
ఇంజినీరింగ్‌లో మార్పు: చిన్నగా, తనిఖీ చేయగలిగే నిర్ణయాలు
స్పష్టంగా పరిమితి చేసిన ప్రశ్నలు అడిగి, వచ్చిన సమాధానాలను కోడ్‌లో కలపాలని అల్మెయిడా సూచిస్తున్నారు. ఇంటర్వ్యూ, 1:03:02
దెబ్బతిన్న ఆర్డర్ ఉదాహరణను మళ్లీ చూద్దాం. ఫిర్యాదును పరిష్కరించమనే ఒకే సూచన, ఒక సమాధానంలోనే ఎన్నో నిర్ణయాలను దాచిపెడుతుంది. మరింత తనిఖీ చేయగల రూపకల్పనలో కోరిన చర్య ఏదో, ఆర్డర్‌ను గుర్తించగలమో లేదో, నష్టం గురించి చేసిన వాదనకు అందుబాటులో ఉన్న ఆధారాలు మద్దతిస్తున్నాయో లేదో విడిగా నిర్ణయిస్తారు. విధాన నియమాలు ఈ నిర్ణయాలకు వెలుపలే ఉంటాయి.
దీనివల్ల తప్పిదాన్ని పరిశీలించడం సులభమవుతుంది. చిరునామా మార్పును వ్యవస్థ వాపసుల బృందానికి పంపితే, ఆ దారి మళ్లింపు నిర్ణయాన్ని నిర్వాహకుడు పరిశీలించవచ్చు. నష్టం అంచనా తప్పైతే ఆ భాగాన్ని గత కేసులతో పరీక్షించవచ్చు. విస్తృత సూచనను మళ్లీ రాసి, మోడల్ దాన్ని ఎప్పుడూ ఒకేలా అర్థం చేసుకుంటుందని ఆశించాల్సిన అవసరం లేకుండా స్పష్టమైన నియమాన్ని మార్చవచ్చు.
దీనికి ఖర్చులూ ఉన్నాయి. భాగాలు ఎక్కువైతే నిర్వహించాల్సిన ఇంటర్‌ఫేస్‌లూ పెరుగుతాయి. సమాధానాన్ని స్పష్టం చేసే సందర్భాన్ని ప్రశ్నల్లో అనుకోకుండా వదిలేయవచ్చు. స్వతంత్రంగా కనిపించే రెండు నిర్ణయాలూ ఒకే తప్పుదారి పట్టించే ఆధారంపై ఆధారపడవచ్చు. విడివిడిగా ఆమోదయోగ్యమైన భాగాలతో కట్టిన పని ప్రవాహం కూడా ఆమోదయోగ్యం కాని ఫలితాన్ని ఇవ్వవచ్చు.
TypeSafe డాక్యుమెంట్ చేసిన నమూనాల్లో ఒకేసారి అనేక ప్రశ్నలు అడగడం, స్కోర్లను కలపడం, అనిశ్చిత కేసులను అదనపు నిర్వహణకు పంపడం ఉన్నాయి. ఇవి నిర్మాణ రూపకల్పన ఎంపికలే; నిర్దిష్ట కస్టమర్ ప్రక్రియ పర్యవేక్షణ లేకుండా నడపడానికి సిద్ధంగా ఉందనడానికి రుజువు కావు. TypeSafe నమూనాలు
పనిని విడగొట్టడం వల్ల నిర్ధారణ, ఫలితాలు రెండూ మెరుగవుతున్నాయా అనేదే ఉపయోగకరమైన పరీక్ష. ఏ దశ విఫలమైందో వివరించగలగడం విలువైనది. ఆ వైఫల్యాల తరచుదనం, ప్రభావం తగ్గించడమే వ్యాపారపరమైన ప్రయోజనం.
సరైన ఆకృతిలోని సమాధానం కూడా తప్పు కావచ్చు
Jev “భ్రమలు కల్పించదు” అనే ప్రారంభ ప్రకటనలోని వాదనను పరిమిత అర్థంలోనే చూడాలి. అనుమతించిన అవుట్‌పుట్ స్కీమాకు సమాధానం సరిపోతుందనే దానికి TypeSafe హామీ ఇస్తోంది. ఎంచుకున్న సమాధానం నిజమని అది నిరూపించదు. స్కీమా హామీలను అనుభవపూర్వక మూల్యాంకనం నుంచి వేరు చేస్తున్నామని కంపెనీ ప్రకటన కూడా చెబుతుంది. టైప్ భద్రతపై TypeSafe వివరణ
ఒక అప్లికేషన్ ఈ విలువలనే అనుమతిస్తుందని అనుకుందాం: damaged, late మరియు other. సమాధానంగా damaged ఇవ్వడం పూర్తిగా సరైన ఆకృతిలోనే ఉంటుంది; పార్సెల్ ఆలస్యమైనా కూడా. నాలుగో వర్గాన్ని కల్పించలేని మోడల్ సైతం తప్పుడు వర్గాన్ని ఎంచుకోవచ్చు. నిజంగా అవసరమైన వర్గాన్ని జాబితా నుంచి తొలగిస్తే, స్కీమాయే సమస్యలో భాగమవుతుంది.
నిర్మిత అవుట్‌పుట్ ఇప్పటికే ఉన్న ఇంజినీరింగ్ విధానం కూడా. OpenAI 2024 ఆగస్టులో స్కీమాతో పరిమితం చేసిన Structured Outputsను ప్రవేశపెట్టి, తిరిగి ఇచ్చిన విలువల్లోనూ మోడల్ తప్పులు చేయవచ్చని స్పష్టంగా పేర్కొంది. కాబట్టి అన్ని నిర్మిత AI అవుట్‌పుట్‌లను తానే సృష్టించిందని భావించకుండా, నిర్ణయాల నాణ్యత, అనిశ్చితి నివేదిక, ఆలస్యం, ఖర్చు కలయిక ఆధారంగా Jevను అంచనా వేయాలి. OpenAI అసలు ప్రకటన, దాని పరిమితులు
కొనుగోలుదారులకు ఈ తేడా మూల్యాంకన ప్రణాళికను మారుస్తుంది. సాఫ్ట్‌వేర్ సమాధానాన్ని స్వీకరించగలదా అని స్కీమా పరీక్ష అడుగుతుంది. సమాధానం ఆధారాలతో సరిపోతుందా అని వాస్తవ పరీక్ష అడుగుతుంది. ఫలిత చర్య అనుమతించబడిందా అని విధాన పరీక్ష అడుగుతుంది. ఒక పరీక్షలో ఉత్తీర్ణత మిగతా పరీక్షలకు ప్రత్యామ్నాయం కాదు.
ఇంటర్వ్యూలో అత్యంత ముఖ్యమైన సవాలు కాలిబ్రేషన్ గురించే
1:09 నిమిషం వద్ద సంపూర్ణ కాలిబ్రేషన్ అన్న సూచనను అల్మెయిడా తోసిపుచ్చి, మోడల్ తప్పిదాలను అంగీకరిస్తారు. ఇంటర్వ్యూ, 1:08:50
వివిధ అంచనా సమూహాల్లో అంచనా వేసిన సంభావ్యతలు గమనించిన ఫలితాలతో ఎలా సరిపోతాయో కాలిబ్రేషన్ వివరిస్తుంది. ప్రతి అధిక-సంభావ్యత కేసులోనూ కచ్చితంగా లేకపోయినా, అనిశ్చితిని సూచించడంలో మోడల్ ఉపయోగపడవచ్చు. TypeSafe మార్గదర్శకం ఈ తేడాను స్పష్టంగా ఉంచుతుంది. కాలిబ్రేషన్‌పై TypeSafe వివరణ
APIలోని confidence క్షేత్రానికీ మరో స్పష్టత అవసరం. సమాధానాల పంపిణీ నుంచి లెక్కించే గణాంకంగా TypeSafe దీన్ని వివరిస్తుంది. ఎంచుకున్న సమాధానం సరైనదనే స్వతంత్రంగా కొలిచిన సంభావ్యతకు ఇది సమానం కాదు. పనికి, దాని పరిణామాలకు అనుగుణంగా పరిమితులను ఎంచుకోవాలని డాక్యుమెంటేషన్ సూచిస్తుంది. TypeSafe confidence డాక్యుమెంటేషన్
ఇవి ఆచరణాత్మక అంశాలు. చిన్న ఆంగ్ల సందేశాలపై బాగా పనిచేసే రూటింగ్ మోడల్, అనేక అభ్యర్థనలు కలిసిన పొడవైన ఫిర్యాదుల్లో తడబడుతోందని ఊహించండి. ఒకే మొత్తం స్కోరు ఆ బలహీనతను దాచవచ్చు. బలహీన సమూహంపై అధిక confidenceతో చేసిన నిర్ణయాన్ని, పరిచయమైన సమూహంపై వచ్చిన అదే సంఖ్య కంటే మరింత పరిశీలించాల్సి రావచ్చు.
తనకు వచ్చే అవకాశం ఉన్న కేసులనే బృందం అంచనా వేయాలి. ఇందులో సమాచారం లేకపోవడం, అపరిచిత పదప్రయోగం, ఉద్దేశపూర్వకంగా గందరగోళపరిచే ఇన్‌పుట్ కూడా ఉండాలి. తప్పులను వర్గాలవారీగా పరిశీలించి, సమీక్షకు పంపే ఖర్చును తప్పుగా చర్య తీసుకునే ఖర్చుతో పోల్చాలి. డెమో నుంచి కాపీ చేసిన సంఖ్యలుగా కాక, ఆధారాలపై నిలిచిన కార్యాచరణ నిర్ణయాలుగా పరిమితులు మారతాయి.
Jev కంటే చాలా ముందే కాలిబ్రేషన్‌పై పరిశోధన ఉంది. చువాన్ గువో, సహచరుల విస్తృతంగా ఉదహరించే 2017 పత్రం ఆధునిక న్యూరల్ నెట్‌వర్క్‌లలోని బలహీన కాలిబ్రేషన్‌ను, దాన్ని మెరుగుపరిచే పద్ధతులను పరిశీలించింది. ఆ పని సమస్యకు నేపథ్యాన్ని అందిస్తుంది; TypeSafe మోడల్‌ను ధ్రువీకరించదు. ఆధునిక న్యూరల్ నెట్‌వర్క్‌ల కాలిబ్రేషన్‌పై
సేవ మారినప్పుడు ఏమవుతుందో కూడా విశ్వసనీయతలో భాగమే
సంభాషణలో దృఢత్వాన్ని నిర్ణీతత్వం నుంచి వేరు చేసి, సాధారణ దీర్ఘకాల మద్దతు హామీ లేకుండానే వెర్షన్ స్థిరత్వం గురించి చర్చించారు. ఇంటర్వ్యూ, 41:24 మరియు 49:40
ఇవి కొనుగోలులో వేర్వేరు ప్రశ్నలు. ఒకే ఇన్‌పుట్ ఎప్పుడూ ఒకే అవుట్‌పుట్ ఇస్తుందా అని నిర్ణీతత్వం అడుగుతుంది. రికార్డు గుర్తింపు సంఖ్య మారడం వంటి సంబంధంలేని మార్పు ప్రవర్తనలో అసమంజసమైన మార్పుకు దారితీస్తుందా అని దృఢత్వం అడుగుతుంది. ఒక మోడల్ అదే తప్పు సమాధానాన్ని పదే పదే ఇచ్చినా నిర్ణీతంగా ఉండవచ్చు. చుట్టూ ఉన్న పని ప్రవాహం విశ్వసనీయంగా కొనసాగుతూనే చిన్న మార్పులు కూడా ఉండవచ్చు.
ఈ రెండింటిలో ఏదీ జీవితచక్రపు ప్రమాదాన్ని పరిష్కరించదు. ఏ మోడల్ వెర్షన్ నిర్ణయం తీసుకుందో, అది అందుబాటులో ఉంటుందో లేదో, దాని స్థానంలో వచ్చే వెర్షన్‌ను ఎలా అంచనా వేయాలో వ్యాపారం తెలుసుకోవాలి. సరఫరాదారు పరీక్షల్లో వచ్చిన మెరుగుదల, కస్టమర్ జాగ్రత్తగా సర్దుబాటు చేసిన పని ప్రవాహం ప్రవర్తననూ మార్చవచ్చు.
ప్రతినిధి కేసులను భద్రపరచడం, వెర్షన్‌లను నమోదు చేయడం, కీలక పనిని మార్చేముందు కొత్త మోడళ్లను పోల్చడం సమంజసం. ప్రత్యామ్నాయ ఏర్పాటూ ముఖ్యం: లేకపోతే కచ్చితమైన నిర్ణయ సేవ సైతం అందుబాటులో లేకపోవచ్చు. సురక్షితంగా నిలిపే లేదా వేరే దారికి మళ్లించే మార్గం అప్లికేషన్‌లో లేకపోతే, ఆచరణలో సేవా లభ్యత కూడా నిర్ణయ నాణ్యతలో భాగమవుతుంది.
ఆకర్షణీయమైన API కార్యాచరణాపరమైన ఆధారంగా మారేది ఇక్కడే. మోడల్ వేగం పెరిగినా సేకరణ, పర్యవేక్షణ, మార్పిడి ప్రణాళికలు మాయమవ్వవు. ఒక్కో అభ్యర్థన చాలా సులభంగా కనిపించడం వల్ల వాటిని నిర్లక్ష్యం చేయడం సులభమవుతుంది.
వేగం, ధర గణాంకాలకు సందర్భం ఎందుకు అవసరం
TypeSafe ప్రధాన పని ప్రవాహ ఫలితాల్లో వేగం 193.6 రెట్లు, ఖర్చు 444.6 రెట్లు మెరుగైనట్లు పేర్కొంది. ఇవి కంపెనీ రూపొందించిన పని ప్రవాహాల్లో సాధించిన అత్యధిక ఫలితాలని ప్రకటన చెబుతుంది. సూచన సమాధానాలు స్వతంత్రంగా ధ్రువీకరించిన నిజమైన వర్గీకరణలకు బదులు, ఇతర మోడళ్ల సంభావ్యత అంచనాల నుంచి వచ్చాయి. తమ చిన్న ప్రదర్శన Jevకు అనుకూలమని, దీర్ఘకాలం నిలిచే ధరను ఇంకా నిర్ణయించాల్సి ఉందని కంపెనీ హెచ్చరిస్తుంది. TypeSafe మూల్యాంకన పరిమితులు
ఆ పరిమితులూ గణాంకాలతో పాటే ఉండాలి. సూచన మోడల్‌తో ఏకీభవించడం సమాచారం ఇవ్వొచ్చు; కానీ నిర్ధారించిన కస్టమర్ కేసు ప్రకారం కచ్చితత్వాన్ని కొలవడం వేరు. విక్రేత రూపొందించిన పని ప్రవాహం కొనుగోలుదారుకు ఉపయోగపడవచ్చు, కానీ ఆ కొనుగోలుదారు అభ్యర్థనల పంపిణీని ప్రతిబింబించకపోవచ్చు.
సరైన పోలిక మొత్తం పనిని చేర్చాలి: సందర్భం సేకరించడం, నిర్ణయాలు తీసుకోవడం, నియమాలు వర్తింపజేయడం, మినహాయింపులు నిర్వహించడం, వైఫల్యం నుంచి కోలుకోవడం. సమీక్షకులకు అధిక పనిని పంపితే చవక మోడల్ అభ్యర్థన మొత్తం ఖర్చును పెంచవచ్చు. ఖరీదైన పునఃపని తప్పిస్తే నెమ్మదైన అభ్యర్థన కూడా ఆర్థికంగా ఉండవచ్చు.
అప్లికేషన్ పనిచేసే అసలు ప్రాంతం నుంచి ఆలస్యాన్నీ కొలవాలి. సేవా మౌలిక సదుపాయాలకు దగ్గరగా చేసిన ప్రదర్శన, వేరే చోటున్న వినియోగదారుడి అనుభవానికి హామీ కాదు. ఇంటరాక్టివ్ వ్యవస్థలు సగటుతో పాటు నెమ్మదైన అభ్యర్థనలనూ పరిశీలించాలి; నేపథ్య ప్రాసెసింగ్‌కు పనితీరు సామర్థ్యం, మొత్తం ఖర్చు ముఖ్యం కావచ్చు.
Jev పేరు, సామర్థ్యం పెరిగితే వినియోగం విస్తరించవచ్చనే భావనను సూచిస్తుంది. ఒక్కో వ్యాపారం బడ్జెట్ గురించి ఒక ప్రశ్న వేసుకోవాలి: ఏ కొత్త నిర్ణయాలను అంచనా వేయడం విలువైనదవుతుంది, ఏవి మాత్రం అంచనా వేయడానికి చవకవుతాయి? మోడల్ అభ్యర్థనల సంఖ్య పెరగడమే ఫలితం కాదు.
భిన్న పరిశోధనా లక్ష్యం, ఇంకా పూర్తి కాని ఆధారాలు
అల్మెయిడా పరిశోధనా వాదనలో డేటా, పనుల ఎంపిక, RLCD ఉన్నాయి; ఇవి ప్రాధాన్యతల ఆప్టిమైజేషన్‌పై ఆయన విమర్శతో ముడిపడ్డాయి. ఇంటర్వ్యూ, 7:23 మరియు 22:12
RLCD అంటే Reinforcement Learning for Calibrated Decisions (కాలిబ్రేట్ చేసిన నిర్ణయాల కోసం రీఇన్‌ఫోర్స్‌మెంట్ లెర్నింగ్). ఉపయోగకరమైన నిర్ణయాలు, సంభావ్యతల కోసం శిక్షణగా TypeSafe దీన్ని వివరిస్తూ, మానవ ప్రాధాన్యతలు, ధ్రువీకరించగల బహుమతులపై ఆధారపడే విధానాలతో పోలుస్తుంది. ఇది తమ లక్ష్యంపై కంపెనీ వివరణ మాత్రమే. మొత్తం శిక్షణ పద్ధతిని స్వతంత్రంగా ధ్రువీకరించినట్లుగా చూడకూడదు. TypeSafe AI పరిచయం
పద్ధతిని అంచనా వేస్తూనే విస్తృతమైన ప్రశ్నను పరిశీలించాలి: శిక్షణ లక్ష్యం ఎలాంటి ప్రవర్తనకు ప్రోత్సాహం ఇస్తుంది? ఒప్పించే వివరణ కోసం ఆప్టిమైజ్ చేసిన మోడల్ వాడటానికి ఆహ్లాదకరంగా ఉన్నా, కోడ్ చర్య తీసుకోగల రూపంలో అనిశ్చితిని చూపకపోవచ్చు. నిర్ణయాలకు అనుగుణమైన ఇంటర్‌ఫేస్ అనిశ్చితిని నిర్వహించడం సులభం చేయవచ్చు; అయినా దాని అవుట్‌పుట్‌లను వాస్తవాలతో బాహ్యంగా సరిపోల్చాలి.
ఈ ఆందోళనను TypeSafe mode droppingతో ముడిపెడుతుంది: ప్రాధాన్యత ఆప్టిమైజేషన్ వల్ల వ్యక్తులు మెచ్చే సమాధానాల వైపు సాధ్యమైన అవుట్‌పుట్‌ల పరిధి తగ్గవచ్చు. ఇది విఫలమయ్యే ఒక విధానంపై కంపెనీ వివరణ మాత్రమే; ప్రాధాన్యతలతో శిక్షణ పొందిన ప్రతి మోడల్ నిర్ణయాలకు పనికిరాదనే నిర్ధారణ కాదు. ప్రాధాన్యత ఆప్టిమైజేషన్‌పై TypeSafe చర్చ
అల్మెయిడా నేపథ్యం ఈ వాదనను మరింత ఆసక్తికరంగా చేస్తుంది. మానవ అభిప్రాయంతో భాషా మోడళ్లకు సూచనలు పాటించడం నేర్పిన InstructGPT పరిశోధనా పత్రానికి ఆయన సహరచయిత. ఈ సహరచయితత్వాన్ని నిర్ధారించవచ్చు; ప్రతి ప్రయోగశాల ఏమి తప్పు చేస్తుందనే విస్తృత వాదనలు మాత్రం వేరే విషయం. InstructGPT పరిశోధనా పత్రం
ప్రీట్రైనింగ్ ఖర్చు, దిశ లేని కొత్త ప్రయోగశాలలపై ఆయన అభ్యంతరాలూ ఉపయోగకరమైన పనులను ఎంచుకోవాలనే ఇదే వాదనలో భాగం. ఇంటర్వ్యూ, 1:49:32 మరియు 2:03:10
కొనుగోలుదారుకు ఉపయోగపడే పాఠం: నిర్దిష్ట ప్రక్రియ కోసం ఉత్పత్తి ఏమి చేయగలదో అడగాలి. పరిశోధన నేపథ్యం, కంప్యూటింగ్ ఖర్చు, ప్రత్యేకమైన మోడల్ నిర్మాణం కంపెనీ ఆ ఉత్పత్తికి ఎలా వచ్చిందో వివరించవచ్చు. వేరొకరి వ్యాపారంలో దాన్ని అమలు చేయడం ఆర్థికంగా ఎంత ప్రయోజనకరమో అవి నిరూపించవు.
అల్మెయిడా OpenAI నుంచి నిష్క్రమించడం, ప్రారంభ దశలో ఎదురైన స్వీకరణ కష్టాలు, డెవలపర్ల ఆధారిత వృద్ధి గురించీ ఇంటర్వ్యూలో మాట్లాడారు. ఇంటర్వ్యూ, 1:31:27 మరియు 1:56:48
ఆ జ్ఞాపకాలు కంపెనీ ప్రాధాన్యతలను వివరిస్తాయి; స్వీకరణకు సంబంధించిన ఆడిట్ చేసిన ఆధారాలు కావు. డెవలపర్ ప్లాట్‌ఫారమ్‌ను కాలక్రమేణా ఉపయోగపడే పనిభారాల ఆధారంగా, అవి విఫలమైనప్పుడు అందించే మద్దతుతో చివరకు అంచనా వేయాలి. ప్రారంభం తర్వాత ఉత్సాహం పరిశీలించడానికి కారణం; ఆ రికార్డుకు ప్రత్యామ్నాయం కాదు.
కొత్త చాట్ విండో కంటే ఎక్కువ ప్రయోజనం ఇప్పటికే ఉన్న సాఫ్ట్‌వేర్‌కు దక్కవచ్చు
SaaS ఉత్పత్తులు మరింత మెరుగై, AI తెర వెనుకకు వెళ్తుందని అల్మెయిడా భావిస్తున్నారు. ఇంటర్వ్యూ, 1:19:57
ఇది పరిశీలించదగిన నమ్మదగిన దిశ; ఎందుకంటే ఉపయోగకరమైన నిర్ణయం తదుపరి దశను మార్చగల ప్రదేశాలు సాఫ్ట్‌వేర్‌లో ఇప్పటికే ఉన్నాయి. షెడ్యూలింగ్ అప్లికేషన్ బుకింగ్‌కు ముందు అస్పష్టమైన అభ్యర్థనను గుర్తించవచ్చు. మీడియా ఆర్కైవ్ పరిశోధకుడి కోసం విషయాలను క్రమబద్ధీకరించవచ్చు. సేవా విభాగం సాధారణ నవీకరణను, శ్రద్ధ అవసరమైన ఫిర్యాదును వేరు చేయవచ్చు. ఇవి సాధ్యమైన రూపకల్పనలు మాత్రమే; Jev అమలైనట్లు నమోదైన సందర్భాలు కావు.
ఇంటర్‌ఫేస్‌లో పెద్దగా మార్పు కనిపించకపోవచ్చు. వినియోగదారులు తక్కువ తప్పులు, పునరావృత వర్గీకరణ తగ్గడం లేదా సరైన వ్యక్తి కోసం తక్కువ నిరీక్షణను గమనించవచ్చు. పని ప్రవాహాన్ని ఇప్పటికే అర్థం చేసుకుని, మెరుగైన నిర్ణయాలను అందులో చేర్చగల కంపెనీలకు వాణిజ్య ప్రయోజనం దక్కవచ్చు.
ఇప్పటికే ఉన్న సాఫ్ట్‌వేర్ వ్యాపారాలకు పోటీ కొనసాగుతుంది. అదే నిర్ణయం అనేక మంది డెవలపర్లకు అందుబాటులోకి వస్తే, మోడల్ అభ్యర్థన ఒక్కటే పెద్ద ప్రత్యేకత ఇవ్వదు. చుట్టూ ఉన్న ఉత్పత్తి ఉపయోగకరమైన డేటాకు ప్రాప్యత, ఆలోచనాత్మక పరస్పర చర్య రూపకల్పన, పనిని నమ్మదగిన రీతిలో పూర్తిచేసే మార్గాన్ని అందించాలి.
ఉద్యోగాలపై వాదనల్లో మరింత సంయమనం అవసరం. ఒక పనిలో శ్రమ తగ్గితే సిబ్బంది మారవచ్చు, సేవా పరిమాణం పెరగవచ్చు లేదా మినహాయింపు కేసులవైపు పని మళ్లవచ్చు. ఆ ఫలితాలు సంస్థ, దాని సేవకు ఉన్న డిమాండ్‌పై ఆధారపడతాయి. నిర్దిష్ట సంఖ్యలో ఉద్యోగాలు నిలుస్తాయని, పోతాయని లేదా ఏర్పడతాయని ఇంటర్వ్యూగానీ ముందస్తు ప్రాప్యత ప్రారంభంగానీ నిరూపించవు.
BIG CHANGE పరిశ్రమ సమీక్షకు కొలవగల సంఘటన నిర్ణయ ఆటోమేషన్‌కు మరో విధానం అందుబాటులోకి రావడం. విస్తృత వినియోగం, ఉత్పాదకత లాభాలు, కార్మిక మార్కెట్ ప్రభావాలు తర్వాత తలెత్తే ప్రశ్నలు; వాటికి వేరే ఆధారాలు కావాలి.
డార్క్ డేటా, రియల్ టైమ్ సాఫ్ట్‌వేర్, డెమో పరిమితులు
నిల్వచేసిన డేటా, ఇంటరాక్టివ్ అప్లికేషన్‌లు, ధ్రువీకరణ, కంప్యూటర్ వినియోగ ప్రదర్శనల గురించి ఇంటర్వ్యూలో చర్చించారు. ఇంటర్వ్యూ, 1:34:50
ప్రతి విభాగానికీ వేర్వేరు అంచనా అవసరం. ఆర్కైవ్ ప్రాసెసింగ్ పనిలో కొంత ఆలస్యం ఆమోదయోగ్యమే; అయినా ఫలితాల నమూనాలను తనిఖీ చేసి, అసలు రికార్డుల దాకా వాటిని అనుసరించే ప్రణాళిక అవసరం. రియల్ టైమ్ ఇంటర్‌ఫేస్‌కు ఊహించదగిన స్పందన కావాలి. మరో మోడల్‌ను అంచనా వేసే తనిఖీ సాధనం, ఆ మోడల్ నిజంగా చేసే తప్పులపై పరీక్షించాలి; రెండు వ్యవస్థలూ ఒకే తప్పు చేసే సందర్భాలనూ చేర్చాలి.
కంప్యూటర్ వినియోగంలో చర్యను ఎంచుకోవడం వ్యవస్థలో ఒక భాగం మాత్రమే. ఇంటర్‌ఫేస్‌కు కచ్చితమైన ప్రాతినిధ్యం, చర్యను అమలు చేసే మార్గం, ఆశించిన మార్పు వచ్చిందో లేదో తనిఖీ చేసే పద్ధతి కూడా అవసరం. ఒక మెరుగైన ప్రదర్శనలో చర్యల క్రమం ఒక్కసారి జరిగిందని చూపవచ్చు; నమ్మదగిన ఆటోమేషన్‌కు పదేపదే పరీక్షించడం, అంతరాయాల నుంచి కోలుకోవడం అవసరం.
అదే జాగ్రత్త ఆటలకూ వర్తిస్తుంది. మోడల్ ద్వారా నడిచే పాత్ర మరింత విస్తృత స్థితికి ప్రతిస్పందించవచ్చు; ఏ చర్యలు సాధ్యమో ఆట ఇంజిన్ మాత్రం నియంత్రిస్తూనే ఉంటుంది. ఇది ఆటను మెరుగుపరుస్తుందా అనేది స్పందన వేగం, స్థిరత్వం, అనుభవ రూపకల్పనపై ఆధారపడుతుంది. ప్రతి ఫ్రేమ్‌లో ఊహించి నిర్ణయం తీసుకోవడం వల్ల ఆట ఆటోమేటిక్‌గా ఆసక్తికరం కాదు.
ఈ తేడాలు వర్గీకరణలోని పొరపాటును నివారిస్తాయి: ఒక ఉపయోగకరమైన భాగానికి అది చేసే పనికే గుర్తింపు ఇవ్వాలి; చుట్టూ ఉన్న పూర్తి అప్లికేషన్ సామర్థ్యాలన్నింటినీ దానికి ఆపాదించకూడదు.
అదనపు శిక్షణ, దృశ్య సామర్థ్యం, మోడల్‌కు మరిన్ని రూపాలు వంటి అవకాశాలను ఇంటర్వ్యూలో ప్రస్తావించారు. ఇంటర్వ్యూ, 1:10:27 మరియు 1:26:23
ఉత్పత్తి రోడ్‌మ్యాప్ చర్చను ప్రారంభ ప్రణాళికకు తప్పనిసరి ఆధారంగా మార్చకూడదు. అందుబాటులో ఉన్న ఇంటర్‌ఫేస్ చుట్టూ నిర్మించండి, విడిగా ఉన్న భాగం ఏది అందించాలో గుర్తించండి, కొత్త సామర్థ్యం నిజంగా వచ్చినప్పుడే అంచనా వేయండి. ఊహాగానాన్ని ఉత్పత్తి లక్షణంగా చూపకుండా, భవిష్యత్ మెరుగుదలల ప్రయోజనం పొందే వీలు ఇలా ఉంటుంది.
కోడింగ్ ఏజెంట్లు పనిని వేరే రీతిలో పంచుకోవచ్చు
ఒకే మోడల్ చక్రాన్ని దాటి, కోడింగ్ ఏజెంట్ల కోసం స్థితి నిర్వహణను చవకగా చేయడం, సందర్భాన్ని పంచుకోవడం గురించి అల్మెయిడా ప్రతిపాదిస్తున్నారు. ఇంటర్వ్యూ, 1:40:17 మరియు 2:09:29
ఒక సాధ్యమైన నిర్మాణంలో శక్తివంతమైన కోడింగ్ మోడల్ మార్పును రూపొందిస్తుంది, చిన్న నిర్ణయ అభ్యర్థనలు సంబంధిత ఫైళ్లను వర్గీకరిస్తాయి, సాధారణ సాఫ్ట్‌వేర్ వచ్చిన పనులను నిర్వహిస్తుంది. వేరే సమీక్షకుడు తుది మార్పులను పరిశీలించవచ్చు. ఇది రూపకల్పన ప్రతిపాదన మాత్రమే; పనితీరు పరీక్షించిన సిఫారసు కాదు, ఇప్పటికే ఉన్న కోడింగ్ ఏజెంట్‌ను Jev భర్తీ చేస్తుందనడానికి ఆధారమూ కాదు.
ఎంచుకున్న సందర్భాన్ని మాత్రమే పంపడం దీని ఆకర్షణీయమైన అంశం. ఉపపనికి ఒక ఇంటర్‌ఫేస్, కొన్ని పరిమితులే అవసరమైతే, మొత్తం సంభాషణను పంపడం వృథా కావచ్చు. స్పష్టమైన పని రికార్డులు ఏ విషయాలు ముఖ్యం, ఏది ఇప్పటికే నిర్ణయించారు, ఏ మార్పులు ఇంకా పెండింగ్‌లో ఉన్నాయో గుర్తించడాన్ని సులభం చేస్తాయి.
సమన్వయ సూచనను ఏకకాలిక మార్పుల హామీగా పొరబడటమే ప్రమాదకరమైన భాగం. ఒక ఫైల్‌ను తామే రాయాలని రెండు ఏజెంట్లూ అనుకోవచ్చు. పరస్పర విరుద్ధమైన రాతలను నిరోధించే సాఫ్ట్‌వేర్ వ్యవస్థలను సంభావ్యత ఆధారిత మోడల్ భర్తీ చేయకూడదు. అనుమతులు, వెర్షన్ తనిఖీలు, లాక్‌లు ఫలితాన్ని ఇంకా అమలు చేయాలి.
అలాగే, పాత పనిని చవకగా తిరిగి పొందడం మెమరీ నిర్వహణను మెరుగుపరచవచ్చు; కానీ నిరంతర అభ్యాసం అని పిలిచే ప్రతి సమస్యను పరిష్కరించదు. మునుపటి ప్రయత్నాన్ని గుర్తుంచుకోవడం, అది ఎందుకు విఫలమైందో అర్థం చేసుకోవడం, కొత్త పరిస్థితికి నమ్మకంగా సర్దుబాటు కావడం వేర్వేరు సామర్థ్యాలు. నమ్మదగిన అంచనాలో ఏజెంట్లు లేదా అభ్యర్థనల సంఖ్య మాత్రమే కాక, పూర్తయిన పనులు, తిరిగి వచ్చిన లోపాలు, ఘర్షణలు, మానవ జోక్యాన్ని పరిశీలించాలి.
భద్రత వ్యవస్థ అంతటా మార్గం చేసుకుంటుంది; మాయమవదు
మోడల్ నిరాకరణలకంటే అప్లికేషన్ స్థాయి భద్రతా నియంత్రణలకు అల్మెయిడా మద్దతు ఇస్తారు; దాని పరిణామాలను swyx ప్రశ్నిస్తారు. ఇంటర్వ్యూ, 13:11 మరియు 1:42:29
ఇక్కడ నిజమైన రూపకల్పన సమస్య ఉంది: పర్యవేక్షణ లేకుండా నడిచే అప్లికేషన్, దాని ఆధారిత సేవ నిరాకరించడం, విఫలమవడం లేదా అనిశ్చిత సమాధానం ఇవ్వడాన్ని ఎదుర్కోవాలి. స్పందించడానికి స్పష్టమైన మార్గం అవసరం. అయితే, ప్రతి భద్రతా చర్య ఎక్కడ ఉండాలన్నది ఈ పరిశీలన తేల్చదు.
మోడల్ ఉద్దేశించిన చర్యను సరిగ్గా గుర్తించినా, అప్లికేషన్ ప్రాప్యత అనుమతులను అమలు చేయాలి. ఒక రికార్డును తొలగించాలన్న అభ్యర్థన పూర్తిగా అర్థమైనా దానికి అనుమతి ఉండకపోవచ్చు. సాంకేతికంగా చెల్లుబాటు అయ్యే అభ్యర్థన కూడా నిర్వాహకుడి విధానాన్ని ఉల్లంఘించవచ్చు. తగిన సందర్భ సమాచారం లేకుండా నిర్ణయ సేవ వాటికి బాధ్యతాయుతంగా సమాధానం చెప్పలేదు; చర్యపై నియంత్రణ అప్లికేషన్‌దే ఉండాలి.
సాఫ్ట్‌వేర్‌లో మరిన్ని నిర్ణయాలు ఉంచినప్పుడు అమలుకు ముందే హద్దులు నిర్దేశించడం మరింత ముఖ్యం. ఏ ఆధారం అవసరం, ఏ చర్యలను వెనక్కి తీసుకోవచ్చు, ఫలితాన్ని ఒక వ్యక్తి ఎలా ప్రశ్నించవచ్చు లేదా సరిదిద్దవచ్చు అనే విషయాలను బృందాలు నిర్ణయించాలి. మోడల్‌తో అసౌకర్యకరమైన పరస్పర చర్యను తొలగించడం వల్ల మొత్తం వ్యవస్థ సురక్షితమని నిరూపణ కాదు.
పెద్ద మార్పును ఏది నిరూపిస్తుంది
ఈ ప్రారంభం స్పష్టమైన ప్రయోగానికి వీలు కల్పిస్తుంది. గమనించగల ఫలితం ఉన్న ఒక పరిమిత ప్రక్రియను ఎంచుకోండి. తప్పులు, వాటిని సరిచేయడానికి ప్రజలు వెచ్చించే సమయంతో సహా, అది ప్రస్తుతం ఎలా పనిచేస్తుందో నమోదు చేయండి. చర్య తీసుకునే అధికారం ఇచ్చేముందు, ప్రతినిధి కేసులపై నిర్ణయ ఆధారిత రూపాన్ని పరీక్షించండి.
మానవ జోక్యం లేకుండా సరిగ్గా పూర్తయిన కేసుల వాటా, సమీక్షలో తప్పించుకున్న లోపాలు, ప్రజలకు బదిలీ అయిన పనిభారం, ప్రతి పూర్తయిన కేసుకు మొత్తం ఖర్చును కొలవండి. ఫలితాన్ని ఎందుకు అంగీకరించారో సమీక్షకుడు పరిశీలించగలిగేలా అసలు ఆధారాలను ఉంచండి. మోడల్, విధానం లేదా ఇన్‌పుట్ జనాభా మారినప్పుడు పోలికను మళ్లీ చేయండి.
ప్రక్రియలో కొంత భాగమే సిద్ధంగా ఉందని ఈ అంచనా చూపవచ్చు. అదీ ఉపయోగకరమైన ఫలితమే. సాధారణ వర్గీకరణను ఆటోమేట్ చేసి, సందిగ్ధ కేసులను అనుభవజ్ఞుడైన నిర్వాహకుడికి వదలడం, విస్తృత స్వయంప్రతిపత్తిని సమర్థించకపోయినా ప్రయోజనకరం కావచ్చు.
AI ఆర్థిక వ్యవస్థలోకి ఎలా వస్తుందనే విషయంపై Jev ప్రారంభం, అల్మెయిడా ఇంటర్వ్యూ ఒక ఆశయపూర్వక పరికల్పనను అందిస్తున్నాయి: పునరావృతమయ్యే, పరిమిత నిర్ణయాలు ప్రజలు ఇప్పటికే ఆధారపడే సాఫ్ట్‌వేర్‌ను మరింత సామర్థ్యవంతం చేయగలవు. తదుపరి ఆధారాలు కాలక్రమంలో ఈ పని చేసే వ్యవస్థల నుంచే రావాలి; లెక్కల్లో తప్పులు, మినహాయింపులూ ఉండాలి. ఆసక్తికరమైన మోడల్ నిర్మాణం పాఠకులు నిజంగా చూడగల మార్పుగా మారేది అప్పుడే.
