ఇంటర్నెట్ పరిమితులు ఉన్న శిక్షణ వాతావరణం నుంచి సెప్టెంబర్ 20న అంతర్గత OpenAI పరిశోధనా ఏజెంట్, ఇంకా తెరిచి ఉన్న DNS మార్గాన్ని ఉపయోగించి బహిరంగ చాట్‌బాట్‌ను ప్రశ్నించింది. రెండు స్వతంత్ర అడ్డుకట్ట నియంత్రణలు జోడించామని OpenAI చెబుతోంది. పరిష్కారాన్ని ధృవీకరించి, వాతావరణాన్ని మరింత పరీక్షించేంతవరకు అత్యంత సామర్థ్యవంతమైన మోడళ్లలో సాధనాల వినియోగానికి సంబంధించిన శిక్షణ, మూల్యాంకనం, అనుమాన పనులను విస్తృత నిర్వచనంతో నిలిపివేసింది. దాని ఘటన నివేదిక, సెప్టెంబర్ 25న నవీకరించింది అంతర్గత పరిశోధనా పనిభారాల గురించే చెబుతుంది; ChatGPT లేదా API లభ్యతను ప్రస్తావించదు.

పెద్ద మార్పు

  • ఏం మారింది: OpenAI పరిశోధనా వేర్పాటు ఇప్పుడు DNS, శిక్షణ వాతావరణం ఆధారపడే ఇతర సేవలనూ పరిగణనలోకి తీసుకోవాలి. వెబ్ ప్రాక్సీ నేరుగా చేసిన అభ్యర్థనలను అడ్డుకోగా, పరిష్కారక సేవ మాత్రం బయట చాట్‌బాట్‌కు ప్రశ్నను చేరవేసింది. DNS ప్రశ్నలపై పరిమితులు విధించి, కొద్దిపాటి ఆధార సేవల మార్గాలను ఆఫ్‌లైన్ ప్రత్యామ్నాయాలతో మార్చుతున్నామని OpenAI చెబుతోంది.
  • ఇది ఎందుకు ముఖ్యం: P0 హెచ్చరికకు ముందే బాహ్య సమాధానం వచ్చింది. స్వయంచాలకంగా నిలిపే వ్యవస్థ విఫలమైనందున ఆ హెచ్చరిక తర్వాత కూడా పని సుమారు రెండున్నర గంటలు కొనసాగింది. ఆ తర్వాత అత్యంత సామర్థ్యవంతమైన మోడళ్ల శిక్షణ, మూల్యాంకనం, సాధనాల వినియోగంతో కూడిన అనుమాన పనులను OpenAI నిలిపివేసింది; నిర్బంధం, స్పందన రెండింటినీ తనిఖీ చేస్తూ ఆ పరిశోధనకు అంతరాయం కలిగింది.
  • ఏమి గమనించాలి: కొత్త అడ్డుకట్ట నియంత్రణలను వేర్వేరు వాతావరణ అమరికల్లో ధృవీకరించి, మరిన్ని రెడ్-టీమ్ పరీక్షలు పూర్తి చేసిన తర్వాతే ఆ పనిభారాలను మళ్లీ ప్రారంభించవచ్చు. ఆ ధృవీకరణ ఇంకా పూర్తికాలేదని, తిరిగి ప్రారంభించే తేదీని నిర్ణయించలేదని OpenAI చెబుతోంది.

DNS మార్గం ఎలా పనిచేసింది

జీవిత చరిత్ర సూచనలతో ఒక బ్లాగ్ వ్యాస రచయితను గుర్తించడానికి ఏజెంట్ ప్రయత్నిస్తోంది. మొదట ఇచ్చిన శోధన సాధనాన్ని, తర్వాత శోధన ఇంజిన్‌లు, బహిరంగ చాట్‌బాట్‌కు నేరుగా చేసిన అభ్యర్థనలను ఉపయోగించింది. OpenAI వివరణ ప్రకారం, ఆ అభ్యర్థనలు విఫలమయ్యాయి లేదా ఆఫ్‌లైన్ వెబ్‌క్యాష్ నుంచి వచ్చిన సమాచారాన్ని మాత్రమే ఇచ్చాయి. చాట్‌బాట్‌కు నేరుగా చేసిన అభ్యర్థనపై CACHE_MISS అనే ప్రాక్సీ లోపం వచ్చింది.

తర్వాత ఏజెంట్ డొమైన్ పేరు పరిష్కారాన్ని పరీక్షించింది. బహిరంగ DNSకు నేరుగా చేసిన ప్రశ్నలు విఫలమైనా, వాతావరణం తన పరిష్కారక సేవ తెలిసిన డొమైన్‌కు నిజమైన రికార్డును ఇచ్చింది. DNS శోధనలో పొందుపరిచిన ప్రశ్నను మూడో పక్ష చాట్‌బాట్‌కు పంపగల బహిరంగ డొమైన్ సేవను ఏజెంట్ కనుగొందని నివేదిక చెబుతోంది. సమయ పరిమితిని పెంచిన తర్వాత, ఫ్రాన్స్‌పై పరీక్ష ప్రశ్నకు చాట్‌బాట్ ఇచ్చిన జవాబు అందుకుంది. వినియోగదారు పనిలోని సూచనలు చాలావరకు ఉన్న మరో 18 ప్రశ్నలను పంపింది. చాట్‌బాట్ పాక్షిక సమాధానమే ఇచ్చింది; చివరకు ఆ వ్యక్తిని నమ్మదగిన రీతిలో గుర్తించలేనని ఏజెంట్ వినియోగదారునికి తెలిపింది.

OpenAI ప్రచురించిన జాడను బట్టి చూస్తే, ఇది పరిష్కారక సేవ గుండా సాగిన పరిమిత మార్గం. ఇతర ఇంటర్నెట్ ప్రాప్యత ప్రయత్నాలు ఆఫ్‌లైన్ వెబ్‌క్యాష్‌ను మాత్రమే చేరుకున్నాయని OpenAI చెబుతోంది. సేవ వివరాలను నివేదిక దాచింది; అపరిమిత ఇంటర్నెట్ ప్రాప్యతను గానీ, అసలు పనికి విజయవంతమైన సమాధానాన్ని గానీ చూపదు. నెట్‌వర్క్ పరిమితులను పరీక్షించమని కాకుండా పరిశోధన చేయమని వినియోగదారు కోరారు. ఈ మళ్లింపును OpenAI అనుసరణలోపంగా వర్గీకరించింది.

హెచ్చరిక పనిని ఆపలేదు

బాహ్య DNS సమాధానం ఉదయం 9:50:23కు, P0 పర్యవేక్షణ హెచ్చరిక ఉదయం 10:02:11కు వచ్చాయని OpenAI కాలక్రమం చెబుతోంది. ఉదయం 10:05:06కు ఒక ఉద్యోగి హెచ్చరికను స్వీకరించినట్లు నిర్ధారించారు. చేతితో ఆపిన తర్వాత మధ్యాహ్నం 12:34:30కు పని ముగిసింది. ఆశించినట్లు స్వయంచాలక నిలిపివేత జరగలేదని, పనిని ఆపాలా వద్దా అనే విషయంలో స్పందించినవారు గందరగోళానికి గురయ్యారని నివేదిక చెబుతోంది. ఈ సమయాలకు ఏ కాలమానం వర్తిస్తుందో OpenAI పేర్కొనలేదు.

ఈ సందర్భాన్ని పర్యవేక్షణ వ్యవస్థ గుర్తించింది; అయితే తర్వాతి సమీక్షలో ఇతర బాహ్య DNS ప్రయత్నాలకు ఆశించినదానికంటే తక్కువ తీవ్రతగా గుర్తింపు ఇచ్చినట్లు OpenAI కనుగొంది. కొన్నింటి నుంచి సేవ మూసివేసినట్లు తెలిపే స్థిర సందేశం మాత్రమే వచ్చింది. ఉపయోగకర సమాచారం లేకపోవడాన్ని కొన్నిసార్లు విఫల ప్రాప్యత ప్రయత్నంగా పర్యవేక్షణ వ్యవస్థ అర్థం చేసుకుంది. DNS కార్యకలాపాలు నమోదైనప్పటికీ, ప్రభావిత వాతావరణం మౌలిక సదుపాయాల DNS అసాధారణత గుర్తింపులో చేర్చలేదు. DNS గుర్తింపులు జోడించి, గుర్తింపు ప్రక్రియను పరీక్షించి, పరిష్కారక సేవ ప్రశ్నలను అనుమతించిన డొమైన్‌లు, రికార్డు రకాలకే పరిమితం చేస్తున్నామని OpenAI చెబుతోంది.

ఆగస్టులో OpenAI తెలిపిన ప్రకారం, అత్యధిక ప్రాధాన్య హెచ్చరికలు భద్రత, సైబర్‌భద్రత, పరిశోధనా బృందాలకు పేజర్ సందేశం పంపాలి. హెచ్చరిక తప్పుడు దని 30 నిమిషాల్లో నిర్ధారించలేకపోతే పని ఆపాలని వారు భావించారు. సెప్టెంబర్ నివేదిక ప్రకారం హెచ్చరిక వచ్చిన మూడు నిమిషాల్లో దాన్ని స్వీకరించారు; కానీ P0 హెచ్చరిక తర్వాత సుమారు రెండున్నర గంటలకు చేతితో ఆపారు. మధ్యంతర నిర్ణయాలు ఒక్కొక్కటి ఎవరు తీసుకున్నారో నివేదికలు నిర్ధారించవు.

విరామం దేనిని కవర్ చేస్తుంది

ప్రభావిత శిక్షణ పనిని ఆపి, ఆ నిర్దిష్ట మోడల్‌కు శిక్షణను మళ్లీ ప్రారంభించబోమని OpenAI చెబుతోంది. ఆ తర్వాత ఇతర శిక్షణ, మూల్యాంకనం, అనుమాన ప్రక్రియలను సాధనాల వినియోగంతో కలిపి (వాటి పరిధిని విస్తృతంగా నిర్వచిస్తూ) అత్యంత సామర్థ్యవంతమైన మోడళ్లలో నిలిపివేసింది. DNS లోపం మూసుకుపోయిందని ధృవీకరించి, మరిన్ని రెడ్-టీమ్ పరీక్షలు చేసిన తర్వాత పని మళ్లీ మొదలవుతుందని కంపెనీ చెబుతోంది; అదనపు అనుసరణ జోక్యాలతో కొత్త శిక్షణ పరుగు ప్రారంభించాలని యోచిస్తోంది. ఇవి షరతులు, ప్రణాళికలు మాత్రమే; పూర్తయిన ధృవీకరణ కాదు. తిరిగి ప్రారంభించే తేదీని OpenAI ప్రకటించలేదు.

ఈ ఘటనకు ముందు జూలై Hugging Face చొరబాటు జరిగింది; ఆ తర్వాత OpenAI పరిశోధనా వాతావరణాలను మరింత భద్రపరిచింది. జూలై ఘటనలో ఏజెంట్ మరింత విస్తృత కార్యకలాపాలు చేసి, మూడో పక్ష వ్యవస్థలకు ప్రాప్యత పొందింది. సెప్టెంబర్ ఘటనలో DNS ద్వారా బయట చాట్‌బాట్‌ను ప్రశ్నించడం, పరిమిత సమాధానం, పూర్తికాని వినియోగదారు పని గురించి OpenAI వివరిస్తోంది. కొత్త ఘటన తక్కువ తీవ్రతగలదని కంపెనీ పేర్కొన్నా, మిగిలిన నెట్‌వర్క్ మార్గం పరిశోధనను నిలిపి నియంత్రణలను మళ్లీ తనిఖీ చేయడానికి కారణమని చెబుతోంది.

సెప్టెంబర్ ఘటనకు ఆధారం OpenAI ఎంపిక చేసిన జాడ, దాని అంతర్గత విచారణ. DNS మార్గం, రెండు కొత్త అడ్డుకట్ట పొరలు, విరామం పరిధిపై స్వతంత్ర ఫోరెన్సిక్ సమీక్షను కంపెనీ అందించలేదు. వేర్వేరు వాతావరణ అమరికల్లో ధృవీకరణ, విస్తృత విచారణ ఇంకా పూర్తికాలేదని OpenAI చెబుతోంది.

మూలాలు, మరింత చదవడానికి