AI ప్రమాదాలను అంచనా వేయడానికి లాభాపేక్షలేని సంస్థ METR కు చెందిన ఆరుగురు ఉద్యోగులకు తన అంతర్గత వ్యవస్థల ప్రాప్యత ఇవ్వడం ప్రారంభించినట్లు Anthropic తెలిపింది. బహిరంగ మోడల్ విడుదల లేదా ప్రమాద నివేదిక కంటే కంపెనీ పనిని మరింత దగ్గరగా పరిశీలించే అవకాశం ఈ చిన్న బాహ్య బృందానికి లభిస్తుంది. అయినా బృందానికి ఏ సమాచారం అందాలో Anthropic నిర్ణయిస్తుంది; METR ప్రచురించే విశ్లేషణ నుంచి నిర్దిష్ట విషయాలను తొలగించాలని కోరవచ్చు.

Anthropic అక్టోబర్ 15న ఈ సహకారాన్ని ప్రకటించి, అక్టోబర్ 16న తన ప్రకటనను నవీకరించి ప్రస్తుత ప్రచురణ నిబంధనలను స్పష్టం చేసింది. ఈ ప్రకటన ప్రాప్యత ఏర్పాటును వివరిస్తుంది; Anthropic ప్రమాదాలపై METR పూర్తి చేసిన అంచనాను కాదు. METR ఏమి పరిశీలించగలదో, తుది నివేదిక పరిమితులను ఎంతవరకు వివరించగలదో అన్నదానిపై పాఠకులకు దీని విలువ ఆధారపడి ఉంటుంది.

పెద్ద మార్పు

  • ఏం మారింది: ఆరుగురు METR ఉద్యోగులకు కంపెనీ హార్డ్‌వేర్, కార్యాలయ స్థలం, తన ప్రమాద అంచనా బృందాలకు సుమారుగా సమానమైన అంతర్గత సాధనాల ప్రాప్యత ఉన్నట్లు Anthropic తెలిపింది. Anthropic ప్రమాద స్థాయులు, ఘటనలు లేదా విధానాలపై METR విశ్లేషణలను ప్రచురిస్తుందని భావిస్తున్నారు.
  • ఇది ఎందుకు ముఖ్యం: ప్రజలకు కనిపించని అంతర్గత ఆధారాలను బాహ్య మూల్యాంకన సంస్థ పరిశీలించగల అవకాశం ఉంది. METR తుది నివేదిక ప్రాప్యత, సమాచారం తొలగింపులపై ముఖ్యమైన పరిమితులనూ వివరించవచ్చు; దాంతో పాఠకులు నిర్ధారణలను తూకం వేయగలరు.
  • గమనించాల్సినవి: METR ప్రచురణను వీటో చేయలేనని Anthropic చెబుతోంది. అయితే ముందుగా నిర్ణయించిన వర్గాల ప్రకారం సమాచారం తొలగించాలని కోరవచ్చు; ఆ వర్గాల్లో ఏది చేరుతుందో తుది నిర్ణయమూ తనదే. ఈ అంతర్గత బృందం ఏర్పాటు ద్వారా వచ్చిన అంచనా ఫలితమేదీ ప్రకటనతో నిర్ధారణ కాలేదు.

ఆరుగురు మూల్యాంకనకర్తలు దేనిని చూడగలరు

ఆరుగురు METR ఉద్యోగులకు కంపెనీ హార్డ్‌వేర్, కార్యాలయ స్థలం, తన ప్రమాద అంచనా బృందాలతో ‘సుమారుగా సమానమైన’ అంతర్గత సాధనాలు, వ్యవస్థల ప్రాప్యత ఇచ్చినట్లు Anthropic తెలిపింది. AI లక్ష్యాల అనుసరణకు సంబంధించిన ప్రమాదంపై పనిచేసే సహోద్యోగితో పంచుకున్నట్లే, సంబంధిత సమాచారాన్ని వారితో పంచుకోవాలని సిబ్బందిని ప్రోత్సహిస్తోంది. కస్టమర్ డేటా, న్యాయవాది–క్లయింట్ గోప్యతా ప్రత్యేక హక్కు కింద రక్షిత సమాచారం, మోడల్ నిర్మాణాలను మినహాయించిన వర్గాల ఉదాహరణలుగా కంపెనీ పేర్కొంది. నిర్మాణ సమాచారం అత్యంత సంబంధితమైనప్పుడు, స్పష్టమైన అంతర్గత అనుమతులతో కొన్నిసార్లు పంచుకోవచ్చని తెలిపింది.

ఇది ప్రాప్యతపై విస్తృత వివరణే అయినా, బృందం వాస్తవంగా ఉపయోగించిన ప్రతి డేటాసెట్, వ్యవస్థ లేదా ఇంటర్వ్యూ జాబితా కాదు. బృందం చట్టబద్ధంగా అమలు చేయగల ఒప్పందాల కింద పనిచేస్తుందని, ఇతర Anthropic ప్రాజెక్టులపై పనిచేసే పరిశోధకులు సహా మిగతా METR ఉద్యోగులను ఈ పని నుంచి వేరుగా ఉంచినట్లు Anthropic ప్రకటన చెబుతోంది. BIG CHANGE బహిరంగ ప్రకటనలను పరిశీలించింది; ఒప్పందాన్ని లేదా అంతర్గత వ్యవస్థలను మేము పరిశీలించలేదు.

METR రూపొందించిన నియంత్రణ కోల్పోయే ప్రమాదాల అంచనా కోసం అక్టోబర్ 14 నాటి ప్రతిపాదన అత్యాధునిక AI డెవలపర్ల నుంచి కోరుకునే ఆధారాల రకాన్ని వివరిస్తుంది. ఇది మూడు ప్రశ్నలను గుర్తిస్తుంది: అంతర్గత AI ఏజెంట్లు తీవ్ర హాని కలిగించే చర్యలు చేపట్టవచ్చా, పర్యవేక్షణ వాటిని గుర్తించి ఆపగలదా, రక్షణ చర్యలు అందుకోలేనంత వేగంగా AI ఆధారిత పరిశోధన సామర్థ్యాలను పెంచగలదా. వీటి కోసం మోడల్ చెక్‌పాయింట్లు, అంతర్గత సంభాషణ రికార్డులు, పర్యవేక్షణ వ్యవస్థలు, పరిశోధన పురోగతి కొలతలపై సంభావ్య ప్రాప్యతను METR వివరిస్తుంది. ఈ పత్రం వివిధ డెవలపర్ల కోసం చేసిన ప్రతిపాదన; ఈ సహకారంలో Anthropic అందించిన వాటి జాబితా కాదు.

ప్రచురణ హక్కులు, వాటి పరిమితులు

Anthropic వీటో లేకుండానే ప్రమాద స్థాయులు, ఘటనలు లేదా కంపెనీ విధానాలపై METR విశ్లేషణ ప్రచురించవచ్చని Anthropic తెలిపింది. ముందుగా నిర్వచించిన వర్గాల్లోని సమాచారాన్ని తొలగించాలని కంపెనీ కోరవచ్చు. సమాచారం ఆ వర్గాల్లోకి వస్తుందా అన్నది తుదకు Anthropic నిర్ణయిస్తుందని అక్టోబర్ 16 వివరణ జోడించింది. తనకు అందిన ప్రాప్యత, సమాచారంపై నిర్దిష్ట ప్రకటనలు చేసే హక్కును METR ఉంచుకుంటుంది. కాబట్టి ఫలితాలను ప్రచురించే హక్కుతోపాటే, సున్నితమైన వివరాలపై కంపెనీ నియంత్రణ కూడా ఉంటుంది.

METR రూపొందించిన AI కంపెనీలతో పనిచేసే విధానం ప్రకారం నివేదికలు పని పరిధి, వ్యవధి, నిర్ధారణలపై ప్రభావం చూపే ప్రాప్యత పరిమితులు, ముఖ్యమైన సమాచారం తొలగింపులు, ఫలితాన్ని ప్రభావితం చేసే ఒత్తిళ్లను వెల్లడించాలి. తన నిర్ధారణలకు ముఖ్యమైన సమాచారాన్ని కంపెనీ తొలగించినప్పుడు, తొలగింపుల సారాంశం రూపొందించాలనేది తమ లక్ష్యమని METR తెలిపింది. ఇవి METR ప్రకటించిన పద్ధతులు, లక్ష్యాలు; కొత్తగా అంతర్గతంగా పనిచేస్తున్న ఈ బృందం నివేదికలో అవి ఎలా అమలవుతాయో ప్రజలు ఇంకా పరిశీలించలేరు.

స్వచ్ఛంద అంచనాలు కంపెనీలు ప్రాప్యత ఇవ్వడం, ప్రచురణకు అనుమతించడంపై ఆధారపడతాయని METR కూడా అంగీకరిస్తుంది. ప్రజలకు అందే ఆధారాలపై ప్రభావం చూపేలా కంపెనీలు ప్రాప్యత నిరాకరించవచ్చు లేదా సమాచారాన్ని తొలగించవచ్చని తెలిపింది. అక్టోబర్ 14 ప్రతిపాదన ప్రకారం ఈ ప్రక్రియ సాంకేతిక నియంత్రణ-నష్టం ప్రశ్నలపై దృష్టిపెడుతుంది; భద్రతా వ్యవస్థలు, సంస్థాగత పాలన లేదా నిబంధనల పాటింపుపై ఆడిట్ కాదు. అభివృద్ధి సురక్షితమని నమ్మకంగా హామీ ఇవ్వగల స్థాయికి సంబంధిత శాస్త్రం ఇంకా రాలేదని METR చెబుతోంది.

ఇతర మూల్యాంకన సంస్థల కోసం Anthropic మూడు స్థాయుల విధానాన్ని వివరిస్తుంది. METR ఏర్పాటు మూడో స్థాయిలో ఉంది; దీనిలో ఉద్యోగులతో పోల్చదగిన ప్రాప్యత, ప్రచురణ హక్కులు ఉంటాయి. ముందు స్థాయుల్లో పరిశోధన పరిధి తక్కువగా లేదా ప్రచురణ హక్కులు మరింత పరిమితంగా ఉంటాయి. ఈ స్థాయుల వివరణలు Anthropic ప్రణాళికలు, ప్రస్తుత సహకార నిబంధనలు మాత్రమే; ప్రతి భాగస్వామికి METR తరహా ప్రాప్యత ఉందని చూపే ఆధారాలు కావు.

ఈ ఏర్పాటుకు ప్రజల ముందు పరీక్ష METR నివేదికలే: ఏ ప్రమాద ప్రశ్నలను పరిశీలించింది, ఏ అంతర్గత ఆధారాలను చూడగలిగింది, ఏ పరిమితులు లేదా తొలగింపులను వివరించగలదు. ప్రస్తుత ప్రకటనలు Anthropic ప్రకటించిన నిబంధనలను, METR ప్రచురించిన విధానాన్ని మాత్రమే నిర్ధారిస్తాయి. Anthropic సురక్షితత లేదా ఈ అంతర్గత మూల్యాంకనం ప్రభావంపై ఫలితాన్ని అవి నిర్ధారించవు.

మూలాలు, మరింత చదవడానికి