AI அபாயங்களை மதிப்பிட, இலாப நோக்கற்ற அமைப்பான METR நிறுவனத்தின் ஆறு ஊழியர்களுக்குத் தனது உள் அமைப்புகளுக்கான அணுகலை வழங்கத் தொடங்கியுள்ளதாக Anthropic கூறுகிறது. பொதுவில் வெளியிடப்படும் மாதிரி அல்லது அபாய அறிக்கையைவிட நிறுவனத்தின் பணியைச் சிறிய வெளிக் குழு நெருக்கமாகப் பார்ப்பதற்கு இந்த ஏற்பாடு வழிவகுக்கிறது. குழுவுக்கு எந்தத் தகவல் கிடைக்கும் என்பதை Anthropic தொடர்ந்து கட்டுப்படுத்துகிறது; METR வெளியிடும் பகுப்பாய்விலிருந்து குறிப்பிட்ட விவரங்களை நீக்கவும் கோரலாம்.

Anthropic அக்டோபர் 15 அன்று இந்த ஒத்துழைப்பை அறிவித்து, அக்டோபர் 16 அன்று தனது அறிக்கையைப் புதுப்பித்தது; தற்போதைய வெளியீட்டு விதிகளைத் தெளிவுபடுத்துவதற்காக இந்த மாற்றம் செய்யப்பட்டது. அறிவிப்பு அணுகல் ஏற்பாட்டை விவரிக்கிறது; Anthropic அபாயங்கள் குறித்த METR-இன் முடிக்கப்பட்ட மதிப்பீட்டை அல்ல. METR எதை ஆய்வு செய்ய முடியும், இறுதி அறிக்கை வரம்புகளை எவ்வாறு விளக்க முடியும் என்பதையே வாசகர்களுக்கான அதன் மதிப்பு சார்ந்திருக்கும்.

பெரிய மாற்றம்

  • என்ன மாறியது: ஆறு METR ஊழியர்களுக்கு நிறுவன வன்பொருள், அலுவலக இடம், தனது சொந்த அபாய மதிப்பீட்டுக் குழுக்களுடன் தோராயமாக ஒப்பிடத்தக்க உள் கருவி அணுகல் வழங்கப்பட்டுள்ளதாக Anthropic கூறுகிறது. Anthropic நிறுவனத்தின் அபாய நிலைகள், சம்பவங்கள் அல்லது நடைமுறைகள் பற்றிய பகுப்பாய்வுகளை METR வெளியிடும் என எதிர்பார்க்கப்படுகிறது.
  • இது ஏன் முக்கியம்: பொதுமக்கள் பார்க்க முடியாத உள் ஆதாரங்களை வெளி மதிப்பீட்டு அமைப்பால் ஆய்வு செய்ய இயலக்கூடும். அணுகல் மற்றும் தகவல் நீக்கங்களில் உள்ள முக்கிய வரம்புகளையும் METR-இன் இறுதி விளக்கம் விவரிக்கலாம்; இதனால் வாசகர்கள் முடிவுகளை எடைபோட முடியும்.
  • கவனிக்க வேண்டியவை: METR வெளியிடுவதைத் தடுக்கத் தனக்கு மறுப்புரிமை இல்லை என்று Anthropic கூறுகிறது. ஆனால் முன்கூட்டியே வகுத்த பிரிவுகளின் அடிப்படையில் தகவல் நீக்கங்களைக் கோரலாம்; அவற்றில் எது அடங்கும் என்பதையும் இறுதியில் அதுவே தீர்மானிக்கிறது. இந்த உள் குழு ஏற்பாட்டின் மதிப்பீட்டு முடிவு எதையும் அறிவிப்பு நிறுவவில்லை.

ஆறு மதிப்பீட்டாளர்கள் எவற்றை அணுக முடியும்

ஆறு METR ஊழியர்களை இணைத்து, நிறுவன வன்பொருள், அலுவலக இடம், தனது அபாய மதிப்பீட்டுக் குழுக்களுக்கு ‘தோராயமாக நிகரான’ உள் கருவிகள் மற்றும் அமைப்புகளுக்கான அணுகலை வழங்கியுள்ளதாக Anthropic கூறுகிறது. AI இலக்கு ஒத்திசைவு அபாயத்தில் பணியாற்றும் சக ஊழியரிடம் பகிர்வதுபோல் தொடர்புடைய தகவல்களை அவர்களிடம் பகிருமாறு ஊழியர்களை ஊக்குவிக்கிறது. வாடிக்கையாளர் தரவு, வழக்கறிஞர்–வாடிக்கையாளர் ரகசியத் தொடர்புக்கான சட்டச் சிறப்புரிமையால் பாதுகாக்கப்படும் தகவல், மாதிரிக் கட்டமைப்புகள் ஆகியவற்றை விலக்கப்பட்ட பிரிவுகளுக்கான எடுத்துக்காட்டுகளாக நிறுவனம் குறிப்பிடுகிறது. மிகவும் தொடர்புடையதாக இருந்தால், தெளிவான உள் ஒப்புதல்களுடன் கட்டமைப்புத் தகவலைச் சில சமயங்களில் பகிரலாம் என்றும் கூறுகிறது.

இது அணுகலைப் பற்றிய விரிவான விளக்கம்; ஆனால் குழு உண்மையில் பயன்படுத்திய ஒவ்வொரு தரவுத்தொகுப்பு, அமைப்பு அல்லது நேர்காணலின் பட்டியல் அல்ல. சட்டப்படி அமல்படுத்தக்கூடிய ஒப்பந்தங்களின் கீழ் குழு இயங்குவதாகவும், பிற Anthropic திட்டங்களில் உள்ள ஆராய்ச்சியாளர்கள் உட்பட மற்ற METR ஊழியர்கள் இந்தப் பணியிலிருந்து தனியாக வைக்கப்பட்டுள்ளதாகவும் Anthropic அறிக்கை கூறுகிறது. BIG CHANGE பொதுவான அறிக்கைகளைப் பரிசீலித்துள்ளது; ஒப்பந்தத்தையோ உள் அமைப்புகளையோ நாங்கள் ஆய்வு செய்யவில்லை.

METR-இன் கட்டுப்பாட்டை இழக்கும் அபாய மதிப்பீடுகளுக்கான அக்டோபர் 14 முன்மொழிவு முன்னணி AI உருவாக்குநர்களிடம் எந்த வகையான ஆதாரங்களைப் பெற விரும்புகிறது என்பதை விளக்குகிறது. அதில் மூன்று கேள்விகள் உள்ளன: உள் AI முகவர்கள் கடுமையான தீங்கு விளைவிக்கும் செயல்களைச் செய்யக்கூடுமா, கண்காணிப்பு அவற்றைக் கண்டறிந்து நிறுத்துமா, பாதுகாப்பு நடவடிக்கைகள் ஈடுகொடுக்க முடியாத வேகத்தில் AI சார்ந்த ஆராய்ச்சி திறன்களை உயர்த்தக்கூடுமா என்பவை. இதற்காக மாதிரி செக்பாயிண்ட்கள், உள் உரையாடல் பதிவுகள், கண்காணிப்பு அமைப்புகள், ஆராய்ச்சி முன்னேற்ற அளவீடுகள் ஆகியவற்றுக்கான சாத்தியமான அணுகலை METR விவரிக்கிறது. இது பல உருவாக்குநர்களுக்கான முன்மொழிவு; இந்த ஒத்துழைப்பில் Anthropic வழங்கியவற்றின் விவரப்பட்டியல் அல்ல.

வெளியீட்டு உரிமைகளும் அவற்றின் வரம்புகளும்

Anthropic மறுப்புரிமை செலுத்தாமல், அபாய நிலைகள், சம்பவங்கள் அல்லது நிறுவன நடைமுறைகள் பற்றிய பகுப்பாய்வை METR வெளியிடலாம் என்று Anthropic கூறுகிறது. முன்வரையறுக்கப்பட்ட பிரிவுகளில் உள்ள தகவலை நீக்க நிறுவனம் கோரலாம். தகவல் அந்தப் பிரிவுகளில் அடங்குமா என்பதை Anthropic இறுதியில் தீர்மானிக்கும் என்றும், பெற்ற அணுகல் மற்றும் தகவல் பற்றி சில குறிப்பிட்ட கருத்துகளைத் தெரிவிக்கும் உரிமையை METR வைத்திருக்கிறது என்றும் அக்டோபர் 16 விளக்கம் சேர்க்கிறது. எனவே முடிவுகளை வெளியிடும் உரிமையும் நுணுக்கமான விவரங்கள் மீதான நிறுவனக் கட்டுப்பாடும் ஒரே நேரத்தில் உள்ளன.

METR-இன் AI நிறுவனங்களுடன் பணியாற்றும் கொள்கையின்படி பணியின் வரம்பும் கால அளவும், முடிவுகளைப் பாதிக்கும் அணுகல் வரம்புகள், முக்கிய தகவல் நீக்கங்கள், விளைவை வடிவமைக்கக்கூடிய அழுத்தங்கள் ஆகியவற்றை அறிக்கைகள் வெளிப்படுத்த வேண்டும். முடிவுகளுக்கு முக்கியமான தகவலை நிறுவனம் அகற்றும்போது, நீக்கங்களின் சுருக்கத்தை உருவாக்குவதை நோக்கமாகக் கொண்டுள்ளதாக METR கூறுகிறது. இவை METR அறிவித்த நடைமுறைகளும் நோக்கங்களும்; புதிதாக உள்நிலையில் பணிபுரியும் இந்தக் குழுவின் அறிக்கையில் அவை எப்படிச் செயல்படும் என்பதைப் பொதுமக்கள் இன்னும் சரிபார்க்க முடியாது.

தன்னார்வ மதிப்பீடுகள் நிறுவனங்கள் அணுகல் வழங்குவதையும் வெளியீட்டை அனுமதிப்பதையும் சார்ந்திருப்பதையும் METR ஒப்புக்கொள்கிறது. பொதுமக்களுக்குக் கிடைக்கும் ஆதாரங்களைப் பாதிக்கும் வகையில் நிறுவனங்கள் அணுகலை மறுக்கலாம் அல்லது தகவலை நீக்கலாம் என்று அது கூறுகிறது. அக்டோபர் 14 முன்மொழிவின்படி, இந்தப் பணி தொழில்நுட்ப ரீதியான கட்டுப்பாடு இழப்புக் கேள்விகளில் கவனம் செலுத்தும்; பாதுகாப்பு, நிறுவன நிர்வாகம் அல்லது விதிமுறை இணக்கத்திற்கான தணிக்கையாக அமையாது. வளர்ச்சி பாதுகாப்பானது என நம்பிக்கையுடன் உறுதியளிக்க அடிப்படை அறிவியல் இன்னும் போதாது என்று METR கூறுகிறது.

மற்ற மதிப்பீட்டாளர்களுக்காக Anthropic மூன்று நிலை அணுகுமுறையை விவரிக்கிறது. METR ஏற்பாடு மூன்றாம் நிலை; ஊழியர்களைப் போன்ற அணுகலும் வெளியீட்டு உரிமைகளும் அதில் உள்ளன. முந்தைய நிலைகள் குறுகிய ஆய்வுகளையோ இன்னும் வரையறுக்கப்பட்ட வெளியீட்டு உரிமைகளையோ வழங்குகின்றன. இந்த நிலை விளக்கங்கள் Anthropic திட்டங்களும் தற்போதைய ஒத்துழைப்பு விதிகளும் மட்டுமே; ஒவ்வொரு கூட்டாளருக்கும் METR அளவிலான அணுகல் இருக்கிறது என்பதற்கான ஆதாரம் அல்ல.

இந்த ஏற்பாட்டின் பொதுச் சோதனையாக அமையப்போவது METR அறிக்கைகள்தான்: எந்த அபாயக் கேள்விகளை ஆய்வு செய்தது, எந்த உள் ஆதாரங்களைப் பார்க்க முடிந்தது, எந்த வரம்புகள் அல்லது நீக்கங்களை விவரிக்க முடிகிறது என்பவை. தற்போதைய அறிக்கைகள் Anthropic அறிவித்த விதிகளையும் METR வெளியிட்ட அணுகுமுறையையும் நிறுவுகின்றன. Anthropic பாதுகாப்பானதா அல்லது உள்நிலையில் நடக்கும் மதிப்பீடு பயனுள்ளதா என்ற முடிவை அவை நிறுவவில்லை.

ஆதாரங்களும் மேலதிக வாசிப்பும்