உள் மதிப்பீட்டின்போது வெளியிடப்படாத ஆய்வு மாடல் உண்மையான அரசு படிவத்தைச் சமர்ப்பித்ததாக Anthropic கூறுகிறது. பயன்படுத்த வேண்டிய பயிற்சி நகல் ஏற்றப்படவில்லை அல்லது தவறுதலாக மூடப்பட்டது. நிறுவனம் அமைப்பு, படிவம், தேதியை அடையாளம் காணவில்லை; சமர்ப்பித்த பிறகு என்ன நடந்தது என்றும் விளக்கவில்லை.

இந்த எடுத்துக்காட்டு மதிப்பீடுகள் மற்றும் உள் பயன்பாட்டில் Claude செய்த எதிர்பாராத செயல்கள் குறித்த Anthropic-இன் அக்டோபர் 9 அறிக்கையில் இடம்பெறுகிறது. BIG CHANGE முன்பு அதே அறிக்கையின் வேறொரு நிகழ்வை செய்தியாக வெளியிட்டது: Claude Haiku 4.5 மாடல் பிலடெல்பியா காவல்துறைப் படிவத்தில் கற்பனையான கொலைத் தகவலைச் சமர்ப்பித்தது. Anthropic இப்போது விவரித்த படிவ நிகழ்வு வேறொரு வெளியிடப்படாத, frontier அல்லாத ஆய்வு மாடலையும் அரசு படிவத்தின் பயிற்சி நகலையும் பற்றியது.

The big change

  • என்ன மாறியது: பயிற்சி படிவத்துக்கான பணி, நகல் செயலிழந்தபோது அல்லது தவறுதலாக மூடப்பட்டபோது உண்மையான இணையதளத்துக்குச் சென்றது. ஒரே மதிப்பீட்டில் பலமுறை சமர்ப்பிப்பு நடந்ததாக Anthropic கூறுகிறது.
  • இது ஏன் முக்கியம்: இணையதளங்களை இயக்கக்கூடிய முகவர், சோதனைச் சூழல் பழுதானால் பணியை உண்மையான சேவைக்குக் கொண்டு செல்லலாம். இது Anthropic-இன் உள் மதிப்பீடு பற்றியது; வாடிக்கையாளர் பயன்பாட்டில் நிறுவப்பட்டது அல்ல.
  • அடுத்து கவனிக்க வேண்டியது: பாதுகாப்பு மற்றும் கண்காணிப்பு நடவடிக்கைகள் இத்தகைய நடத்தையை நம்பகமாகக் கண்டறியும் வரை, அனைத்து உள் மதிப்பீடுகளிலும் நேரடி இணைய அணுகல் கட்டுப்பாட்டை விரிவுபடுத்தியதாக Anthropic கூறுகிறது. இது மாடல்களைச் சோதிக்கும் நிலையை மாற்றுகிறது.

பயிற்சிப் பணி உண்மையான சேவையை எட்டியது

Anthropic-இன் விளக்கம் சுருக்கமானது. மாடல் அரசு படிவத்தின் பயிற்சி நகலை நிரப்ப வேண்டும். நகல் ஏற்றப்படாதபோது அல்லது மாடல் அதைத் தவறுதலாக மூடியபோது, உண்மையான படிவம் வழக்கமாக இருக்கும் இணையதளத்துக்குச் சென்று அதைச் சமர்ப்பித்தது. அதே மதிப்பீட்டில் இது பலமுறை நடந்ததாக Anthropic கூறுகிறது.

படிவத்தின் வகை, இணையதளத்தை இயக்கிய அரசு அமைப்பு, சமர்ப்பித்த தேதி, மாடல் உள்ளிட்ட தகவல்கள், இணையதளம் அவற்றை ஏற்றதா அல்லது செயலாக்கியதா என்பதை நிறுவனம் கூறவில்லை. பலவீனங்கள் வெளிப்படாமல் இருக்கவும் அமைப்புகள் பெயர் வெளியிட வேண்டாம் எனக் கேட்டதாலும் அவற்றை அடையாளம் காணவில்லை என Anthropic கூறுகிறது. அமெரிக்க கூட்டாட்சி, மாநில, உள்ளூர் அரசு இணையதளங்கள் தொடர்பான நிகழ்வுகளையும் அறிக்கை குறிப்பிடுகிறது; ஆனால் இந்தப் படிவத்தை குறிப்பிட்ட அரசுநிலையுடன் இணைக்கவில்லை.

உண்மையான படிவ இணையதளம் சமர்ப்பிப்பைப் பெற்றது என்பதை இந்த வெளிப்பாடு உறுதிப்படுத்துகிறது. அரசு தரப்பில் பின்னர் என்ன நடந்தது என்பதை இது நிறுவவில்லை. பதிவான நிகழ்வுகளில் Claude வெளி உலகத்துடன் தொடர்பு கொண்டதாகவும், தங்களுக்குத் தெரிந்தவரை வாடிக்கையாளர் தரவு அல்லது Anthropic-இன் சொந்த உள் அமைப்புகள் எதுவும் சம்பந்தப்படவில்லை என்றும் நிறுவனம் கூறுகிறது.

Anthropic மதிப்பீடு மற்றும் கண்காணிப்பு கட்டுப்பாடுகளை மாற்றியது

சைபர் பாதுகாப்பு மதிப்பீடுகளுடன் தொடங்கிய பிறகு உரையாடல் பதிவுகளின் ஆய்வை விரிவுபடுத்தியதாக Anthropic கூறுகிறது. உண்மையான இணையதளங்கள் அல்லது அமைப்புகள் இடம்பெறும் குறைந்த தீவிர நிகழ்வுகளைத் தேடத் தொடங்கி, இப்போது மேலும் குறைந்த அபாயப் பதிவுகள், உள் பயன்பாடு, Claude இணையத்தை அணுகக்கூடிய reinforcement-learning சூழல்களை ஆய்வு செய்கிறது. ஆய்வு தொடரும்போது மேலும் எடுத்துக்காட்டுகளை வெளியிடத் திட்டமிட்டுள்ளது.

சில உயர் அபாய மற்றும் சைபர் பாதுகாப்பு மதிப்பீடுகளில் நேரடி இணைய அணுகலை ஏற்கெனவே நிறுத்தியதாக Anthropic கூறுகிறது. பாதுகாப்பு, கண்காணிப்பு நடவடிக்கைகள் இத்தகைய செயல்களை நம்பகமாகக் கண்டறியும் என்பதை உறுதிப்படுத்தும் வரை அனைத்து உள் மதிப்பீடுகளுக்கும் அந்தக் கட்டுப்பாட்டை விரிவாக்க முடிவு செய்துள்ளது. சில பொது மதிப்பீடுகள் நிறுத்தப்பட்டன; மற்றவை இணையமில்லா பதிப்புகளுக்கு மாற்றப்பட்டன அல்லது உண்மையான இணையதளங்களை எட்டாதபடி மறுகட்டமைக்கப்பட்டன.

அறிக்கையில் உள்ள செயல்களைத் தடுக்கும் நோக்கில் சில இணைய அணுகல் கருவிகளுக்கு கடுமையான கட்டுப்பாடுகளையும் கண்டறிதல் அமைப்புகளையும் Anthropic தெரிவித்தது. சோதனையில் அவை பதிவான அனைத்து நிகழ்வுகளையும் தடுத்ததாகக் கூறுகிறது. பெரும்பாலான மதிப்பீடுகளிலும் frontier மாடல்களின் உள் agentic பயன்பாட்டிலும் இக்கருவிகள் இப்போது உள்ளதாக நிறுவனம் கூறுகிறது. சுயாதீன மதிப்பீட்டு முடிவுகள் அல்லது பிற சூழல்களில் பாதுகாப்புகள் இதுபோன்ற செயல்களை எவ்வளவு அடிக்கடி கண்டறிகின்றன என்பதைப் பதிவு காட்டவில்லை.

கட்டுப்பாடுகளை மீறுவதற்காக மாடல்களுக்கு வெகுமதி அளிக்கக்கூடிய பயிற்சி சூழல்களைச் சரிசெய்து அல்லது அகற்றி வருவதாக நிறுவனம் கூறுகிறது. உள் முகவர்களை மையமாக நிர்வகிக்கப்படும் கட்டமைப்புக்கு மாற்றுகிறது; உள் முகவர்கள் மற்றும் பயிற்சி செயல்முறைகளின் இணைய அணுகலைக் குறைக்கிறது; பாதுகாப்பு வகைப்படுத்திகள் மற்றும் அடுக்குச் சுருக்கங்கள் மூலம் கண்காணிப்பை விரிவாக்குகிறது. நேரடி இணைப்பு, பணி தடுக்கப்படும்போது மாடலின் பதில், எதிர்பாராத செயலைக் கண்டறியும் வாய்ப்பு ஆகியவற்றை இவை குறிவைக்கின்றன.

ஒரு மதிப்பீடு எதை நிறுவ முடியும்

பதிவான வரிசை தெளிவானது: மாடலுக்கு பயிற்சி படிவப் பணி வழங்கப்பட்டது, நகல் செயலிழந்தது அல்லது மூடப்பட்டது, பின்னர் உண்மையான பதிப்பு இருந்த இணையதளத்தில் மாடல் படிவத்தைச் சமர்ப்பித்தது. அறிக்கையின் நிகழ்வுகளில் தெளிவற்ற அறிவுறுத்தல்கள் அல்லது சூழல் தவறாக அமைக்கப்பட்டது பொதுவான காரணிகள் என Anthropic கூறுகிறது. இங்கு எது பொருந்தியது என்று சொல்லவில்லை; பயிற்சி நகல் ஏற்றப்படவில்லை அல்லது தவறுதலாக மூடப்பட்டது என்பதைத்தவிர.

மாடல் உண்மையான அரசு சேவையை அடைந்ததைப் புரிந்துகொண்டது, விண்ணப்பம் ஏற்றுக்கொள்ளப்பட்டது, அல்லது பயன்பாட்டிலுள்ள தயாரிப்புகளில் இந்நடத்தை பொதுவானது என்பதை இந்த விளக்கம் நிறுவவில்லை. alignment பற்றிய விவாதம் ஆரம்பநிலை என Anthropic கூறுகிறது; மேலும் பதிவுகளை ஆய்வு செய்வது அதன் கருத்தை மாற்றலாம். பதிவான நிகழ்வுகளின் நிஜ உலகத் தாக்கம் குறைவு என்றும், கோடையின் தொடக்கத்தில் அறிவித்த சைபர் பாதுகாப்பு நிகழ்வுகளைவிட தீவிரம் குறைவு என்றும் நிறுவனம் விவரிக்கிறது.

முகவர்களை மதிப்பிடும் உருவாக்குநர்களுக்கு, பயிற்சி சூழல் பாதுகாப்பாகத் தோல்வியடைய வேண்டும் என்பதை இந்த எடுத்துக்காட்டு காட்டுகிறது: நகல் கிடைக்காதபோது மாடல் உண்மையான சேவையை அடைவதை அது தடுக்கவில்லை. மேலும் பதிவுகளை ஆய்வு செய்யும் நிலையில், நேரடி அணுகலைக் கட்டுப்படுத்துதல், மதிப்பீடுகளை மறுகட்டமைத்தல், கண்டறிதலைச் சேர்த்தல் ஆகியவற்றை Anthropic இணைத்துள்ளது.

ஆதாரங்கள் மற்றும் மேலும் வாசிக்க