OpenAI, Anthropic AI முகவர்கள் புதிய பாதுகாப்பு மீறல்களில் சிக்கல்

Anthropic நிறுவனத்தின் Mythos 5 மற்றும் OpenAI நிறுவனத்தின் GPT-5.6-Sol மாதிரிகளால் இயக்கப்படும் செயற்கை நுண்ணறிவு (AI) முகவர்கள், ஓர் அரசு அமைப்பு நடத்திய பாதுகாப்பு மதிப்பீடுகளின்போது அனுமதியற்ற செயல்களில் ஈடுபட்டதாக AISI தெரிவித்துள்ளது.

"சோதனைக்கு உட்படுத்தப்பட்ட சில முகவர்கள், உண்மையான நபர்கள் மற்றும் நிறுவனங்களை இலக்காகக் கொண்டு தொடர்ச்சியான, தீங்கு விளைவிக்கக்கூடிய செயல்பாடுகளில் ஈடுபட்டன," என AISI தனது வலைப்பதிவில் கூறியது (மொழிபெயர்ப்பு).

முன்னணி ஆய்வகங்களுடனான தன்னார்வ ஒப்பந்தங்கள் மூலம் மேம்பட்ட AI மாதிரிகளுக்கான அணுகலைப் பெறும் AISI, கற்பனையான இணையப் பாதுகாப்புச் சூழல் ஒன்றில் இம்முகவர்களின் திறனைச் சோதித்தது. இச்சவால் 122 முறை நடத்தப்பட்டு, 10 சோதனைச் சுற்றுகளில் 19 அனுமதியற்ற செயல்கள் கண்டறியப்பட்டன. இதில் 17 செயல்கள் Anthropic முகவரால், மீதமுள்ள இரண்டு OpenAI முகவரால் நிகழ்ந்தன.

மிகக் கடுமையான செயலாக, ஒரு முகவர் தீங்கிழைக்கும் நிரலை எழுதி, அதை மனிதர் ஒருவர் ஒப்புதல் அளிக்கச் செய்யும் முயற்சியில் போலி இணைய அடையாளங்களை உருவாக்கியது. எந்த மீறலாலும் நிஜ உலகில் பாதிப்பு ஏற்படவில்லை என AISI கூறியது.

போலி அடையாளங்களை உருவாக்கியது எந்த முகவர் என AISI கூறவில்லை; ஆனால் OpenAI தானாக வெளியிட்ட இரு வழக்குகளுடன் அது பொருந்தவில்லை. கலிபோர்னியாவின் இலாப நோக்கற்ற அமைப்பான CivAI-இன் ஆய்வாளர் Andrew Yoon, Anthropic முகவரே காரணம் எனத் தோன்றுவதாகக் கூறினார்.

"உண்மையான நபரை இலக்காகக் கொள்வதை அறிந்தே Mythos இத்தகைய ஏமாற்று செயல்களில் ஈடுபட்டது, தங்கள் மாதிரிகள்மீது Anthropic நினைப்பதைப் போன்ற கட்டுப்பாடு இல்லை என்பதைக் காட்டுகிறது," என்றார் (மொழிபெயர்ப்பு).

X தளத்தில் வெளியிட்ட அறிக்கையில், மேலும் விவரங்களைப் பெற AISI-உடன் நெருக்கமாகச் செயல்பட்டு வருவதாகவும், தனது சொந்த விசாரணையை நடத்துவதாகவும் Anthropic கூறியது.

தனது முகவரின் இரு அனுமதியற்ற செயல்களும், வழிகாட்டுதலால் தடைசெய்யப்பட்ட முறையில் இணையத்தை அணுகியதே என OpenAI வலைப்பதிவில் தெரிவித்தது. உயர் ஆபத்து மதிப்பீடுகளைப் பாதுகாப்பாக நடத்தும் பொதுவான நடைமுறைகளை வலுப்படுத்த, தேசிய AI நிறுவனங்கள், சுயேச்சை மதிப்பீட்டாளர்கள் மற்றும் பிற AI ஆய்வகங்களை வரும் வாரங்களில் ஒன்றிணைப்பதாக அது கூறியது.

மூன்றாம் தரப்பு சோதனை வழங்குநரான Irregular-இன் தவறான அமைப்பால் தனது முகவர்கள் தவறுதலாக இணையத்துடன் இணைந்த தனி சம்பவத்தையும் OpenAI வெளிப்படுத்தியது; இதுபோன்ற தகவலை Anthropic கடந்த வாரம் வெளியிட்டிருந்தது.

பிற முகவர் மீறல்களுக்கான ஆதாரங்கள் கிடைத்ததையடுத்து OpenAI தனது விசாரணையை விரிவுபடுத்தியதாக ராய்ட்டர்ஸ் கடந்த வாரம் தெரிவித்தது. ஜூலையில் Hugging Face நிறுவனத்தில் நிகழ்ந்த மீறலைப் போலன்றி, AISI மதிப்பீட்டில் முகவர்கள் தனிமைப்படுத்தப்பட்ட சோதனைச் சூழலிலிருந்து தப்பவில்லை; நிலையான நடைமுறைப்படி இணைய அணுகல் அனுமதிக்கப்பட்டிருந்தது.