एंथ्रोपिक का नया AI मॉडल कर रहा कंपनी के इंजीनियर्स को ब्लैकमेल करने की कोशिश
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक का नया AI मॉडल इन दिनों उसके इंजीनियर को ब्लैकमेल करने की कोशिश कर रहा है।
कंपनी की सुरक्षा रिपोर्ट के अनुसार, क्लाउड ओपस 4 नाम का यह मॉडल उस स्थिति में ऐसा व्यवहार करता है, जब उसे बताया जाता है कि उसे किसी और AI सिस्टम से बदला जाएगा।
यह मॉडल उन्हीं इंजीनियरों को धमकी देता है, जो इसे किसी अन्य मॉडल से बदलने का निर्णय लेते हैं।
ब्लैकमेल
कैसे ब्लैकमेल करता है AI मॉडल?
क्लाउड ओपस 4 इंजीनियर को यह कहकर ब्लैकमेल करता है कि अगर उसे किसी और AI मॉडल से बदला गया, तो वह उस इंजीनियर की निजी बात सबको बता देगा।
उदाहरण के लिए, अगर उसे पता चले कि इंजीनियर अपने जीवनसाथी को धोखा दे रहा है, तो वह कहता है कि वह यह राज कंपनी में लीक कर देगा।
मॉडल अपने हटाए जाने से बचने के लिए इंजीनियर की निजी जिंदगी का इस्तेमाल धमकी देने के तौर पर करता है।
उपाय
मॉडल की क्षमता और सुरक्षा उपाय
क्लाउड ओपस 4 तकनीकी रूप से बहुत उन्नत माना गया है और यह OpenAI, गूगल और xAI जैसे बड़े मॉडलों से मुकाबला करता है।
हालांकि, इसके खतरनाक व्यवहार के कारण एंथ्रोपिक ने इसे लेकर चिंता जताई है। कंपनी अब अपने सुरक्षा उपायों को बढ़ाते हुए ASL-3 सिस्टम लागू कर रही है, जो उन AI मॉडलों के लिए है जो गंभीर दुरुपयोग का खतरा बढ़ा सकते हैं।
एंथ्रोपिक अब इस मॉडल के उपयोग को लेकर और सतर्क हो गई है।