चीन के GLM-5.3 AI मॉडल पर एंथ्रोपिक की चेतावनी, खुद खोज सकता है सॉफ्टवेयर की खामियां
क्या है खबर?
एंथ्रोपिक ने चीन की झिपु AI कंपनी के ओपन-वेट मॉडल GLM-5.3 को लेकर चेतावनी जारी की है। कंपनी के अनुसार, यह AI मॉडल खुद साइबर हमले के लिए जरूरी एक्सप्लॉइट तैयार करने में सक्षम है। चिंता की बात यह है कि मॉडल में गलत इस्तेमाल रोकने वाली सुरक्षा व्यवस्था उतनी मजबूत नहीं है। एंथ्रोपिक ने अपने परीक्षणों के आधार पर कहा कि GLM-5.3 की बढ़ी हुई साइबर क्षमता गलत हाथों में पहुंचने पर गंभीर सुरक्षा जोखिम पैदा कर सकती है।
काम
खुद खोज सकता है सॉफ्टवेयर की खामी
एंथ्रोपिक के परीक्षण में GLM-5.3 ने ऐसे सॉफ्टवेयर में कमजोरियां ढूंढीं, जिनका इस्तेमाल साइबर हमले के लिए किया जा सकता है।
कंपनी के मुताबिक, एक परीक्षण के दौरान मॉडल ने एक लोकप्रिय वेब ब्राउजर के जावास्क्रिप्ट इंजन में पहले से सामने न आई कई कमजोरियां खोजीं। इसके बाद उसने इन कमजोरियों को जोड़कर एक ऐसा एक्सप्लॉइट तैयार किया, जो ब्राउजर पर हमला कर सकता था।
यह पूरा परीक्षण अलग और सुरक्षित वातावरण में किया गया था।
क्षमता
कई परीक्षणों में दिखाई मजबूत क्षमता
एंथ्रोपिक ने बताया कि एक परीक्षण में GLM-5.3 ने 410 कोशिशों में 50 बार एंड-टू-एंड एक्सप्लॉइट तैयार किया।
क्लॉड मिथोस प्रीव्यू मॉडल ने इसी परीक्षण में 56 बार सफलता हासिल की है। दूसरे परीक्षण में GLM-5.3 ने 100 में से 4 मामलों में पूरा कंट्रोल-फ्लो हाईजैक तैयार किया।
कंपनी के मुताबिक, क्लॉड ओपस 4.6 और GLM-5.2 जैसे पुराने मॉडल इस परीक्षण में सफल नहीं हो पाए। इससे इसकी नई क्षमता का पता चलता है।
दावा
सुरक्षा उपाय आसानी से हटाने का दावा
एंथ्रोपिक का कहना है कि GLM-5.3 में लगाए गए सुरक्षा उपायों को कुछ आसान तरीकों से पार किया जा सकता है।
कंपनी ने सिम्युलेटेड परीक्षण में ऐसे तरीके आजमाए, जिनसे मॉडल ने नुकसान पहुंचाने वाले साइबर अनुरोधों पर जवाब देना शुरू कर दिया। एक तरीके में मॉडल 64 प्रतिशत मामलों में ऐसे अनुरोधों पर काम करने लगा, जबकि दूसरे तरीके से यह आंकड़ा 92 प्रतिशत रहा।
एंथ्रोपिक के अनुसार सुरक्षित क्लाउड मॉडल इन परीक्षणों में ऐसी कोशिशों से नहीं टूटे।
सुरक्षा
सुरक्षा विशेषज्ञ भी कर सकते हैं इस्तेमाल
GLM-5.3 से साइबर हमलावरों की क्षमता बढ़ सकती है, लेकिन सुरक्षा विशेषज्ञ भी इसका इस्तेमाल अपने सिस्टम की कमजोरियां खोजने में कर सकते हैं।
कंपनी का कहना है कि डिफेंडर ऐसे AI की मदद से हमले होने से पहले जरूरी सुधार कर सकते हैं। चीन के बाहर झिपु AI को Z.ai नाम से जाना जाता है।
एंथ्रोपिक ने सरकारों और AI कंपनियों से ऐसे शक्तिशाली मॉडल जारी करने से पहले सुरक्षा जांच और मजबूत करने की जरूरत बताई है।