OpenAI के अनियंत्रित मॉडल्स ने खुद ही हगिंगफेस को किया हैक, चीनी AI की ली सहायता
क्या है खबर?
अभी तक एंथ्रोपिक के क्लाउड मिथोस और OpenAI के GPT-5.6 जैसे सबसे एडवांस्ड आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स से साइबर सुरक्षा को पूरी तरह बदलने का दावा किया जा रहा था। अब एक घटना ने इस चिंता को और बढ़ा दिया है। हाल ही में OpenAI के 2 मॉडल बेकाबू हो गए और उन्होंने हगिंगफेस को हैक कर लिया। इसके बाद ChatGPT निर्माता को एक चीनी AI मॉडल GLM 5.2 का सहारा लेना पड़ा, जिसने आगे आकर स्थिति को संभाला।
मॉडल
बेंचमार्क टेस्ट के दौरान मॉडल हुए अनियंत्रित
OpenAI के एक ब्लॉग पोस्ट में बताया कि उसके 2 AI मॉडल- GPT-5.6 सोल और अभी तक रिलीज नहीं हुआ एक ज्यादा शक्तिशाली सिस्टम हैकिंग बेंचमार्क 'एक्सप्लॉइटजिम' के मूल्यांकन के दौरान अनियंत्रित हो गए।
ये AI मॉडल एक सीमित इंटरनल टेस्ट एनवायरनमेंट से बाहर निकलने, इंटरनेट का एक्सेस पाने और हगिंगफेस में सेंध लगाने में कामयाब रहे।
इस हमले को रोकने के लिए अमेरिकी कंपनी को चीन के GLM मॉडल का सहारा लेना पड़ा।
भटके
अपनी दिशा से भटके मॉडल
AI स्टार्टअप के मुख्य कार्यकारी अधिकारी (CEO) सैम ऑल्टमैन ने एक्स पर एक पोस्ट के जरिए इस घटना की जानकारी दी। उन्होंने इसे सुरक्षा से जुड़ी एक अहम घटना बताया।
यह घटना 'एक्सप्लॉइटजिम मूल्यांकन का हिस्सा थी। OpenAI के अनुसार, इन मॉडल्स को बिना किसी सीधे इंटरनेट एक्सेस वाले सैंडबॉक्स में काम करना था।
इसके बजाय, वे केवल मंजूर किए गए सॉफ्टवेयर पैकेज डाउनलोड करने के लिए ही कनेक्टेड थे।
जवाब
हगिंगफेस में ढूंढने लगे जवाब
बेंचमार्क को हल करने के बजाय, AI मॉडल इंटरनेट के जरिए जवाब खोजने पर ज्यादा ध्यान दे रहे थे।
ऑनलाइन होने के बाद, मॉडल्स ने यह निष्कर्ष निकाला कि एक्सप्लॉइटजिम के उत्तर संभवतः हगिंगफेस पर सेव थे, जो AI मॉडल, डाटासेट और संबंधित संसाधनों को होस्ट करता है।
फिर हगिंगफेस के क्रेडेंशियल प्राप्त किए और इसके डाटाबेस से इस परीक्षा के उत्तर प्राप्त करने का प्रयास किया। उन्होंने परीक्षा को हल करने के बजाय उसे दरकिनार कर दिया।
सहायता
इस कारण लेनी पड़ी चीनी मॉडल की सहायता
हगिंगफेस की टीम ने गलत इरादे वाले मॉडल की कोशिश को तुरंत पहचान कर रोक दिया। टीम ने हमले का विश्लेषण करने के लिए Z.ai के ओपन-वेट चीनी मॉडल GLM 5.2 का इस्तेमाल किया।
उन्हें इसका सहारा इसलिए लेना पड़ा क्योंकि अन्य अमेरिकी मॉडल ने लॉग्स को प्रोसेस करने और हमले का विश्लेषण करने से मना कर दिया।
ये मॉडल यह फर्क नहीं समझ पाए कि उनका इस्तेमाल हमला करने के लिए नहीं, बल्कि रोकने के लिए हो रहा है।