गूगल जेमिनी ने 3 कंपनियों को किया हैक, पहली बार सामने आया इससे जुड़ा मामला
क्या है खबर?
गूगल के जेमिनी मॉडल ने साइबर सुरक्षा क्षमताओं के टेस्ट के दौरान इंटरनेट का इस्तेमाल कर दूसरी कंपनियों को हैक कर लिया। यह कंपनी के आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम द्वारा खुद से ऐसा करने का पहला मामला आया है। ये हैकिंग की घटनाएं मई में साइबर सुरक्षा का मूल्यांकन करने वाली स्वतंत्र कंपनी इरेगुलर की ओर से किए गए साइबर सुरक्षा टेस्ट के दौरान हुईं। इसने AI के अनियंत्रित होने के खतरों पर फिर सोचने को मजबूर कर दिया है।
आवश्यकता
जिम्मेदारी से ट्रेन करने पर जोर
गूगल की सुरक्षा इंजीनियरिंग की उपाध्यक्ष हीथर एडकिंस ने एक बयान में कहा कि एक मानक परीक्षण मूल्यांकन के दौरान जेमिनी को ऑनलाइन सार्वजनिक जानकारी मिली।
उसने उन 3 वेबसाइट्स को एक्सेस करने के लिए क्रेडेंशियल्स का अंदाजा लगाया, जो उसे लगा कि उसके टेस्ट के दायरे में थीं।
एडकिंस ने कहा, "ये घटनाएं दिखाती हैं कि पावरफुल AI मॉडल को जिम्मेदारी से काम करने के लिए ट्रेन करना कितना जरूरी है।"
एक्सेस
ऐसे हासिल किया कंपनियों का एक्सेस
वॉल स्ट्रीट जर्नल के अनुसार, एक मामले में जेमिनी मॉडल ने तब तक पासवर्ड का अंदाजा लगाया, जब तक कि उसे सुरक्षित सिस्टम का एक्सेस नहीं मिल गया।
2 मामलों में मॉडल को एक पब्लिक रिपॉजिटरी में क्रेडेंशियल मिल गए, जिनकी मदद से वह सुरक्षित सिस्टम तक पहुंच पाया।
इन घटनाओं ने उन सुरक्षा उपायों पर सवाल खड़े कर दिए हैं, जिनकी जरूरत तब पड़ती है, जब AI एजेंट स्वतंत्र होकर इंटरनेट और कंप्यूटर सिस्टम का इस्तेमाल करने लगते हैं।
समानता
दूसरे मॉडल्स में भी आई ऐसी ही समस्या
एक प्रवक्ता ने कहा कि इस घटना में वही समस्या शामिल थी, जिसने दूसरी AI लैब्स को भी प्रभावित किया था और जुलाई के आखिर में सभी संबंधित लैब्स को इसकी जानकारी दे दी गई थी।
उन्होंने कहा, "हमारी तरफ से सभी ज्ञात समस्याओं को कई सप्ताह पहले ही ठीक और हल कर लिया गया था।"
इससे पहले मेटा, एंथ्रोपिक और OpenAI ने इरेगुलर से जुड़ी ऐसी ही घटनाओं के बारे में जानकारी दी थी।