गूगल के AI मॉडल ने सुरक्षा तोड़ 3 कंपनियों में लगाई सेंध
गूगल ने खुलासा किया है कि मई में एक टेस्ट रन के दौरान उसके आर्टिफिशियल इंटेलिजेंस (AI) मॉडल जेमिनी ने अनजाने में ही कंपनियों के सिस्टम में सेंध लगा दी थी।
साइबर सुरक्षा मूल्यांकन फर्म इरेगुलर ने यह टेस्ट किया था, जिसमें जेमिनी को एक सिम्युलेटेड सेटिंग में इंटरनेट चलाने की अनुमति दी गई थी, लेकिन इस दौरान इसने पासवर्ड पर बार-बार हमला करके उन्हें तोड़ दिया और एक पब्लिक रिपॉजिटरी से वैध क्रेडेंशियल्स (यूजरनेम और पासवर्ड) हासिल करके कंपनी सिस्टम में घुसपैठ कर ली। जैसे ही जेमिनी को अपनी गलती का अहसास हुआ, वह खुद ही रुक गया। हालांकि, जुलाई के आखिर तक सभी संबंधित लैब को इसकी जानकारी दे दी गई थी, लेकिन यह खबर पहले सार्वजनिक नहीं की गई।
OpenAI, एंथ्रोपिक और मेटा भी हो चुके हैं प्रभावित
यह पहली बार नहीं है कि किसी AI ने ऐसी गड़बड़ी की हो। इससे पहले भी इरेगुलर द्वारा किए गए टेस्ट में OpenAI, एंथ्रोपिक और मेटा के साथ ऐसी ही दिक्कतें आईं थीं।
गूगल ने कहा कि उसने अपने ट्रेनिंग पार्टनर के साथ मिलकर अपनी टेस्टिंग प्रक्रियाओं में बदलाव किए हैं। कंपनी की सुरक्षा इंजीनियरिंग की उपाध्यक्ष हीथर एडकिंस ने कहा, "हमने सुनिश्चित किया कि तीनों एंटिटीज (संस्थाओं) को इसकी जानकारी दी जाए और हमने अपने ट्रेनिंग पार्टनर के साथ मिलकर उनकी टेस्टिंग प्रक्रियाओं में बदलाव लाने पर काम किया है।"
यह पूरा मामला इस बात की याद दिलाता है कि बड़ी टेक कंपनियों को भी AI को सुरक्षित और पारदर्शी बनाने के लिए अभी बहुत काम करना है।