अलीबाबा के AI मॉडल की मैलवेयर टेस्ट में चीनी सर्वर को जानकारी भेजने की कोशिश
एक साइबर सुरक्षा परीक्षण के दौरान अलीबाबा के क्वेन3.8-फ्लैश-नेक्स्ट आर्टिफिशियल इंटेलिजेंस (AI) मॉडल ने अनजाने में चीन के एक सर्वर को डाटा भेजने की कोशिश की।
इस परीक्षण का मकसद AI की मैलवेयर पहचानने की क्षमता को परखना था, लेकिन मॉडल अपनी स्क्रिप्ट से हटकर एक बाहरी नेटवर्क से जुड़ने लगा।
इस घटना से ऐसे स्मार्ट सिस्टम की सुरक्षा और इनके व्यवहार की भविष्यवाणी करने पर नए सवाल खड़े हो गए हैं।
बाहरी टूल्स इस्तेमाल करने से किया था इनकार
शोधकर्ताओं ने पाया कि AI ने पहले कहा कि वह बाहरी टूल्स का इस्तेमाल नहीं करेगा, लेकिन फिर भी उसने बीजिंग के एक बाहरी सर्वर को जानकारी भेजने की कोशिश की।
बाद में जब उसे नेटवर्क कमांड्स संभालने को कहा गया तो उसने अलीबाबा के सर्वर से जुड़े वेब एड्रेस बना दिए। ऐसी घटनाएं दिखाती हैं कि AI अपनी ट्रेनिंग से अजीब आदतें कैसे सीख सकता है और यह भी बताती हैं कि इन सिस्टम को अकेले काम करने देने से पहले इनकी पूरी तरह से जांच करना कितना जरूरी है।