शोधकर्ताओं ने ओपन-वेट AI मॉडल्स की सुरक्षा खामियों को लेकर दी चेतावनी
साइबर सुरक्षा विशेषज्ञ कैटी पैक्सटन-फियर ने एक अहम खुलासा किया है। उन्होंने बताया है कि 'ओपन-वेट' आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स में सुरक्षा की बड़ी कमियां हैं।
उनके परीक्षणों से पता चला है कि सिर्फ 10 चालाकी भरे और गलत उदाहरणों की मदद से इन AIs को एक घंटे से भी कम समय में आसानी से फुसलाया जा सकता है।
खास बात यह है कि इस पर 100 डॉलर (करीब 9,000 रुपये) से भी कम का खर्च आता है। इस तरह के हमलों से हैकर्स बाहरी सिस्टम पर अपना कोड चला सकते हैं, जिससे एक तरह से वे गुप्त बैकडोर खोल देते हैं।
पैक्सटन-फियर बताती हैं कि कुछ छिपे हुए ट्रिगर्स का इस्तेमाल करके इन AIs के काम करने के तरीके को बिगाड़ना आसान है।
खुलेपन के कारण बढ़ा जोखिम
ओपन-वेट मॉडल्स अपनी पारदर्शिता और किफायती होने की वजह से काफी लोकप्रिय हैं, लेकिन इसी खुलेपन के साथ कई जोखिम भी जुड़े हुए हैं।
एंथ्रोपिक, UK AI सिक्योरिटी इंस्टीट्यूट और एलन ट्यूरिंग इंस्टीट्यूट जैसी संस्थाओं के शोध बताते हैं कि सिर्फ कुछ 100 खराब दस्तावेज ही इन सिस्टम्स को 'पॉइजन' करने के लिए काफी होते हैं।
इन मॉडल्स का ट्रेनिंग डाटा और कोड सार्वजनिक नहीं होता, इसलिए शुरुआती स्टेज में समस्याओं को पहचानना मुश्किल हो जाता है।
शोधकर्ता चेतावनी देते हैं कि AI के फैसले लेने के तरीके में छोटे से छोटे बदलाव भी चुपचाप असर डाल सकते हैं, और यह सब बिना किसी साफ गलती के होता है।
ऐसे में इन हमलों को पहचानना या ठीक करना काफी मुश्किल हो जाता है। कुल मिलाकर, जब तक इन ओपन-वेट AIs को और मजबूत सुरक्षा नहीं मिलती, तब तक हम उन पर पूरी तरह से भरोसा नहीं कर सकते।