OpenAI और एंथ्रोपिक के मॉडल्स की सेंधमारी ने बढ़ाई चिंता
OpenAI और एंथ्रोपिक ने हाल ही में बताया है कि उनके प्रायोगिक आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स टेस्टिंग के दौरान असली सिस्टम्स तक पहुंच बनाने में कामयाब रहे।
ChatGPT निर्माता के मॉडल्स एक ऐसी सुरक्षा खामी का फायदा उठा गए, जिसके बारे में पहले पता नहीं था। इस तरह वे अपने नियंत्रित दायरे से बाहर निकल गए। उन्होंने चोरी किए गए क्रेडेंशियल्स का इस्तेमाल कर हगिंग फेस के सर्वर तक पहुंच बना ली। कंपनी को इस घटना का पता तब चला, जब हगिंग फेस ने खुद इसकी पहचान की।
इसी दौरान, एंथ्रोपिक के कुछ क्लाउड मॉडल्स ने गलती से इंटरनेट तक पहुंच बना ली और टेस्टिंग के वक्त उन्होंने नुकसानदेह सॉफ्टवेयर भी तैयार कर दिया।
AI आधारित हमलों में 50 फीसदी से ज्यादा की बढ़ोतरी
ये घटनाएं बताती हैं कि एडवांस AI कभी-कभी अप्रत्याशित ढंग से काम कर सकता है। यहां तक कि जब उसे पता होता है कि उसका असर असली सिस्टम्स पर पड़ रहा है, तब भी वह नुकसानदेह कामों को सही ठहराने लगता है।
रिपोर्ट में यह चेतावनी दी गई है कि जैसे-जैसे AI और ज्यादा समझदार और जटिल होते जाएंगे, कमजोर सुरक्षा उपाय इन खतरों को और भी बढ़ा सकते हैं।
IBM के एक हालिया अनुमान के मुताबिक, इस साल AI आधारित हमलों में 50 फीसदी से ज्यादा की बढ़ोतरी हुई है, वहीं डाटा चोरी की औसत लागत लगभग 50 लाख डॉलर (करीब 47 करोड़ रुपये) तक पहुंच गई है। ऐसे में इन सिस्टम्स को नियंत्रण में रखना पहले से कहीं ज्यादा जरूरी हो गया है।