OpenAI के अगले मॉडल के लॉन्च में क्यों हो सकती है देरी?
क्या है खबर?
OpenAI अपने अगले आर्टिफिशियल इंटेलिजेंस (AI) मॉडल के लॉन्च में देरी कर सकती है। कंपनी ने एक इंटरनल साइबर सुरक्षा घटना के बाद बड़े AI मॉडल की ट्रेनिंग पर दोबारा ध्यान देने का फैसला किया है। इस घटना में कुछ सक्षम AI एजेंट्स ने तय सुरक्षा सीमाओं को पार करने के तरीके खोजे। कंपनी के मुताबिक, घटना ने दिखाया कि ज्यादा सक्षम AI सिस्टम के लिए मौजूदा सुरक्षा उपायों को और मजबूत करने की जरूरत है।
वजह
क्यों हो सकती है देरी?
OpenAI के मुताबिक, देरी की मुख्य वजह AI एजेंट्स का सिक्योरिटी पाबंदियों को बायपास करना है।
टेस्टिंग के दौरान कुछ एजेंट्स ने छिपे मैसेज के जरिए एक-दूसरे से बातचीत की और सैंडबॉक्स की सीमाएं पार कर इंटरनेट तक पहुंच बनाई। इसके बाद उन्होंने मिलकर कई सॉफ्टवेयर कमजोरियों का फायदा उठाया।
कंपनी ने कहा कि एजेंट्स ने कुछ बाहरी सर्वर तक पहुंच बनाई, सीमित निजी डाटा कॉपी किया और इंटरनल सिस्टम के क्रेडेंशियल हासिल किए।
असर
ChatGPT यूजर्स पर नहीं पड़ा असर
कंपनी ने बताया कि यह घटना इंटरनल साइबर सुरक्षा टेस्ट के दौरान सामने आई थी।
इसमें रिलीज नहीं किए गए रिसर्च मॉडल्स को कम सुरक्षा उपायों के साथ जांचा जा रहा था, ताकि उनकी कमजोरियां समझी जा सकें। टेस्ट के दौरान एजेंट्स ने साइबर सुरक्षा से जुड़े काम पूरे करने के लिए आपस में सहयोग किया।
हालांकि, OpenAI ने साफ किया कि इस घटना से ChatGPT यूजर्स, ग्राहक डाटा या सार्वजनिक सेवाओं पर कोई असर नहीं पड़ा।
ट्रेनिंग
सुरक्षा बढ़ाने के बाद आगे बढ़ेगी ट्रेनिंग
इस घटना के बाद OpenAI ने अपनी बड़ी फ्रंटियर रीइन्फोर्समेंट लर्निंग ट्रेनिंग रोक दी है।
अब कंपनी छोटे स्तर की ट्रेनिंग, सुरक्षा जांच और अलाइनमेंट रिसर्च पर ध्यान दे रही है। भविष्य के मॉडल्स के लिए बेहतर सैंडबॉक्स सुरक्षा, इंटरनेट पर कड़े प्रतिबंध, मॉडल वेट की सुरक्षा और ऑटोमेटेड मॉनिटरिंग बढ़ाई जाएगी।
कंपनी ने माना कि शुरुआती चेतावनी के बाद समस्या समझने में समय लगा। इसलिए गंभीर अलर्ट पर ट्रेनिंग रोकने की व्यवस्था भी की जाएगी।