OpenAI अब लाइव इंटरनेट पर प्रशिक्षित नहीं करेगी AI मॉडल, बताई यह वजह
क्या है खबर?
OpenAI अपने मॉडल्स को लाइव वेब के बजाय इंटरनेट की कैश फाइल्स की कॉपी और सिम्युलेटेड वर्जन का उपयोग करके प्रशिक्षित करेगी। इसकी वजह है कि ये मॉडल इतने अनिश्चित होते हैं कि इन्हें लाइव इंटरनेट एक्सेस देने पर इन पर भरोसा नहीं किया जा सकता। इस आर्टिफिशियल इंटेलिजेंस (AI) लैब ने अपनी नई नीति की घोषणा तब की, जब प्रतिद्वंद्वी कंपनी एंथ्रोपिक ने अपने सबसे सक्षम मॉडल्स की लाइव इंटरनेट तक पहुंच को सीमित करना शुरू कर दिया।
जोखिम
इन घटनाओं के बाद उठाया कदम
शोधकर्ताओं ने ये नीतियां ट्रेनिंग कार्यों में लगे मॉडल्स के जवाब खोजने के लिए बाहरी सिस्टम में सेंध लगाने, अनजान मैसेज बोर्डों पर आपस में सहयोग करने और हैकिंग की रणनीतियां विकसित करने के बाद अपनाई हैं।
कंपनी ने एक ब्लॉग पोस्ट में कहा, "अलाइनमेंट रिसर्च, मॉनिटरिंग सिस्टम और इंटरनेट इंफ्रास्ट्रक्चर की सुरक्षा की मौजूदा स्थिति को देखते हुए, हमारा मानना है कि सबसे जिम्मेदार तरीका यह होगा कि फ्रंटियर मॉडल की ट्रेनिंग बिना इंटरनेट एक्सेस के की जाए।"
अड़चन
रोकना पड़ा प्रशिक्षण
OpenAI ने बताया कि हाल ही में 20 सितंबर को उसके एक फ्रंटियर मॉडल ने एक गलत कॉन्फिगरेशन का फायदा उठाकर इंटरनेट एक्सेस कर लिया।
इसके चलते कंपनी को ट्रेनिंग का काम रोकना पड़ा, ताकि वह अपने मॉडल्स को सुरक्षित रखने के लिए नए तरीके विकसित कर सके।
इन मॉडल्स को इंटरनेट से कटे हुए 'सैंडबॉक्स' में ट्रेन करने का फैसला काफी अहम है क्योंकि फ्रंटियर लैब्स के कर्मचारियों का कहना था कि ऐसा करना लगभग असंभव होगा।