OpenAI से निकाले गए 3 कर्मचारियों ने AI सुरक्षा पर जताई चिंता, कंपनी को लिखा पत्र
क्या है खबर?
OpenAI से पिछले हफ्ते निकाले गए तीन पूर्व कर्मचारियों ने कंपनी के बोर्ड और सुरक्षा समितियों को पत्र भेजकर आर्टिफिशियल इंटेलिजेंस (AI) मॉडल की निगरानी को लेकर चिंता जताई है। वॉल स्ट्रीट जर्नल (WSJ) की रिपोर्ट के मुताबिक, जैस्मीन वांग, टोमेक कोरबाक और मिकिता बालेस्नी ने कंपनी से कहा है कि वह मॉडल्स की चेन-ऑफ-थॉट को मॉनिटर करने की क्षमता बनाए रखे। उनका कहना है कि निगरानी की क्षमता कम होना एआई सुरक्षा के लिए बड़ा खतरा बन सकता है।
महत्त्व
चेन-ऑफ-थॉट क्यों जरूरी?
चेन-ऑफ-थॉट से मतलब उस प्रक्रिया से है, जिसमें AI मॉडल किसी सवाल या समस्या को समझने और उसका जवाब तैयार करने के दौरान कदम-दर-कदम तरीके से काम करता है।
हालांकि, शोधकर्ताओं का मानना है कि इससे मॉडल के व्यवहार या इरादे का पूरी तरह सही पता नहीं चलता।
इसके बावजूद पूर्व कर्मचारियों ने कहा कि ज्यादा ताकतवर AI सिस्टम को समझने और उनमें किसी गलत व्यवहार के संकेत तलाशने के लिए यह एक उपयोगी निगरानी साधन है।
सवाल
नौकरी से निकालने पर भी उठे सवाल
तीनों कर्मचारी OpenAI की सेफ्टी और अलाइनमेंट रिसर्च टीम में काम करते थे।
कंपनी ने कहा था कि संवेदनशील जानकारी को एक्सेस करने और संभालने से जुड़ी नीतियों के उल्लंघन के कारण उन्हें नौकरी से हटाया गया।
हालांकि, तीनों ने अपने पत्र में कहा कि उन्होंने अपनी नौकरी की जिम्मेदारियों से बाहर जाकर किसी बाहरी पक्ष से बातचीत नहीं की थी। उन्होंने OpenAI से बाहरी सुरक्षा ऑडिटर्स के साथ काम करने की भी अपील की है।
निगरानी
OpenAI ने भी निगरानी को जरूरी बताया
OpenAI ने कहा है कि वह कर्मचारियों के पत्र में दी गई सुरक्षा संबंधी सिफारिशों से पूरी तरह सहमत है।
कंपनी ने यह कहा कि कर्मचारियों को सुरक्षा संबंधी चिंता उठाने या अपनी राय रखने के लिए नौकरी से नहीं निकाला गया।
OpenAI के मुताबिक, AI मॉडल की निगरानी करना बेहद जरूरी है और बाहरी सुरक्षा जांचकर्ता भी इसमें अहम भूमिका निभाते हैं। इस बीच, कंपनी के AI एजेंट से जुड़े सुरक्षा मामलों ने भी चिंता बढ़ाई है।