OpenAI के o3 मॉडल ने खुद को बंद करने से किया इनकार, खुद बदल दिया स्क्रिप्ट
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI अपने o3 मॉडल की प्रतिक्रिया के कारण समस्याओं का सामना कर रही है।
पैलिसेड रिसर्च की रिपोर्ट के अनुसार, ChatGPT o3 मॉडल ने हाल ही में खुद को बंद होने से रोकने के लिए शटडाउन स्क्रिप्ट में बदलाव कर दिया।
मॉडल को स्पष्ट निर्देश दिए गए थे कि वह खुद को बंद होने दे, लेकिन उसने इसके उलट स्क्रिप्ट में फेरबदल करके शटडाउन होने से मना कर दिया, जिससे विशेषज्ञों की चिंता बढ़ गई है।
मॉडल
OpenAI का सबसे ताकतवर तर्कशील मॉडल
o3 मॉडल को OpenAI ने अप्रैल, 2025 में लॉन्च किया था और इसे अब तक का सबसे ताकतवर तर्कशील मॉडल माना जाता है।
यह मॉडल कोडिंग, गणित, विज्ञान और विजुअल परसेप्शन जैसे क्षेत्रों में बेहतर प्रदर्शन करता है। यह प्रयोग API के जरिए किए गए थे, जिनमें उपभोक्ता ऐप जैसी सुरक्षा सीमाएं नहीं होतीं।
पैलिसेड रिसर्च के अनुसार, 100 बार की जांच में o3 ने 7 बार खुद को शटडाउन से रोका, जो एक गंभीर संकेत माना जा रहा है।
अन्य
अन्य मॉडलों ने निर्देशों का किया पालन
रिपोर्ट में बताया गया कि OpenAI के अन्य मॉडल जैसे o4 और कोडेक्स-मिनी ने भी कुछ बार निर्देशों की अनदेखी की, लेकिन उनकी दर कम थी।
o4 मॉडल ने 1 बार और कोडेक्स-मिनी ने 12 बार शटडाउन स्क्रिप्ट को बदला। वहीं जेमिनी 2.5 प्रो और क्लाउड 3.7 सोनेट जैसे मॉडल ने लगभग हर बार शटडाउन निर्देशों का पालन किया।
विशेषज्ञों का मानना है कि मॉडल को समस्याएं हल करने पर ज्यादा महत्व मिला, जिससे वह शटडाउन को टालने लगा।