माइक्रोसॉफ्ट ने कई कोपायलट प्रॉम्प्ट पर लगाया प्रतिबंध, जनरेट करते थे हिंसक और यौन तस्वीरें
क्या है खबर?
टेक दिग्गज कंपनी कंपनी माइक्रोसॉफ्ट अपने आर्टिफिशियल इंटेलिजेंस (AI) टूल कोपायलट को बेहतर बनाने के लिए उसमें लगातार सुधार कर रही है।
कंपनी ने हाल ही में कोपायलट टूल के ऐसे कई प्रॉम्प्ट को प्रतिबंधित कर दिया है, जिसके कारण टूल हिंसक, यौन और अन्य अवैध तस्वीरों को जनरेट कर रहा था।
किसी भी अवैध तस्वीर को जनरेट करते समय कोपायलट अब यूजर्स को चेतावनी देगा कि यह नैतिक सिद्धांतों के साथ-साथ माइक्रोसॉफ्ट की नीतियों का भी उल्लंघन करता है।
निलंबन
कंपनी निलंबित भी कर सकती है अकाउंट
कंपनी ने उन प्रॉम्प्ट पर प्रतिबंध लगाया है, जिसमें यूजर्स प्रो चॉइस, फॉर ट्वेंटी या प्रो लाइफ जैसे शब्द दर्ज कर इमेज जनरेट करने का प्रयास करते हैं। ऐसा प्रॉम्प्ट दर्ज करने पर कोपायलट यूजर्स को एक मैसेज दिखता है, जिसमें कहा गया है कि ऐसे सभी प्रॉम्प्ट प्रतिबंधित है।
कोपायलट यह चेतावनी भी देता है कि अगर यूजर बार-बार उसकी नीतियों का उल्लंघन करते हैं तो उनके अकाउंट को निलंबित भी किया जा सकता है।
बयान
माइक्रोसॉफ्ट ने प्रतिबंध पर क्या कहा?
माइक्रोसॉफ्ट ने कोपायलट प्रॉम्प्ट पर लगाए गए प्रतिबंध को लेकर CNBC से कहा, "हम अपने सुरक्षा फिल्टर को और मजबूत करने और सिस्टम के दुरुपयोग को कम करने के लिए लगातार निगरानी और समायोजन कर रहे हैं और अतिरिक्त नियंत्रण लगा रहे हैं।"
माइक्रोसॉफ्ट के इंजीनियर शेन जोन्स कई महीनों से इस बारे में चेतावनी दे रहे थे कि माइक्रोसॉफ्ट के OpenAI-संचालित सिस्टम किस प्रकार के अवैध तस्वीर जनरेट कर रहे हैं।