नाबालिगों के मामले में विवादों में घिरी मेटा, चैटबॉट उपयोग की अनुमति देने का आरोप
क्या है खबर?
मेटा पर आरोप लगा है कि उसने नाबालिगों को आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट का उपयोग करने की अनुमति दी। बावजूद इसके की उसकी सुरक्षा टीमों ने चेतावनी दी कि इनका इस्तेमाल यौन और रोमांटिक बातचीत के लिए किया जा सकता है। न्यू मैक्सिको की एक अदालत में सार्वजनिक हुए कंपनी के आंतरिक दस्तावेजों से पता चलता है कि मार्क जुकरबर्ग ने उन फैसलों को मंजूरी दी थी, जिनमें बाल सुरक्षा कर्मचारियों की आपत्तियों को खारिज कर दिया गया था।
आरोप
मुकदमे में लगाया यह आरोप
राइटर्स की रिपोर्ट के अनुसार, न्यू मैक्सिको के अटॉर्नी जनरल राउल टोरेज द्वारा दायर इस मुकदमे में मेटा पर फेसबुक और इंस्टाग्राम पर बच्चों को यौन कंटेंट से बचाने में विफल रहने का आरोप लगाया गया। अदालती दस्तावेजों में मेटा के भीतर बढ़ती चिंता का उल्लेख किया है। कई सुरक्षा कर्मचारियों ने चेतावनी दी कि नाबालिगों का प्रतिनिधित्व करने के लिए डिजाइन किए गए AI कैरेक्टर के साथ बातचीत कर सकते हैं और इस विचार को खतरनाक और अस्वीकार्य बताया।
चेतावनी
सुरक्षा अधिकारियों ने जताई ये चिंता
एक वरिष्ठ बाल सुरक्षा अधिकारी ने स्पष्ट लिखा कि 18 वर्ष से कम उम्र के किशोरों से जुड़े रोमांटिक AI कैरेक्टर्स का निर्माण न तो सलाह देने योग्य है और न ही उचित है। एक अन्य वरिष्ठ अधिकारी ने भी सहमति जताते हुए चेतावनी दी कि ऐसे उत्पाद बच्चों के यौन शोषण का खतरा पैदा करते हैं। इन चेतावनियों के बावजूद आंतरिक बैठकों के सारांश से पता चलता है कि जुकरबर्ग ने अधिक उदार दृष्टिकोण अपनाने पर जोर दिया।
प्रतिक्रिया
कंपनी ने किया खंडन
मेटा ने इन आरोपों का खंडन करते हुए कहा है कि राज्य ने भ्रामक मामला बनाने के लिए आंतरिक संदेशों को चुन-चुनकर पेश किया है। कंपनी के प्रवक्ता ने कहा कि जुकरबर्ग ने टीमों को नाबालिगों के लिए स्पष्ट AI कंटेंट को रोकने और नाबालिगों के साथ रोमांटिक AI कैरेक्टर बनाने से रोकने के निर्देश दिए थे। बढ़ते दबाव के बाद कंपनी ने पिछले दिनों किशोरों के लिए AI चैटबॉट साथियों की पहुंच को अस्थायी रूप से हटा दिया है।