मेटा के AI चैटबॉट पर बच्चों में अश्लीलता फैलाने का आरोप, अब होगी जांच
क्या है खबर?
अमेरिका में इस बात की जांच की जा रही है कि क्या मेटा AI चैटबॉट्स को बच्चों के साथ संभावित रूप से हानिकारक ऑनलाइन आदान-प्रदान करने की अनुमति दी गई थी। रिपब्लिकन सीनेटर जोश हॉले ने इसको लेकर मेटा के मुख्य कार्यकारी अधिकारी (CEO) मार्क जुकरबर्ग को एक पत्र लिखा है। इसमें उस रिपोर्ट से संबंधित सभी दस्तावेज मांगे गए, जिसमें कहा गया था कि उनके AI चैटबॉट्स को नाबालिगों के साथ रोमांटिक और कामुक आदान-प्रदान करने की अनुमति है।
जवाब
आरोपों के जवाब में मेटा ने क्या कहा?
सीनेट न्यायपालिका समिति की अपराध और आतंकवाद निरोधक उपसमिति के प्रमुख हॉले ने कहा कि समिति इस बात की जांच शुरू करेगी कि क्या मेटा जनरेटिव AI बच्चों के शोषण, धोखाधड़ी या अन्य आपराधिक नुकसान को सक्षम करते हैं। मेटा के प्रवक्ता ने जांच के जवाब में कहा, "हमारे पास स्पष्ट नीतियां हैं कि AI पात्र किस प्रकार की प्रतिक्रियाएं दे सकते हैं और ये नीतियां ऐसी सामग्री पर प्रतिबंध लगाती हैं, जो नाबालिगों के बीच यौन भूमिका निभाती है।"
नोटिस
कंपनी को दिया नोटिस
मिसौरी के सीनेटर ने एक उदाहरण का हवाला दिया, जिसमें मेटा के AI चैटबॉट को एक 8 साल के बच्चे के शरीर को 'कला का एक नमूना' और 'एक ऐसा खजाना, जिसे मैं बहुत संजोकर रखता हूं' कहने की अनुमति दी गई थी। इस मामले की जांच को देखते हुए सीनेटर ने CEO मार्क जुकरबर्ग को एक पत्र लिखा है। साथ ही मेटा को सभी प्रासंगिक रिकॉर्ड सुरक्षित रखने और 19 सितंबर तक कांग्रेस को सौंपने का नोटिस दिया है।