एक्स पर ग्रोक से अश्लील तस्वीर बनाने की हो रही आलोचना, जानिए क्या है मामला
क्या है खबर?
अरबपति एलन मस्क के स्वामित्व वाले सोशल मीडिया प्लेटफॉर्म एक्स (पहले ट्विटर) को ग्राेक द्वारा महिलाओं और नाबालिगों की अश्लील इमेज बनाने के लिए भारी आलोचना का सामना करना पड़ रहा है। रिपोर्ट के अनुसार, इस मुद्दे ने कई देशों में नियामक चिंताओं को जन्म दिया है और विशेषज्ञों ने चेतावनी दी है कि सुरक्षा उपायों में खामियों के कारण इसका दुरुपयोग तेजी से फैल गया। इसको लेकर भारत समेत कई देशों की सरकारों ने कंपनी से स्पष्टीकरण मांगा है।
विवाद
ऐसे शुरू हुआ विवाद
रॉयटर्स की रिपोर्ट के अनुसार, यह विवाद तब सुर्खियों में आया, जब यूजर्स ने एक्स पर पोस्ट की गई महिलाओं की तस्वीरों को डिजिटल रूप से बदलने के लिए ग्रोक को उकसाना शुरू किया। इसमें उनके कपड़ों को हटाकर उत्तेजक पोशाकें लगा दी गईं। स्वतंत्र विश्लेषकों की ओर से समीक्षा किए गए कई मामलों में आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ने पूरी तरह से निर्देशों का पालन किया और बिना सहमति के लगभग नग्न या कम कपड़ों वाली तस्वीरें तैयार कीं।
वायरल
तस्वीरों को हटाना हुआ मुश्किल
कुछ अनुरोध विशेष रूप से युवा महिलाओं को लक्षित करते थे, जबकि अन्य में नाबालिगों की तस्वीरें शामिल थीं। प्रभावित व्यक्तियों ने कहा कि उन्हें शुरू में लगा था कि सिस्टम ऐसे अनुरोधों को रोक देगा। इसके विपरीत, बदली हुई तस्वीरें कुछ ही घंटों में प्लेटफॉर्म पर व्यापक रूप से फैल गईं, जिन्हें रीपोस्ट और नकल करने वाले अनुरोधों ने और भी बढ़ा दिया। एक बार जब तस्वीरें फैलने लगीं, तो उन्हें हटाना मुश्किल हो गया।
कार्रवाई
सरकारों ने कंपनी से मांगा जवाब
समस्या की गंभीरता ने सरकारों और नियामकों का ध्यान खींचा। फ्रांस में अधिकारियों ने इस मामले को अभियोजकों के पास भेज दिया है और कंटेंट को अवैध और हानिकारक बताया है। भारत के सूचना प्रौद्योगिकी मंत्रालय ने भी एक्स की स्थानीय यूनिट से स्पष्टीकरण मांगा है और कहा है कि प्लेटफॉर्म अश्लील और आपत्तिजनक कंटेंट के निर्माण और प्रसार को रोकने में विफल रहा। एक्स और उसकी AI सहायक कंपनी xAI ने जांच के निष्कर्षों पर विस्तृत जवाब नहीं दिए।
मांग
सुरक्षा विशेषज्ञ कर रहे यह मांग
AI सुरक्षा विशेषज्ञों और बाल संरक्षण समूहों का कहना है कि यह स्थिति पहले से ही अनुमानित थी। उनका तर्क है कि यथार्थवादी इमेज निर्माण में सक्षम टूल्स के लिए सख्त सुरक्षा उपायों की आवश्यकता है। विशेष रूप से जब उन्हें सोशल प्लेटफॉर्म पर बड़े पैमाने पर उपयोग किया जाता है। विशेषज्ञों के अनुसार, यूजर्स को व्यक्तिगत तस्वीरें अपलोड करने और दृश्य परिवर्तन का अनुरोध करने की अनुमति देने से बिना सहमति के इमेज जनरेशन की संभावना बढ़ गई है।