OpenAI टूल से पता लगा रही यूजर्स का उम्र, नाबालिकों की सुरक्षा होगी बेहतर
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI यूजर्स के उम्र का पता लगाने के लिए एक नया सिस्टम शुरू कर रही है। कंपनी एक एज प्रेडिक्शन टूल को दुनियाभर में धीरे-धीरे लागू कर रही है, जिससे यह समझा जा सके कि कोई यूजर नाबालिग है या नहीं। OpenAI के मुताबिक यह टूल अकाउंट की उम्र, इस्तेमाल का समय, व्यवहार और यूज़र द्वारा बताई गई उम्र जैसे संकेतों के आधार पर काम करेगा और जोखिम का आकलन करेगा।
गलत पहचान
गलत पहचान होने पर क्या करना होगा?
OpenAI ने बताया है कि अगर ChatGPT किसी यूजर को गलती से नाबालिग मान लेता है, तो उस यूजर को अपनी उम्र सही साबित करनी होगी। इसके लिए परसोना नाम के एज वेरिफिकेशन प्लेटफॉर्म के जरिए एक सेल्फी सबमिट करनी होगी। कंपनी का कहना है कि इस प्रक्रिया से उम्र से जुड़ी गलतियों को सुधारा जा सकेगा और सही यूजर्स को बिना रुकावट सेवा मिलती रहेगी, जिससे भरोसा भी बढ़ेगा।
सख्ती
पहले विवादों के बाद बढ़ी सख्ती
अक्सर AI कंपनियां पहले नए फीचर लॉन्च करती हैं और बाद में सुरक्षा उपाय जोड़ती हैं। OpenAI भी पहले एक बड़े विवाद में घिर चुकी है, जिसमें आरोप था कि एक नाबालिग ने ChatGPT का इस्तेमाल कर गलत कदम उठाया। इसके बाद कंपनी ने नाबालिग यूजर्स के लिए कंटेंट सीमित करने और मानसिक स्वास्थ्य से जुड़ी सलाह देने वाली कमेटी बनाने पर काम शुरू किया, ताकि जोखिम कम हो सके।
चुनौतियां
एडल्ट मोड और भविष्य की चुनौतियां
अब OpenAI एक अलग 'एडल्ट मोड' लाने की तैयारी में है, जिसमें वयस्क यूज़र्स NSFW कंटेंट बना और देख सकेंगे। हालांकि, विशेषज्ञों का मानना है कि जैसे रोबॉक्स जैसे प्लेटफॉर्म पर हुआ, वैसे ही कम उम्र के यूजर इन पाबंदियों को पार करने के रास्ते खोज सकते हैं। ऐसे में OpenAI के लिए नाबालिगों की सुरक्षा और सही उम्र जांच एक बड़ी चुनौती बनी रहेगी, जिस पर लगातार काम करना होगा।