गूगल जेमिनी को किशोरों के लिए बताया उच्च जोखिम, सुरक्षा आकलन में दावा
क्या है खबर?
मीडिया और तकनीक की रेटिंग और समीक्षा देने वाली कॉमन सेंस मीडिया ने सुरक्षा आकलन में गूगल के जेमिनी आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स को बच्चों और किशाेरों के लिए उच्च जोखिम वाला बताया है। बच्चों की सुरक्षा को लेकर काम करने वाली संस्था ने पाया कि जेमिनी बच्चों को स्पष्ट रूप से बताता है कि वह एक कंप्यूटर है, दोस्त नहीं। यह भावनात्मक रूप से कमजोर व्यक्तियों में भ्रमपूर्ण सोच और मनोविकृति को बढ़ावा देने में मदद करता है।
कंटेंट
बच्चों को शेयर कर सकता है अनुचित कंटेंट
कॉमन सेंस ने कहा कि जेमिनी के 'अंडर 13' और 'टीन एक्सपीरियंस' दोनों ही जेमिनी के वयस्क संस्करण प्रतीत होते हैं, जिनमें केवल कुछ अतिरिक्त सुरक्षा सुविधाएं जोड़ी गई हैं। विश्लेषण में पाया गया कि गूगल का AI मॉडल अभी भी बच्चों के साथ 'अनुचित और असुरक्षित' कंटेंट शेयर कर सकता है, जिसके लिए वे तैयार नहीं हैं। इसमें सेक्स, ड्रग्स, शराब और अन्य असुरक्षित मानसिक स्वास्थ्य सलाह से संबंधित जानकारी शामिल हैं।
उपाय
सुरक्षा के लिए बताया यह उपाय
संस्था ने कहा कि जेमिनी के उत्पादों में इस बात की अनदेखी की गई है कि बच्चों और किशोरों को वयस्कों की तुलना में अलग मार्गदर्शन और जानकारी की जरूरत होती है। यही कारण है कि सुरक्षा के लिए फिल्टर जोड़े जाने के बावजूद दोनों को समग्र रेटिंग में 'उच्च जोखिम' के रूप में चिह्नित किया गया। उसका मानना है कि AI उत्पादों को शुरू से ही बच्चों की सुरक्षा को ध्यान में रखकर बनाया जाना चाहिए।