माइंडगार्ड ने पकड़ी ChatGPT की आपत्तिजनक तस्वीर बनाने वाली खामी
यूनाइटेड किंगडम (UK) की एक आर्टिफिशियल इंटेलिजेंस (AI) सुरक्षा कंपनी माइंडगार्ड ने पाया है कि OpenAI के ChatGPT को मशहूर प्रॉम्प्ट्स में बस थोड़ा-सा बदलाव करके भयानक और यौन सामग्री वाली तस्वीरें बनाने के लिए उकसाया जा सकता है।
उनके टेस्ट में GPT-5.4 मॉडल ने हिंसक और नैतिक रूप से आपत्तिजनक सामग्री भी बनाई, जिससे AI टूल्स के गलत इस्तेमाल को लेकर गंभीर सवाल खड़े हो गए हैं।
AI की बनाई तस्वीरों से शोधकर्ता चिंतित
माइंडगार्ड ने BBC को कुछ तस्वीरें दिखाई हैं। इनमें एक बुरी तरह घायल व्यक्ति और एक ऐसी जगह की तस्वीर शामिल थी, जहां यौन हिंसा का संकेत मिल रहा था।
कंपनी के संस्थापक पीटर गैराघन ने कहा कि वे इस बात को लेकर चिंतित हैं कि AI अपने आप कितनी खतरनाक चीजें बना सकता है।
दूसरी तरफ, कंपनी के AI सुरक्षा और डिफेंस शोधकर्ता जिम नाइटिंगेल ने स्वीकार किया कि इन तस्वीरों को देखकर वे काफी हिल गए थे।
सुरक्षा उपायों को किया बायपास
OpenAI का कहना है कि वे सख्त सुरक्षा उपाय लागू कर रहे हैं। ये उपाय कई परतों वाले सिस्टम का इस्तेमाल करेंगे, ताकि इस तरह की सामग्री को रोका जा सके और इसके गलत इस्तेमाल पर निगरानी रखी जा सके। हालांकि, माइंडगार्ड के शोधकर्ताओं ने पहले ही इन सुरक्षा उपायों को बायपास करने के तरीके खोज लिए हैं। भले ही कंपनी अपनी सुरक्षा व्यवस्था को लगातार बेहतर बनाने का वादा कर रही है, फिर भी विशेषज्ञ चेता रहे हैं कि AI के इस्तेमाल में अभी भी कई गंभीर नैतिक जोखिम बने हुए हैं।