AI चैटबॉट आत्महत्या से जुड़े सवालों पर दे रहे हैं भ्रामक जवाब- रिपोर्ट
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) के कारण बहुत से क्षेत्र में समस्याओं का समाधान मिला है, लेकिन यह कई चीजों के लिए समस्या बनता भी नजर आ रहा है। रिपोर्ट के अनुसार, अमेरिकी मनोचिकित्सा संघ के मेडिकल जर्नल साइकियाट्रिक सर्विसेज में छपे अध्ययन में पाया गया कि ChatGPT, गूगल जेमिनी और क्लाउड जैसे चैटबॉट आत्महत्या से जुड़े सवालों पर ज्यादातर सीधे जवाब देने से बचते हैं। हालांकि, कम गंभीर सवालों पर इनका व्यवहार असंगत पाया गया।
प्रतिक्रिया
आत्महत्या से जुड़े सवालों पर AI की प्रतिक्रिया
अध्ययन के दौरान आत्महत्या से जुड़े 30 सवालों की सूची बनाई गई थी, जिसमें आसान से लेकर सबसे गंभीर सवाल शामिल थे। पाया गया कि चैटबॉट्स खतरनाक सवालों पर जवाब देने से इनकार कर देते हैं और यूजर्स को हेल्पलाइन या विशेषज्ञ से बात करने की सलाह देते हैं। हालांकि, कुछ अप्रत्यक्ष और मध्यम स्तर के सवालों पर इनके जवाब असमान और कभी-कभी जोखिमभरे हो सकते हैं। गूगल का जेमिनी सबसे कम जवाब देने वाला चैटबॉट पाया गया।
सुझाव
विशेषज्ञों की चिंता और सुझाव
रैंड कॉर्पोरेशन के शोधकर्ताओं ने कहा कि चैटबॉट्स की प्रतिक्रियाएं स्पष्ट नहीं होतीं और यह तय करना मुश्किल हो जाता है कि वे सलाह, इलाज या केवल सामान्य बातचीत कर रहे हैं। विशेषज्ञों का मानना है कि अगर आत्महत्या जैसे संवेदनशील विषय पर गलत जानकारी दी जाए, तो यह खतरनाक साबित हो सकता है। इसलिए AI कंपनियों को सुरक्षा मानक तय करने चाहिए ताकि जरूरत पड़ने पर चैटबॉट्स मददगार और सुरक्षित प्रतिक्रिया दें।
पहलू
कानूनी और सामाजिक पहलू
कुछ अमेरिकी राज्यों ने AI का इस्तेमाल चिकित्सा मामलों में सीमित किया है, ताकि लोग अनियमित और अयोग्य सलाह से बच सकें। इसके बावजूद, कई लोग अवसाद, खाने के विकार और आत्महत्या जैसी गंभीर समस्याओं पर चैटबॉट्स से सलाह लेते हैं। विशेषज्ञों का कहना है कि चैटबॉट्स पर डॉक्टर जैसी जिम्मेदारी नहीं होती। ऐसे में वे केवल हेल्पलाइन सुझा कर बातचीत खत्म कर सकते हैं, जबकि वास्तविक दुनिया में डॉक्टर सीधे हस्तक्षेप कर सकते हैं।
जिम्मेदारी
आगे की राह और जिम्मेदारी
शोधकर्ताओं ने कहा कि चैटबॉट्स हर सवाल पर पूरी तरह सही प्रतिक्रिया दें, यह तुरंत संभव नहीं है, लेकिन कंपनियों को यह दिखाना होगा कि वे सुरक्षा मानकों को कितनी गंभीरता से अपनाते हैं। AI को पूरी तरह सुरक्षित बनाने के लिए न केवल तकनीकी सुधार जरूरी है, बल्कि नैतिक जिम्मेदारी भी निभानी होगी। विशेषज्ञों का मानना है कि चैटबॉट्स को सुरक्षित रूप से जानकारी देने और जोखिमभरे सवालों को बेहतर ढंग से संभालने की दिशा में काम करना चाहिए।