ChatGPT का इस्तेमाल करते समय बरतें सावधानी, नहीं तो हो सकती है जेल
क्या है खबर?
OpenAI के आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ChatGPT का उपयोग लोग पढ़ाई से लेकर ऑफिस के काम तक के लिए कर रहे हैं। हालांकि, इसका इस्तेमाल करते समय सावधानी बेहद जरूरी है, वरना परेशानी बढ़ सकती है। कंपनी ने कहा है कि अगर किसी बातचीत से दूसरों को गंभीर शारीरिक नुकसान पहुंचाने का खतरा नजर आता है, तो उसे मानव मॉडरेटर द्वारा समीक्षा के लिए भेजा जा सकता है और गंभीर हालत में मामला पुलिस तक भी पहुंच सकता है।
बातचीत
आत्महत्या और धमकी वाली बातचीत
OpenAI ने कहा है कि ChatGPT संवेदनशील बातचीत को अलग तरह से संभालता है। आत्महत्या जैसे इरादे जाहिर करने वाले यूजर्स को यह प्रोफेशनल हेल्पलाइन और संसाधनों की ओर निर्देशित करता है, लेकिन ऐसी जानकारी सीधे पुलिस तक नहीं पहुंचाई जाती। अगर कोई यूजर दूसरों को नुकसान पहुंचाने की धमकी देता है, तो बातचीत को तुरंत विशेष समीक्षा पाइपलाइन में भेजा जाता है। प्रशिक्षित मॉडरेटर स्थिति का आकलन करते हैं और जरूरत पड़ने पर अधिकारियों को सूचित किया जाता है।
चुनौती
लंबी बातचीत में चुनौती
कंपनी ने माना है कि छोटी बातचीत में सुरक्षा उपाय ज्यादा असरदार रहते हैं, जबकि लंबी बातचीत में कुछ खामियां सामने आ सकती हैं। ऐसे मामलों में ChatGPT से ऐसी प्रतिक्रियाएं मिल सकती हैं, जो सुरक्षा प्रोटोकॉल के विपरीत हों। इस समस्या को दूर करने के लिए OpenAI लगातार सुरक्षा तंत्र को मजबूत करने पर काम कर रहा है। लक्ष्य यह है कि एक जैसी सुरक्षा हर बातचीत में बनी रहे और किसी भी खतरे का तुरंत आकलन हो सके।
तैयारी
भविष्य की तैयारी और पारदर्शिता
OpenAI आत्महत्या, नींद की कमी या खतरनाक स्टंट जैसे अन्य जोखिम भरे व्यवहारों को पहचानने और शुरुआती स्तर पर हस्तक्षेप करने की दिशा में भी काम कर रही है। कंपनी किशोरों के लिए पैरेंट कंट्रोल, विश्वसनीय संपर्क और चिकित्सकों से जुड़ाव जैसी सुविधाएं भी लाने की योजना बना रही है। ब्लॉग पोस्ट के अनुसार, ChatGPT पर सभी बातचीत पूरी तरह निजी नहीं हैं। अगर किसी मैसेज में खतरे का संकेत मिलता है, तो उसे मॉडरेटर देख सकते हैं।