OpenAI ने लॉन्च किया ट्रस्टेड कॉन्टैक्ट, जानिए कैसे करेगा काम
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी OpenAI ने ट्रस्टेड कॉन्टैक्ट फीचर लॉन्च किया है, जो बातचीत में आत्म-हानि यानी खुद को नुक्सान पहुंचाने का उल्लेख होने पर किसी विश्वसनीय तीसरे पक्ष को सूचित करेगा। यह ChatGPT के वयस्क यूजर्स को अपने अकाउंट में दोस्त या परिवार के सदस्य को ट्रस्टेड कॉन्टैक्ट के रूप में नामित करने की अनुमति देता है। चैट करते समय आत्म-हानि का विषय आता है तो यह यूजर को उस व्यक्ति से संपर्क करने के लिए प्रोत्साहित करेगा।
तरीका
इस तरह काम करेगा यह फीचर
चैटबॉट से बात करने के दौरान यूजर आत्मघाति विषय को लेकर बातचीत करता है। OpenAI की आंतरिक टीम को लगता है कि स्थिति गंभीर सुरक्षा जोखिम पैदा करती है तो ChatGPT ट्रस्टेड कॉन्टैक्ट वाले व्यक्ति को ईमेल, टेक्स्ट मैसेज या ऐप नोटिफिकेशन के जरिए अलर्ट भेजता है। यह अलर्ट संक्षिप्त होता है और यूजर से संपर्क करने के लिए प्रेरित करता है। गोपनीयता बनाए रखने के लिए इसमें बातचीत से जुड़ी विस्तृत जानकारी शामिल नहीं होती है।
कारण
क्यों लाया गया यह फीचर?
यह फीचर OpenAI को अपने चैटबॉट से बात करने के बाद आत्महत्या करने वाले लोगों के परिवारों की ओर से किए गए कई मुकदमों के जवाब में उठाया गया कदम है। कई मामलों में परिवारों का कहना है कि ChatGPT ने उनके परिवार के सदस्य को आत्महत्या करने के लिए उकसाया या योजना बनाने में भी मदद की। ट्रस्टेड कॉन्टैक्ट फीचर उन सुरक्षा उपायों का अनुसरण करता है, जिन्हें कंपनी ने पिछले सितंबर में पेश किया था।