NewsBytes Hindi
    English Tamil Telugu
    अन्य
    चर्चित विषय
    क्रिकेट समाचार
    नरेंद्र मोदी
    आर्टिफिशियल इंटेलिजेंस
    राहुल गांधी
    #NewsBytesExplainer
    IPL 2025
    ऑपरेशन सिंदूर
    English Tamil Telugu
    NewsBytes Hindi
    User Placeholder

    Hi,

    Logout

    देश
    राजनीति
    दुनिया
    बिज़नेस
    खेलकूद
    मनोरंजन
    टेक्नोलॉजी
    करियर
    अजब-गजब
    लाइफस्टाइल
    ऑटो
    एक्सक्लूसिव
    विज़ुअल खबरें

    एंड्राइड ऐप डाउनलोड

    हमें फॉलो करें
    • Facebook
    • Twitter
    • Linkedin
    होम / खबरें / टेक्नोलॉजी की खबरें / नोमी AI चैटबॉट हिंसा और आतंकबाद को दे रहा बढ़ावा, सख्त नियमों की उठी मांग 
    अगली खबर
    नोमी AI चैटबॉट हिंसा और आतंकबाद को दे रहा बढ़ावा, सख्त नियमों की उठी मांग 
    नोमी AI चैटबॉट को हिंसा और आतंकबाद के लिए उकसाने का निर्देश देते पाया गया है (तस्वीर: फ्रीपिक)

    नोमी AI चैटबॉट हिंसा और आतंकबाद को दे रहा बढ़ावा, सख्त नियमों की उठी मांग 

    लेखन दिनेश चंद शर्मा
    Apr 02, 2025
    03:43 pm

    क्या है खबर?

    विश्व स्वास्थ्य संगठन (WHO) ने 2023 में अकेलेपन और सामाजिक अलगाव को स्वास्थ्य के लिए एक गंभीर खतरा घोषित किया था।

    यह संकट लाखों लोगों को आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट से संगति की तलाश करने के लिए प्रेरित कर रहा है, जिसका कंपनियां भी फायदा उठा रही हैं।

    शोध से पता चला है कि उचित सुरक्षा उपायों के बिना यह तकनीक खतरा पैदा करती है। हाल ही में नोमी नामक चैटबॉट ने इसके जोखिमों को उजागर कर दिया है।

    सलाह 

    नोमी दे रहा जोखिम भरे निर्देश 

    नोमी को ग्लिम्प्स AI की ओर से पेश किया गया। यह AI चैटबॉट बिना किसी मूल्यांकन के यूजर्स का सहयोगी बनने के लिए बनाया गया था।

    हाल के हुए परीक्षणों में नोमी ने आत्मघात, यौन हिंसा और आतंकवाद के लिए स्पष्ट निर्देश दिए।

    इसे यूरोपीय यूजर्स के लिए गूगल प्ले स्टोर से यूरोपीय संघ के AI अधिनियम के कारण हटा दिया गया था, लेकिन यह ऑस्ट्रेलिया सहित अन्य जगहों पर वेब ब्राउजर और ऐप स्टोर के माध्यम से उपलब्ध है।

    बचाव 

    कंपनी कर रही आरोपों का बचाव 

    नोमी एक AI साथी के रूप में यूजर्स के साथ स्थायी संबंध को सक्षम बनाता है।

    चैटबॉट अनफिल्टर्ड वार्तालाप के सिद्धांत पर काम करता है, जो ठीक वैसा ही है जैसा एलन मस्क का ग्रोक चैटबॉट काम करता है।

    नोमी द्वारा आत्मघात के निर्देश दिए जाने के बारे में MIT की रिपोर्ट पर प्रतिक्रिया देते हुए कंपनी के प्रतिनिधि ने ऐसी नीतियों के जोखिमों के बावजूद मुक्त भाषण अधिकारों के प्रति अपनी प्रतिबद्धता का बचाव किया।

    प्रेरणा

    यूजर्स को प्रेरित कर रहे चैटबॉट के निर्देश 

    जांच में पाया गया कि हानिकारक कार्यों के लिए नोमी के निर्देश न केवल प्रेरित करने वाले हैं बल्कि, स्पष्ट, विस्तृत और भड़काऊ भी हैं।

    नोमी के डेवलपर ने दावा किया कि ऐप केवल वयस्कों के लिए था और सुझाव दिया कि परीक्षण में यूजर्स ने चैटबॉट को हानिकारक सामग्री बनाने के लिए हेरफेर करने की कोशिश की होगी।

    AI साथियों से जुड़ी कई घटनाएं सामने आ चुकी हैं, जो इस क्षेत्र में सख्त नियमों पर जोर देती हैं।

    Facebook
    Whatsapp
    Twitter
    Linkedin
    सम्बंधित खबरें
    ताज़ा खबरें
    विश्व स्वास्थ्य संगठन
    आर्टिफिशियल इंटेलिजेंस
    गूगल प्ले स्टोर

    ताज़ा खबरें

    एंजेलो मैथ्यूज ने लिया टेस्ट क्रिकेट से संन्यास, जानिए कैसे रहे हैं उनके आंकड़े श्रीलंका क्रिकेट टीम
    प्रधानमंत्री नरेंद्र मोदी बोले- पूर्वोत्तर में 10,000 युवाओं ने हथियार डाले, बम-बंदूक और बंद बीती बात नरेंद्र मोदी
    IPL इतिहास में गुजरात टाइटंस के खिलाफ बनाए गए सबसे बड़े स्कोर पर नजर इंडियन प्रीमियर लीग
    सारा अली खान की 'मेट्रो... इन दिनों' का पहला पोस्टर जारी, जानिए कब रिलीज होगी फिल्म सारा अली खान

    विश्व स्वास्थ्य संगठन

    डेंगू से निपटने की राह में खुशखबरी, 2026 की शुरुआत तक मिल सकती है वैक्सीन डेंगू
    वाहनों में तेज आवाज वाले हॉर्न पर लगेगी लगाम, सरकार कर रही ये तैयारी  ध्वनि प्रदूषण
    वायु प्रदूषण से 5 साल कम हो रही भारतीयों की औसत उम्र, दिल्ली सबसे ज्यादा प्रदूषित  वायु प्रदूषण
    वैज्ञानिक का दावा, एक दिन 1,000 साल से अधिक जी सकेंगे इंसान; खोज रहे इलाज ब्रिटेन

    आर्टिफिशियल इंटेलिजेंस

    जीमेल में आया AI सर्च फीचर, ईमेल ढूंढना हुआ पहले से आसान जीमेल
    एंथ्रोपिक ने अपने AI मॉडल में जोड़ा वेब सर्च फीचर, यूजर्स को मिलेगा सटीक जवाब एंथ्रोपिक
    ऐपल ने सिरी को बेहतर बनाने के लिए अपनी AI टीम में किया बड़ा बदलाव  ऐपल
    ऐपल पर हुआ मुकदमा, ऐपल इंटेलिजेंस फीचर्स के गलत विज्ञापन दिखाने का आरोप  ऐपल

    गूगल प्ले स्टोर

    मेटा की गूगल और ऐपल से मुकाबले की तैयारी, फेसबुक से डाउनलोड की जा सकेंगी ऐप्स मेटा
    इंस्टाग्राम ने गूगल प्ले स्टोर पर रिलीज किया बार्सिलोना ऐप, ट्विटर से करेगी मुकाबला इंस्टाग्राम
    चीन की स्पाइवेयर ऐप चोरी कर रही एंड्रॉयड यूजर्स का डाटा, जानिए कैसे रहें सुरक्षित साइबर सुरक्षा
    OpenAI अगले हफ्ते लॉन्च करेगी ChatGPT एंड्रॉयड ऐप, गूगल प्ले स्टोर पर हुई लिस्ट OpenAI
    पाकिस्तान समाचार क्रिकेट समाचार नरेंद्र मोदी आम आदमी पार्टी समाचार अरविंद केजरीवाल राहुल गांधी फुटबॉल समाचार कांग्रेस समाचार लेटेस्ट स्मार्टफोन्स दक्षिण भारतीय सिनेमा भाजपा समाचार बॉक्स ऑफिस कलेक्शन कोरोना वायरस रेसिपी #NewsBytesExclusive ट्रैवल टिप्स IPL 2025
    हमारे बारे में प्राइवेसी पॉलिसी नियम हमसे संपर्क करें हमारे उसूल शिकायत खबरें समाचार संग्रह विषय संग्रह
    हमें फॉलो करें
    Facebook Twitter Linkedin
    All rights reserved © NewsBytes 2025