एनवीडिया ने AI की सुरक्षा के लिए पेश किए टूल, एजेंट्स को अनियंत्रित होने से रोकेंगे
क्या है खबर?
सेमीकंडक्टर की दिग्गज कंपनी एनवीडिया ने 2 ओपन-सोर्स सॉफ्टवेयर सिक्योरिटी टूल लॉन्च किए हैं। ये नए टूल कंपनी के हार्डवेयर पर चलने और यह कंट्रोल करने के लिए बनाए गए हैं कि आर्टिफिशियल इंटेलिजेंस (AI) एजेंट रियल-टाइम में किस चीज का एक्सेस ले सकते हैं। अगर, ये एजेंट नियमों को तोड़ते हैं तो ये टूल उन्हें बंद भी कर सकते हैं। यह कदम ऑटोनॉमस एजेंट के गलत व्यवहार की कई घटनाओं के बाद उठाया गया है।
उम्मीद
भविष्य में हैकिंग रोकने में फायदा मिलने की उम्मीद
एनवीडिया के एंटरप्राइज AI के उपाध्यक्ष जस्टिन बोइटानो ने कहा कि अगर, अत्याधुनिक लैब्स ने अपने AI मॉडल को परखने के लिए इस टेक्नोलॉजी का इस्तेमाल पहले ही किया होता तो हगिंग फेस पर हुए हमले को रोका जा सकता था।
कंपनी को उम्मीद है कि उसका ओपन एजेंट सेफ्टी प्लेटफॉर्म AI डेवलपमेंट की रफ्तार को धीमा किए बिना भविष्य में होने वाली ऐसी सेंधमारी को रोकेगा।
यह उसका तकनीक की सुरक्षा के लिए बड़ा कदम बताया जा रहा है।
नियम
हुआंग ने नियम बनाने को नहीं बताया जरूरी
मुख्य कार्यकारी अधिकारी (CEO) जेंसेन हुआंग ने नए AI नियमों की जरूरत को ज्यादा अहमियत नहीं दी है, लेकिन सुरक्षा की कड़ी जांच पर जोर दिया।
वे सुरक्षा से जुड़ी चिंताओं को इंजीनियरिंग की चुनौती मानते हैं, न कि ऐसी समस्या जिसके लिए और ज्यादा नियमों या वैश्विक तालमेल की जरूरत हो।
हुआंग ने कुछ AI डेवलपर्स के उन दावों को भी खारिज किया है, जिनमें कहा गया था कि उनकी टेक्नोलॉजी से इंसानों का अस्तित्व खत्म हो सकता है।