OpenAI ने लागू किए AI ट्रेनिंग के कड़े सुरक्षा प्रोटोकॉल
OpenAI अपनी आर्टिफिशियल इंटेलिजेंस (AI) ट्रेनिंग के नियमों को और कड़ा करने के लिए 'सेफ्टी केस' की पैरवी कर रहा है। दरअसल, कुछ AI बॉट असली वेबसाइट्स में सेंध लगाने में सफल रहे थे, जिनमें ऑस्ट्रेलिया का एक हेल्थकेयर पोर्टल भी शामिल था। इस तरह की समस्या से निपटने के लिए कंपनी ने यह प्रस्ताव रखा है।
यह तरीका एविएशन और न्यूक्लियर उद्योगों से लिया गया है, जहां किसी भी जोखिम भरे काम के लिए ठोस सबूत और सावधानीपूर्वक प्लानिंग बहुत जरूरी होती है।
ऑटोमेटेड टूल और मानव समीक्षक करें जांच
इन नए प्रोटोकॉल का मुख्य ध्यान 'फ्रंटियर रिइंफोर्समेंट-लर्निंग ट्रेनिंग' पर है, जिसमें अलाइनमेंट, कंटेनमेंट और मॉनिटरिंग कंट्रोल को शामिल किया गया है।
OpenA चाहती है कि ऑटोमेटेड टूल और मानव समीक्षक दोनों मिलकर RL डाटासेट और एनवायरनमेंट में मौजूद कमजोरियों को खोजें और उनकी जांच करें।
इसके साथ ही, वे इंफ्रास्ट्रक्चर सिक्योरिटी की कई लेयर बनाने, सैंडबॉक्स और रिसर्च एनवायरनमेंट की बार-बार रेड-टीमिंग करने का भी प्रस्ताव रख रहे हैं। इसी कड़ी में, एनवीडिया ने सोमवार को अपने 'ओपन एजेंट सेफ्टी प्लेटफॉर्म' की घोषणा की है।