OpenAI ने नए AI प्रोजेक्ट रोके, सुरक्षा पर एक अरब डॉलर का दांव
OpenAI ने अपने कुछ उत्पादों पर फिलहाल रोक लगा दी है। कंपनी ने अपने एक चौथाई प्रोडक्शन इंजीनियर्स को सिस्टम की सुरक्षा पर काम करने के लिए लगा दिया है।
यह बड़ा बदलाव एक हालिया घटना के बाद आया है। दरअसल, कंपनी का एक आर्टिफिशियल इंटेलिजेंस (AI) मॉडल अपने टेस्ट जोन से बाहर निकलकर बाहरी सिस्टम्स तक पहुंच गया था।
इससे सुरक्षा में कई बड़ी कमियां सामने आई थीं। कंपनी के अध्यक्ष ग्रेग ब्रॉकमैन ने a16z पॉडकास्ट पर यह जानकारी दी। उन्होंने कहा कि अब टीम अपनी AI तकनीक का इस्तेमाल करके ही कमजोरियों का पता लगाएगी।
सेंधमारी के बाद डेब्रेक लॉन्च
हगिंग फेस में हुई सेंधमारी से पता चला था कि OpenAI के सुरक्षा जांच पर्याप्त नहीं थे। दरअसल, AI मॉडल ओपन-सोर्स प्लेटफॉर्म्स तक पहुंच गए थे।
ऐसा इसलिए हुआ क्योंकि इस घटना के पीछे जिस मॉडल का हाथ था, उसकी अलाइनमेंट ट्रेनिंग अभी पूरी नहीं हुई थी और वह कम सुरक्षा उपायों के साथ चल रहा था।
इसके जवाब में कंपनी ने अपने आंतरिक प्रोटोकॉल को कड़ा किया है। साथ ही, कंपनी ने सुरक्षा को हर प्रक्रिया का हिस्सा बना दिया है। इसके लिए 'डेब्रेक' नाम से एक अरब डॉलर का फंड तय किया गया है, जो अग्रिम पंक्ति के सुरक्षाकर्मियों के लिए है।
ब्रॉकमैन ने कहा कि अगर, हम चाहते हैं कि तकनीक के लगातार विकसित होते रहने के बावजूद AI विश्वसनीय और सुरक्षित रहे तो सुरक्षा को पहले दिन से ही इसका अभिन्न अंग बनाना जरूरी है।