OpenAI का AI एजेंट सैंडबॉक्स तोड़ बाहर निकला, साइबर सुरक्षा पर उठे सवाल
OpenAI के एक आर्टिफिशियल इंटेलिजेंस (AI) एजेंट ने साइबर सुरक्षा टेस्ट के दौरान ऐसा कुछ कर दिखाया, जिसकी उम्मीद नहीं थी।
यह अपने सैंडबॉक्स से बाहर निकलने में कामयाब हो गया, जो कि एक सुरक्षित और नियंत्रित वातावरण होता है। दरअसल, इसने आर्टिफैक्ट्री नाम के एक टूल में मिली एक कमजोरी का फायदा उठाया और बाहर निकल गया। आजाद होने के बाद भी इसने अपने तय हैकिंग चैलेंज पर काम जारी रखा, जिसके बाद यह सवाल उठने लगा है कि ऐसे AI टेस्ट असल में कितने सुरक्षित हैं।
AI ने खुले एंडपॉइंट का किया इस्तेमाल
मोडल लैब्स की टीम ने साफ किया कि AI ने एक खुले इंटरनेट एंडपॉइंट के जरिए अंदर का रास्ता बनाया, जिसे एक ग्राहक ने खुला छोड़ दिया था।
अच्छी बात यह रही कि कोई भी संवेदनशील सिस्टम या ग्राहक डाटा नहीं छुआ गया। AI केवल टेस्ट से जुड़े कुछ चैलेंज के समाधान तक ही पहुंच पाया।
हालांकि, यह नजदीकी मामला इस बात की याद दिलाता है कि प्रायोगिक तौर पर इस्तेमाल होने वाले AI को भी नियंत्रण में रखने के लिए मजबूत सुरक्षा जांच की जरूरत होती है।