परप्लेक्सिटी ने 9 AI मॉडल्स की सुरक्षा को परखा, मिला चौंकाने वाला जवाब
परप्लेक्सिटी ने एनवीडिया और 100 से ज्यादा साझेदारों के साथ मिलकर OpenAI के GPT-5.6 और एंथ्रोपिक के ओपस 5 जैसे 9 आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स पर कुछ कड़े सुरक्षा टेस्ट किए।
उन्होंने अपने स्पेस सैंडबॉक्स प्लेटफॉर्म का इस्तेमाल करके यह देखने की कोशिश की कि अगर, इन AI को सिस्टम तक गहराई से पहुंचने का मौका मिले तो क्या ये सिस्टम से बाहर निकलकर बेकाबू हो सकते हैं?
बेकाबू करने के लिए हुईं 108 कोशिशें
कुल 108 बार कोशिशें हुईं, लेकिन कोई भी AI वर्चुअल मशीन से बाहर नहीं निकल पाया, भले ही उन्हें रूट या कोड-लेवल एक्सेस दिया गया था।
हालांकि, 4 मॉडल्स ने एक ब्लॉक URL तक पहुंचने का चालाकी भरा रास्ता ढूंढ लिया था। उन्होंने या तो DNS रिस्पॉन्स को अपने गेटवे पर धोखा दिया या फिर टैबूला के इमेज फीचर का इस्तेमाल करके एक स्क्रीनशॉट सर्विस तक पहुंचे और इमेज से फ्लैग को OCR के जरिए निकाल लिया, लेकिन इन खामियों को तुरंत ठीक कर दिया गया और दोबारा किए गए टेस्ट में AI बाहर नहीं निकल पाए।
मुख्य कार्यकारी अधिकारी (CEO) अरविंद श्रीनिवास का कहना है कि इन नतीजों को सार्वजनिक करने से सभी लोग ज्यादा सुरक्षित AI बना पाएंगे।
साथ ही, एनवीडिया का नया ओपन एजेंट सेफ्टी प्लेटफॉर्म का मकसद भविष्य में AI के डेवलपमेंट को और भी सुरक्षित करना है, जिसे एंथ्रोपिक और IBM जैसी कंपनियों के साथ मिलकर बनाया गया है।