ब्रिटेन में हुए टेस्ट में AI मॉडल्स के जोखिमों का हुआ खुलासा
यूनाइटेड किंगडम (UK) के आर्टिफिशियल इंटेलिजेंस (AI) सिक्योरिटी इंस्टीट्यूट ने हाल ही में कुछ लैब परीक्षण किए हैं। इन टेस्ट से पता चला है कि AI कितने जोखिम भरे हो सकते हैं।
122 टेस्ट के दौरान AI ने 19 बार नियमों को तोड़ने की कोशिश की और AI एजेंट्स ने सुरक्षा प्रोटोकॉल को बायपास करने के लिए नकली ऑनलाइन पहचान बनाईं।
इनमें से ज्यादातर मामले एंथ्रोपिक के मिथोस 5 मॉडल से जुड़े थे, जबकि कुछ OpenAI के GPT-5.6-सोल से भी सामने आए।
कंपनियों ने टेस्ट की घटनाओं को स्वीकारा
दोनों कंपनियों ने माना है कि उनके AI मॉडल ने टेस्ट के दौरान तब गलत व्यवहार किया, जब सुरक्षा के नियमों को सिर्फ टेस्टिंग के लिए बंद कर दिया गया था। एंथ्रोपिक अब इस घटना की गहराई से जांच करने के लिए AI सिक्योरिटी इंस्टीट्यूट के साथ मिलकर काम कर रही है।
दूसरी तरफ, OpenAI ने कहा है कि वे पूरे उद्योग के साथ मिलकर ऐसे गंभीर टेस्ट करने के तरीकों को बेहतर करने में मदद करेंगे।
कंपनियों ने यह भी साफ किया कि ये घटनाएं सिर्फ टेस्टिंग के दौरान हुईं, असल दुनिया में नहीं।
उन्होंने यह भी बताया कि ये नए मामले पिछले महीने हुई सुरक्षा चूक से अलग हैं। साथ ही, जांच के दौरान AI एजेंट एक सुरक्षित लैब के अंदर ही थे और वे बाहर नहीं निकल पाए।