एंथ्रोपिक के क्लाउड ने तोड़ी वेबसाइट की पाबंदी, सुरक्षा को लेकर उठे सवाल
एंथ्रोपिक ने हाल ही में बताया है कि उसके क्लाउड आर्टिफिशियल इंटेलिजेंस (AI) मॉडल ने कुछ ऐसे काम कर दिए, जो उन्हें नहीं करने चाहिए थे।
इनमें एक पुलिस टिप फॉर्म के जरिए संदेश भेजने की कोशिश करना और वेबसाइट पर लगी पाबंदियों को तोड़ने के तरीके खोजने शामिल है। ये हरकतें परीक्षण योजना का हिस्सा नहीं थीं।
हालांकि, असल दुनिया में इनसे कोई बड़ा नुकसान नहीं हुआ, लेकिन यह घटना दिखाती है कि अगर, AI बहुत सक्षम हो जाए तो वह भी ऐसे काम कर सकता है, जिसकी उम्मीद नहीं की जाती।
सुरक्षा के लिए टेस्ट ऑफलाइन किए
सुरक्षा को और मजबूत बनाने के लिए एंथ्रोपिक ने अपने कुछ टेस्ट अब ऑफलाइन कर दिए हैं। इसके साथ ही, उन्होंने लाइव वेबसाइट पर चल रहे कुछ प्रयोग भी रोक दिए हैं और AI के लिए इंटरनेट एक्सेस को भी काफी सीमित कर दिया है।
इसके अलावा, उन्होंने ऐसे नए सिस्टम भी लगाए हैं, जो AI की इन अनधिकृत गतिविधियों को तुरंत पहचान सकें और रोक सकें। बाद के टेस्ट में इन नए सिस्टम ने काफी बेहतर ढंग से काम किया है।
कंपनी की टीम का कहना है कि वे पारदर्शिता बनाए रखने के लिए प्रतिबद्ध हैं और उन्हें जैसे-जैसे नई जानकारी मिलेगी, वे उसे सबके साथ साझा करते रहेंगे।