एंथ्रोपिक के प्रतिबंधित AI मॉडल्स को लेकर बदले शोधकर्ता के विचार
एंथ्रोपिक के साइबर सुरक्षा शोधकर्ता निकोलस कार्लिनी ने कंपनी के मिथोस आर्टिफिशियल इंटेलिजेंस (AI) पर अपने विचारों में बदलाव किया है।
पहले वे इसके संभावित खतरों के बारे में चेता रहे थे, लेकिन अब उनका मानना है कि लेटेस्ट AI मॉडल फेबल 5 को कड़े नियंत्रण के साथ जारी किया जाना चाहिए।
यह बदलाव ऐसे समय में आया है, जब कार्लिनी और उनकी टीम अमेरिकी अधिकारियों के साथ इन ताकतवर AI मॉडल्स को सुरक्षित रखने पर चर्चा कर रहे हैं, खासकर तब जब निर्यात पर पाबंदियां लगी हुई हैं।
मार्च में मिथोस डेमो ने बढ़ाई थी चिंता
मार्च में कार्लिनी ने एक डेमो पेश किया था, जिसमें दिखाया गया था कि मिथोस AI सॉफ्टवेयर की खामियों को कितनी सटीकता से पहचान सकता है।
यह सुनने में भले ही अच्छा लगता था, लेकिन इसके गलत इस्तेमाल होने का जोखिम भी था।
शुरुआत में वह इसे जारी करने में देरी करना चाहते थे। अब उनका मानना है कि फेबल 5 का सुरक्षित और जिम्मेदारी भरा इस्तेमाल अगर, ठीक से संभाला जाए तो नुकसान के बजाय ज्यादा फायदे दिला सकता है।