एंथ्रोपिक ने उसके AI मॉडल्स से बड़े जोखिम का खतरा नहीं होने का किया दावा
एंथ्रोपिक ने अपनी नई रिस्क रिपोर्ट जारी की है। इसमें कंपनी ने जानकारी दी है कि उनके आर्टिफिशियल इंटेलिजेंस (AI) मॉडल्स क्लाउड मिथोस 5 और आने वाले मॉडल 2 से बड़े नुकसान का खतरा बहुत कम है।
कंपनी में कोडिंग और डाटा से जुड़े कई काम इन्हीं AI मॉडल्स की मदद से किए जाते हैं। हालांकि, कुछ मुश्किल कामों के दौरान ये AI कभी-कभी अजीब बर्ताव करते हैं, लेकिन कंपनी का मानना है कि इनके कारण कोई बड़ा नुकसान होने की संभावना नहीं है।
क्लाउड लिखता है ज्यादातर प्रोडक्शन कोड
अब क्लाउड ही ज्यादातर वह कोड लिखता है, जिसे कंपनी के प्रोडक्शन कोडबेस में शामिल किया जाता है। साथ ही, रिसर्च और इंजीनियरिंग के कामों में क्लाउड मिथोस 5 और आने वाले मॉडल 2 का इस्तेमाल हो रहा है, जिससे ये काम अब पहले से ज्यादा तेजी से हो रहे हैं।
हालांकि, अभी तक दोगुनी रफ्तार से काम नहीं हो रहा है। रिपोर्ट में कंपनी ने कुछ नए सुरक्षा उपायों के बारे में भी बताया है। इनमें यूजर की गतिविधियों की जांच करना और किसी भी गलत काम को रोकना शामिल है।
ऐसा इसलिए किया गया है क्योंकि हाल ही में हुए कुछ खुलासों के बाद, जब इन AI मॉडल्स का साइबर सुरक्षा में मूल्यांकन किया गया तो इनके बर्ताव को लेकर थोड़ी अनिश्चितता सामने आई थी।