IPO से पहले एंथ्रोपिक ने AI के खतरों को लेकर दी चेतावनी, जानिए क्या कहा
क्या है खबर?
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक ने सबसे बड़े आरंभिक सार्वजनिक पेशकश (IPO) लाने के लिए S-1 पेपरवर्क दाखिल किया। इससे पहले एक बार फिर उन संभावित खतरों के बारे में चेतावनी दी है, जो उसके AI सिस्टम मानवता के लिए पैदा कर सकते हैं। दाखिल प्रॉस्पेक्टस में 90 से अधिक पन्नों में जोखिम कारकों की जानकारी दी गई। इनमें वे संभावित खतरे भी शामिल हैं, जो उसकी तकनीक को सुरक्षित विकसित करने की क्षमता पर असर डाल सकते हैं।
खतरा
AI सिस्टम्स कब पैदा करते हैं खतरा?
फाइलिंग के अनुसार, कंपनी ने बताया कि नीति-निर्माताओं, नियामकों और शोधकर्ताओं के साथ-साथ संगठन के भीतर के लोगों ने भी यह चिंता जताई है कि AI सिस्टम मानवता के लिए एक बड़ा खतरा पैदा करते हैं।
इसमें कहा गया है कि एडवांस AI सिस्टम्स अगर, उचित सुरक्षा उपायों, निगरानी और सुरक्षा इंतजामों के साथ विकसित, तैनात और संचालित नहीं किए जाते हैं तो मानवता के लिए विनाशकारी या अस्तित्व से जुड़े खतरे पैदा कर सकती हैं।
दुरुपयोग
ऐसे हो सकता है इनका दुरुपयोग
क्लाउड निर्माता ने बताया कि ऐसा तब हो सकता है, जब इन सिस्टम्स का दुरुपयोग किया जाए, इनकी नकल तैयार की जाए, हथियारों में बदला जाए या इन्हें बहुत अधिक ऑटोनॉमस काम करने की छूट दे दी जाए।
उसने बताया कि इसका उपयोग साइबर हमले या जैविक हथियार तैयार करने में किया जा सकता है।
कंपनी ने दावा किया है कि उसके पास अपनी तकनीक के दुरुपयोग को रोकने के लिए कड़े सुरक्षा उपाय और भरोसेमंद एक्सेस प्रोग्राम मौजूद हैं।