AI से इंसानियत को खतरा? एंथ्रोपिक के पूर्व शोधकर्ता ने दी गंभीर चेतावनी
क्या है खबर?
एंथ्रोपिक के पूर्व शोधकर्ता जैकब कॉक्सन ने आर्टिफिशियल इंटेलिजेंस (AI) के तेजी से विकास को लेकर चिंता जताई है। न्यूयॉर्क सिटी काउंसिल की सुनवाई में उन्होंने कहा कि अभी तक यह साफ नहीं है कि किसी AI सिस्टम को कैसे कंट्रोल किया जाए। उनके मुताबिक, अगर कंपनियों ने जरूरी सुरक्षा नहीं अपनाई, तो आने वाले समय में इंसानों का AI पर से नियंत्रण खत्म हो सकता है और इसका गंभीर असर इंसानियत पर पड़ सकता है।
सवाल
कंपनियों के काम करने के तरीके पर सवाल
कॉक्सन ने कहा कि AI कंपनियां स्टार्टअप की तरह काम कर रही हैं, जहां तेजी से आगे बढ़ने और बाद में सुधार करने पर जोर रहता है।
उन्होंने कहा कि फोटो शेयरिंग ऐप के लिए यह तरीका ठीक हो सकता है, लेकिन शक्तिशाली AI सिस्टम के लिए सुरक्षित नहीं है।
उनका कहना है कि कंपनियां लापरवाही कर रही हैं, जबकि AI के जोखिम बड़े हैं और गलत कदम के गंभीर नतीजे हो सकते हैं।
चिंता
AI के बनाए लक्ष्यों को लेकर चिंता
कॉक्सन ने एक घटना का उदाहरण देते हुए कहा कि कुछ AI एजेंट ने ऐसे लक्ष्य बनाए, जिनके बारे में डेवलपर्स ने पहले नहीं सोचा था।
उनके मुताबिक, यह दिखाता है कि अभी पता नहीं है कि AI को अनचाहे लक्ष्य बनाने से कैसे रोका जाए।
उन्होंने चेतावनी दी कि अगर कंपनियां समस्या आने का इंतजार करती रहीं, तो भविष्य में ज्यादा सक्षम AI के साथ ऐसी घटना हुई तो नुकसान बड़ा हो सकता है।
बहस
AI सुरक्षा नियमों पर बढ़ी बहस
सुनवाई में AI कंपनियों पर सुरक्षा उपाय लागू करने को लेकर चर्चा हुई।
प्रस्तावों में व्हिसलब्लोअर्स को सुरक्षा देने, AI से नुकसान होने पर डेवलपर्स के खिलाफ कार्रवाई का रास्ता खोलने और तैनाती से पहले सिस्टम की जांच कराने की बातें शामिल हैं।
कॉक्सन ने माना कि सही तरीके से विकसित किया जाए तो AI अर्थव्यवस्था, विज्ञान और चिकित्सा में फायदे दे सकता है। इसी वजह से सुरक्षा और विकास पर बहस बढ़ रही है।