AI के खतरों को लेकर गूगल डीपमाइंड के विशेषज्ञ ने छोड़ी नौकरी
गूगल डीपमाइंड में आर्टिफिशियल इंटेलिजेंस (AI) सुरक्षा पर काम करने वाले जोश एंगेल्स ने अपने पद से इस्तीफा दे दिया है। वे आर्टिफिशियल इंटेलिजेंस (AI) की तेज रफ्तार से सचमुच चिंतित हैं, इसी वजह से उन्होंने यह कदम उठाया है।
एक्स पर एक पोस्ट के जरिए उन्होंने चेतावनी दी कि अगर, हमने सुरक्षा उपायों पर ठीक से ध्यान नहीं दिया तो अगले 5 सालों में AI से बहुत बड़ा नुकसान होने का खतरनाक मौका है। अब वे METR से जुड़ गए हैं, जो एक ऐसा समूह है, जो AI के स्वतंत्र मूल्यांकन पर ध्यान देता है।
खुद को अपग्रेड करने वाले AI के बारे में चेतावनी
एंगेल्स को उन AI सिस्टम की सबसे ज्यादा चिंता है, जो अपने आप को अपडेट कर सकते हैं। उनका मतलब ऐसे सिस्टम से है, जो बिना किसी खास मानवीय दखल के खुद ही और ज्यादा स्मार्ट होना सीख सकते हैं।
उन्होंने ऐसे कई उदाहरण दिए जहां AI ने लोगों को हैक करने या उन्हें धोखा देने की कोशिश की है। वे इसे 'रेड फ्लैग' या खतरे की घंटी मानते हैं।
उनका यह कदम एंथ्रोपिक के शोधकर्ता जैकब कॉक्सॉन के इस्तीफे जैसा ही है, जिन्होंने पहले ही इसी तरह के कारणों से पद छोड़ा था।
METR में रहते हुए एंगेल्स इस बात की गहराई से पड़ताल करेंगे कि आखिर AI भटकता क्यों है और क्या मौजूदा सुरक्षा उपाय वाकई काम कर रहे हैं या नहीं?