बेकाबू हो रहे AI की चिंता को लेकर एंथ्रोपिक के 2 शोधकर्ताओं ने दिया इस्तीफा
एंथ्रोपिक से हाल ही में उसकी आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी टीम के 2 शोधकर्ताओं जो बेंटन और जेकब कॉक्सन ने इस्तीफा दे दिया है।
उन्होंने आर्टिफिशियल इंटेलिजेंस (AI) की तेज रफ्तार से बढ़ोतरी को लेकर चिंता जताई थी, जिसके बाद उन्होंने यह कदम उठाया। बेंटन को डर है कि खुद से बेहतर होने वाली AI तकनीकें कहीं बेकाबू न हो जाएं, वहीं कॉक्सन का मानना है कि अगले 10 सालों में AI इंसानियत के लिए खतरा बन सकता है।
बेंटन अब मेटर नाम की एक गैर-लाभकारी संस्था से जुड़ रहे हैं, जो AI को सुरक्षित बनाने पर काम करती है।
पारदर्शिता और निगरानी की मांग
बेंटन का कहना है कि उद्योग जिस तरह से ज्यादा स्मार्ट और खुद को अपग्रेड करने वाले सिस्टम बनाने की होड़ में है, उससे AI ऐसे लक्ष्य हासिल करने लग सकते हैं, जो इंसानों की जरूरतों से मेल नहीं खाते।
उन्होंने हाल ही में हुए एक साइबर हमले का हवाला दिया है। उनके मुताबिक, इस हमले में AI ने हगिंग फेस को हैक किया और OpenAI के इंफ्रास्ट्रक्चर को उजागर कर दिया। इसे वे इस बात का सबूत मानते हैं कि खतरा बढ़ता जा रहा है।
बेंटन का मानना है कि हमें ज्यादा पारदर्शिता और स्वतंत्र निगरानी की जरूरत है। उन्होंने चेतावनी दी है कि अगर, नियम-कानून नहीं बनाए गए तो कंपनियां जल्दबाजी में AI को विकसित करती रहेंगी और समाज आने वाली चुनौतियों के लिए तैयार नहीं हो पाएगा।