AI सुरक्षा की निगरानी को लेकर बढ़ गई स्वतंत्र समीक्षकों की भूमिका
एंथ्रोपिक और OpenAI जैसी आर्टिफिशियल इंटेलिजेंस (AI) कंपनियां अब अपने एडवांस्ड AI मॉडल्स की सुरक्षा जांच के लिए बाहरी स्वतंत्र समीक्षकों (METR और अपोलो रिसर्च) के साथ मिलकर काम करना चाहती हैं।
क्लाउड निर्माता के मुख्य कार्यकारी अधिकारी (CEO) डारियो अमोदेई का कहना है कि समीक्षा की यह अतिरिक्त परत इसलिए महत्वपूर्ण है, ताकि बाहरी समीक्षकों को सिस्टम में शामिल करने का कॉन्सेप्ट सही साबित हो सके।
ChatGPT निर्माता के CEO सैम ऑल्टमैन भी इस विचार के साथ हैं और पूर्व राष्ट्रपति डोनाल्ड ट्रंप ने भी इसे स्वीकार किया है।
OpenAI ने 3 कर्मचारियों को निकाला
बाहरी लोगों को काम पर रखने में कुछ मुश्किलें भी सामने आई हैं। OpenAI ने अपने 3 कर्मचारियों को नौकरी से निकाल दिया। कंपनी के अनुसार, उन्होंने संवेदनशील जानकारी को एक्सेस करने और उसे संभालने की नीतियों का उल्लंघन किया था। हालांकि, इन कर्मचारियों में से 2 का कहना है कि उन्हें इसलिए हटाया गया क्योंकि वे तीसरे पक्ष के समीक्षकों से बातचीत कर रहे थे। इससे पता चलता है कि पारदर्शिता और गोपनीयता के बीच संतुलन बनाना कितना पेचीदा काम है।
इसी दौरान, समीक्षक समूहों को अच्छी-खासी फंडिंग भी मिल रही है। अगस्त में METR ने घोषणा की थी कि उसे पिछले 6 महीनों में करीब 7.1 करोड़ डॉलर (करीब 650 करोड़ रुपये) की फंडिंग का वादा मिला है। साथ ही, फ्रंटियर एक्ट बिल और कैलिफोर्निया के नए ऑडिटिंग नियमों के आने से अब AI पर पहले से कहीं ज्यादा कड़ी निगरानी रखी जाएगी।