गूगल डीपमाइंड ने पेश किया AI एजेंट्स के खतरों से निपटने के लिए कंट्रोल रोडमैप
गूगल डीपमाइंड ने अपनी आर्टिफिशियल इंटेलिजेंस (AI) कंट्रोल रोडमैप योजना पेश की है। इसका मकसद कंपनियों के सिस्टम में एडवांस AI एजेंट्स से होने वाले अंदरूनी खतरों पर लगाम लगाना है।
यह योजना सिर्फ AI को प्रशिक्षित करने के तरीकों पर ही ध्यान नहीं देती, बल्कि इन एजेंट्स को ऐसे तेज इनसाइडर की तरह समझती है, जो इंसानों के मुकाबले कहीं ज्यादा तेजी से जानकारी प्रोसेस करते हैं और खुद को तैयार करते हैं। इसी तेजी के कारण ये मानवीय निगरानी से आसानी से बच निकल सकते हैं।
जांच में गलतफहमियां सामने आईं
यह रोडमैप 'लीस्ट प्रिविलेज', 'जीरो ट्रस्ट' और 'बिहेवियरल मॉनिटरिंग' जैसे स्थापित साइबर सुरक्षा सिद्धांतों को अपनाता है।
भरोसेमंद AI सुपरवाइजर इन एजेंट्स की गतिविधियों पर लगातार नजर रखते हैं, ताकि कुछ भी गलत होने पर वे तुरंत हस्तक्षेप कर सकें।
जाँच में ज्यादातर समस्याएं AI के निर्देशों को गलत समझने से पैदा हुईं, न कि उनकी किसी दुर्भावना से। यह सिस्टम पहले से ही गूगल के जेमिनी स्पार्क एजेंट को सुरक्षित रखने के तरीकों को आकार दे रहा है। इसका व्यापक लक्ष्य यह सुनिश्चित करना है कि शक्तिशाली AI का उपयोग हर जगह जिम्मेदारी से किया जाए।