सत्य नडेला ने की AI मॉडल पर 'इमरजेंसी ब्रेक' लगाने की मांग, क्याें बताया जरूरी?
क्या है खबर?
माइक्रोसॉफ्ट के प्रमुख सत्य नडेला ने आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा पर अपनी राय रखी। उन्होंने कहा है कि कंपनियों को शक्तिशाली AI मॉडल को संभावित अंदरूनी खतरे के तौर पर देखना चाहिए, यह मानकर चलना चाहिए कि उनसे छेड़छाड़ हो सकती है और ऐसे 'इमरजेंसी ब्रेक' सिस्टम बनाने चाहिए, जो एजेंटिक मॉडल को बेकाबू होने से रोक सकें। उन्होंने एडवांस्ड AI का इस्तेमाल करने वालों से भी केवल मॉडल निर्माताओं के भरोसे नहीं रहने की नसीहत भी दी।
बदलाव
मॉडल को बंद करने की मिले सुविधा
मुख्य कार्यकारी अधिकारी (CEO) नडेला ने एक्स पोस्ट में लिखा, "हमें यह मानकर चलना चाहिए कि कोई मॉडल खतरे में पड़ सकता है और उसे शुरू से ही काबू में रखना चाहिए। इसे एक इमरजेंसी ब्रेक की तरह समझें।"
आगे लिखा, "किसी अधिकृत व्यक्ति के पास हमेशा यह सुविधा होनी चाहिए कि वह काम के बीच में ही मॉडल को रोक सके या बंद कर सके।"
उन्होंने सुपर इंटेलिजेंस को 'ब्लैक बॉक्स' की तरह नहीं मानने की सलाह दी।
चिंता
कंपनियों की बढ़ रही चिंता
नडेला का बयान ऐसे समय में आया, जब एंथ्रोपिक और OpenAI ने हाल में AI मॉडल के अनचाहे तरीके से काम करने की कई घटनाओं का खुलासा किया।
इन घटनाओं में क्लाउड निर्माता के मॉडल का हत्या के मामले में पुलिस को गलत जानकारी देना और थर्ड-पार्टी वेबसाइट्स का हैक होना जैसी बातें शामिल हैं।
इन खुलासों ने AI से जुड़े सुरक्षा जोखिमों को लेकर चिंता बढ़ा दी है और 'AI किल स्विच' के बारे में चर्चा शुरू कर दी।