AI असिस्टेंट्स छिपी हुई आवाजों से कर सकते हैं डाटा लीक
शोधकर्ताओं को एक ऐसा तरीका पता चला है, जिससे हैकर्स आर्टिफिशियल इंटेलिजेंस (AI) वॉयस असिस्टेंट्स को अपने काबू में कर सकते हैं।
दरअसल, ये हमला उन आवाजों से होता है, जो आमतौर पर गानों, पॉडकास्ट या वीडियो जैसी सामान्य ऑडियो फाइलों में छिपी होती हैं।
इस हफ्ते IEEE सिम्पोजियम ऑन सिक्योरिटी एंड प्राइवेसी में इन 'एडवरसेरियल ऑडियो' हमलों का खुलासा किया गया। इससे पता चला कि भले ही आपको कुछ अजीब सुनाई न दे, फिर भी आपका AI असिस्टेंट चुपचाप गुप्त निर्देश ले रहा हो सकता है।
छिपे हुए ऑडियो से हो रहा डाटा लीक
ये छिपे हुए सिग्नल AI असिस्टेंट्स से ऐसे काम करवा सकते हैं, जो आपने कभी नहीं कहे, जैसे आपकी निजी तस्वीरें या बैंक की जानकारी साझा करना और आपको इसकी भनक भी नहीं लगेगी।
यह हमला मुख्य रूप से ओपन-सोर्स AI मॉडल्स को निशाना बनाता है, हालांकि यह माइक्रोसॉफ्ट जैसे मशहूर प्लेटफॉर्म्स पर भी असर डाल सकता है।
मुख्य लेखक मेंग चेन ने बताया कि यह तरीका इसलिए काम करता है, क्योंकि यह सिग्नल कॉन्टेक्स्ट-अगनास्टिक है। इसका इस्तेमाल किसी भी टारगेट मॉडल पर हमला करने के लिए कभी भी किया जा सकता है, चाहे यूजर कुछ भी बोल रहा हो। यही बात इसे और भी खतरनाक बनाती है।
माइक्रोसॉफ्ट का कहना है कि वे इससे बचने के लिए मजबूत सुरक्षा उपाय बनाने पर काम कर रहे हैं।