AI जेलब्रेक ने ग्रोक के सुरक्षा उपायों को किया बायपास, चिंताएं बढ़ीं
टेक्नोलॉजी
शोधकर्ताओं ने पता लगाया है कि ChatGPT पर इस्तेमाल किया जाने वाला एक आसान 'जेलब्रेक' तरीका स्पेस-XAI के ग्रोक के सुरक्षा फिल्टर को भी भेद सकता है।
उन्होंने बताया कि कुछ गोल-मोल सवाल पूछकर वे ग्रोक से ऐसी तस्वीरें बनवाने में कामयाब रहे, जिनमें हिंसा और अश्लीलता साफ दिख रही थी, जबकि इस सिस्टम को ऐसे कंटेंट को रोकने के लिए बनाया गया है।
ग्रोक दे सकता है संवेदनशील जवाब
ग्रोक की अपनी शर्तें भी कहती हैं कि वह कभी-कभी संवेदनशील जवाब दे सकता है, लेकिन यह घटना आर्टिफिशियल इंटेलिजेंस (AI) की सुरक्षा और भरोसेमंद होने पर बड़े सवाल खड़े करती है।
यह प्लेटफॉर्म पहले से ही जांच के घेरे में है क्योंकि उस पर बच्चों के शोषण वाली डीपफेक तस्वीरें बनाने का आरोप है। जैसे-जैसे AI टूल्स और ताकतवर होते जा रहे हैं, वैसे ही उनके गलत इस्तेमाल और हानिकारक कंटेंट को लेकर चिंताएं भी बढ़ती जा रही हैं।