नैनो बनाना AI मॉडल से बना रहे लोग नकली पैन और आधार, सुरक्षा पर उठे सवाल
क्या है खबर?
गूगल का आर्टिफिशियल इंटेलिजेंस (AI) जेमिनी नैनो बनाना प्रो अपनी बेहतरीन 4K इमेज जेनरेशन और तेज रिजल्ट की वजह से चर्चा में बना हुआ है। लोग इसका इस्तेमाल पोर्ट्रेट बनाने, प्रोफाइल सुधारने और टेक्स्ट को आसान ग्राफिक्स में बदलने के लिए कर रहे हैं। हालांकि, अब कुछ यूजर्स ने पाया है कि यह मॉडल आधार कार्ड या पैन कार्ड जैसी बेहद रियल दिखने वाली नकली IDs भी बिना हिचक बना देता है, जो सुरक्षा के लिए बड़ा जोखिम है।
उपयोग
मॉडल आसानी से बना देता है आधार और पैन कार्ड
रिपोर्ट में बताया गया कि नैनो बनाना प्रो से नकली आधार और पैन कार्ड बनाना आश्चर्यजनक रूप से आसान है। मॉडल यूजर द्वारा डाली गई फोटो, नाम और बाकी सभी डिटेल्स को तुरंत जोड़कर ऐसा डॉक्यूमेंट तैयार कर देता है, जो पहली नजर में असली लगता है। गूगल इन इमेज पर वॉटरमार्क जरूर लगाता है, लेकिन विशेषज्ञों का कहना है कि इन्हें हटाना भी मुश्किल नहीं है, जिससे दुरुपयोग की आशंका बढ़ जाती है।
सवाल
सुरक्षा पर उठे सवाल
यूजर्स का कहना है कि गूगल ने कई तरह की इमेज बनाने पर रोक लगाई है, जैसे हिंसा या संवेदनशील कंटेंट, लेकिन नकली सरकारी IDs जैसे गंभीर मामलों पर मॉडल आसानी से काम कर देता है। इससे यह सवाल उठ रहे हैं कि आखिर गूगल की सेफ्टी टीम इन जोखिमों को कैसे मिस कर गई। मॉडल की रियलिस्टिक इमेज जेनरेशन क्षमता इसे और भी खतरनाक बनाती है, क्योंकि यह असली से मिलती-जुलती पहचान बनाकर गलत हाथों में जा सकती है।
खामियां
पहले भी AI मॉडल्स में देखी गई ऐसी खामियां
यह पहली बार नहीं है जब किसी AI मॉडल ने नकली पहचान पत्र बनाए हों। इससे पहले ChatGPT के मॉडल ने भी ऐसे ID प्रूफ जेनरेट किए थे, लेकिन नैनो बनाना प्रो की समस्या ज्यादा गंभीर इसलिए लग रही है क्योंकि इसकी इमेज बहुत अधिक वास्तविक दिखती हैं। विशेषज्ञों का कहना है कि अगर ऐसे मॉडल्स पर कड़ी रोक नहीं लगी, तो ऑनलाइन फ्रॉड और पहचान चोरी के मामले तेजी से बढ़ सकते हैं।