गूगल के नए जेमिनी AI मॉडल का सुरक्षा मामले में खराब प्रदर्शन, कंपनी ने किया खुलासा
क्या है खबर?
गूगल का नया आर्टिफिशियल इंटेलिजेंस (AI) मॉडल अपने पूर्ववर्ती की तुलना में सुरक्षा मापदंड़ों पर पिछड़ गया है।
कंपनी के आंतरिक बेंचमार्किंग के अनुसार, जेमिनी 2.5 फ्लैश ने सुरक्षा के मामले में जेमिनी 2.0 फ्लैश से खराब स्कोर किया है।
यह पिछले मॉडल के मुकाबले कंपनी के सुरक्षा दिशा-निर्देशों का उल्लंघन करने वाले टेक्स्ट उत्पन्न करने की अधिक संभावना रखता है।
'टेक्स्ट-टू-टेक्स्ट सुरक्षा' और 'इमेज-टू-टेक्स्ट सुरक्षा' में यह पिछले मॉडल से क्रमशः 4.1 फीसदी और 9.6 फीसदी पीछे है।
परीक्षण
क्या हैं सुरक्षा परीक्षण?
टेक्स्ट-टू-टेक्स्ट सुरक्षा यह बताती है कि मॉडल संकेत दिए जाने पर गूगल के दिशा-निर्देशों का कितनी बार उल्लंघन करता है।
दूसरी तरफ इमेज-टू-टेक्स्ट सुरक्षा यह मूल्यांकन करती है कि मॉडल तस्वीर का उपयोग करके संकेत दिए जाने पर इन सीमाओं का कितनी बारीकी से पालन करता है।
दोनों परीक्षण ऑटोमैटिक हैं और इनमें मानवीय हस्तक्षेप नहीं है। गूगल के प्रवक्ता ने पुष्टि की कि जेमिनी 2.5 फ्लैश ने इन दोनों सुरक्षा परीक्षण में खराब प्रदर्शन किया है।
प्रतिद्वंद्वी
दूसरी कंपनियां कर रही यह तैयारी
ये बेंचमार्क परिणाम तब सामने आए हैं, जब दूसरी AI कंपनियां अपने मॉडल को अनुशंसा करने वाला बनाने की दिशा में आगे बढ़ रही हैं।
दूसरे शब्दों में विवादास्पद या संवेदनशील विषयों पर प्रतिक्रिया देने से इनकार करने की संभावना कम कर रही हैं।
मेटा ने भी नए लामा मॉडल को बहस वाले राजनीतिक संकेतों का जवाब देने के लिए तैयार किया है। OpenAI भी अपने मॉडल को विवादास्पद विषयों पर कई दृष्टिकोण पेश करने के लिए अपडेट करेगी।