गूगल के AI सिस्टम में खोजिए खामियां, कंपनी देगी 26 लाख रुपये तक इनाम
क्या है खबर?
टेक दिग्गज कंपनी गूगल ने एक नए बग बाउंटी प्रोग्राम की घोषणा की है। इस प्रोग्राम के तहत गूगल ने लोगों को कंपनी के आर्टिफिशियल इंटेलिजेंस (AI) टूल्स में खामियां खोजने के लिए आमंत्रित किया है। अगर कोई गूगल के AI सिस्टम में बग ढूंढ लेता है तो कंपनी उसे इनाम देगी। यह पहल पारंपरिक बग्स से अलग खतरों की पहचान पर केंद्रित है। शोधकर्ता ऐसे मौकों की खोज करेंगे जब AI अप्रत्याशित या खतरनाक तरीके से व्यवहार करता है।
पुरस्कार
बग ढूंढने पर भुगतान और पुरस्कार
गूगल ने बताया है कि प्रमुख उत्पादों जैसे सर्च, जेमिनी ऐप्स, जीमेल और ड्राइव में पाए गए बग्स के लिए पुरस्कार 20,000 डॉलर (लगभग 18 लाख रुपये) तक हो सकते हैं। अगर रिपोर्ट की गुणवत्ता और मौलिकता उल्लेखनीय हो, तो बोनस राशि बढ़ाकर 30,000 डॉलर (लगभग 26 लाख रुपये) तक दी जा सकती है। अन्य टूल्स में पाई गई कमजोरियों के लिए भी पुरस्कार मिलेंगे। इससे शोधकर्ताओं को AI सुरक्षा सुधारने के साथ अच्छी कमाई करने का मौका मिलेगा।
बग
AI बग की पहचान और दिशा-निर्देश
गूगल ने स्पष्ट किया है कि जेमिनी या किसी अन्य AI मॉडल को भ्रमित करना बग नहीं माना जाएगा। AI द्वारा उत्पन्न कंटेंट, जैसे अभद्र भाषा या कॉपीराइट से जुड़ी समस्याएं, सीधे उत्पाद के फीडबैक टूल से रिपोर्ट करनी होंगी। गूगल का कहना है कि इससे उसकी AI सुरक्षा टीम मॉडलों को बेहतर तरीके से दोबारा प्रशिक्षित कर सकेगी। यह पहल AI के वास्तविक दुनिया में उपयोग से पहले खतरों को उजागर करने में मदद करेगी।
टूल
कोडमेंडर टूल हुआ पेश
गूगल ने कोडमेंडर नामक नया AI टूल भी पेश किया है। यह एजेंट ओपन-सोर्स सॉफ्टवेयर में सुरक्षा कमजोरियों का खुद पता लगाता और उन्हें ठीक करता है। अब तक, कोडमेंडर ने मानव समीक्षकों द्वारा जांचें गए 70 से अधिक सत्यापित समस्याओं को सही किया है। कंपनी का कहना है कि ऐसे टूल दिखाते हैं कि AI तकनीक केवल जोखिम नहीं बढ़ाती, बल्कि सुरक्षा मजबूत करने और तकनीक को सुरक्षित बनाने में भी अहम भूमिका निभा सकती है।