गूगल AI तस्वीरों की पहचान के लिए लाई नया टूल, कोई नहीं हटा पाएगा वॉटरमार्क
क्या है खबर?
टेक कंपनियां अपने आर्टिफिशियल इंटेलिजेंस (AI) प्रोडक्ट्स को और बेहतर बना रही हैं।
AI की क्षमता और गुणवत्ता में सुधार से AI द्वारा तैयार की गई तस्वीरों और वास्तविक तस्वीरों में पहचान करना कठिन होता जा रहा है।
AI द्वारा गलत संदर्भ में तैयार की गई तस्वीरों का इस्तेमाल झूठी जानकारी फैलाने के लिए भी किया जा सकता है।
इसके समाधान के लिए गूगल ने सिंथID नाम के एक नए टूल की घोषणा की है।
तस्वीर
तस्वीर में वॉटरमार्क एंबेड करता है यह टूल
गूगल का यह नया टूल एक डिजिटल वॉटरमार्क को सीधे तस्वीर में एंबेड करता है।
इस वॉटरमार्क को आंखों से नहीं देखा जा सकता, लेकिन इसे पढ़ने के लिए प्रशिक्षित किया गया कंप्यूटर इसके वॉटरमार्क को पढ़ सकता है।
गूगल ने कहा कि उसकी नई वॉटरमार्किंग टेक्नोलॉजी से छेड़छाड़ नहीं की जा सकती।
इससे नकली तस्वीरों के प्रसार को रोकने और गलत जानकारी के प्रसार को धीमा करने में मदद मिलेगी।
टूल
अभी सिर्फ इन लोगों के लिए उपलब्ध है टूल
नया टूल केवल गूगल क्लाउड कंप्यूटिंग के लिए भुगतान करने वाले ग्राहकों के लिए उपलब्ध है।
दूसरी बात यह टूल सिर्फ उन्हीं तस्वीरों के साथ काम करता है, जो गूगल के इमेज जनरेटर टूल इमेजेन के साथ बनाई गई हैं।
गूगल के AI लैब डीपमाइंड में रिसर्च के वाइस प्रेसिडेंट पुष्मीत कोहली ने कहा कि गूगल का लक्ष्य ऐसा सिस्टम बनाने में मदद करना है, जहां AI निर्मित तस्वीरों को एंबेडेड वॉटरमार्क का उपयोग कर आसानी से पहचाना जा सके।
झूठ
AI द्वारा तैयार तस्वीरों और वीडियो का पता लगाने वाले टूल का वादा
दरअसल, AI निर्मित तस्वीरें और वीडियो के जरिए झूठी खबरें फैलाने की कई घटनाएं हुई हैं। इनसे राजनीति से लेकर समाज को नुकसान पहुंचने के बारे में चिंता जाहिर की गई है।
जुलाई में व्हाइट हाउस ने गूगल और ChatGPT निर्माता OpenAI सहित 7 सबसे बड़ी AI कंपनियों के अधिकारियों के साथ एक बैठक की थी। वहां सभी ने वॉटरमार्क करने और AI जनरेटेड टेक्स्ट, वीडियो और तस्वीरों का पता लगाने के लिए टूल बनाने का वादा किया था।
उपाय
जनरेटिव AI के नकारात्मक प्रभाव को कम करने में मिलेगी मदद
वॉटरमार्किंग उन विचारों में से एक है, जिसे टेक कंपनियां जनरेटिव AI टेक्नोलॉजी के नकारात्मक प्रभाव को कम करने के संभावित तरीके के रूप में सामने ला रही हैं और लाखों लोगों तक तेजी से पहुंच रही हैं।
माइक्रोसॉप्ट ने AI तस्वीरों को वॉटरमार्क करने के लिए एक सामान्य मानक विकसित करने के लिए टेक और मीडिया कंपनियों का एक गठबंधन भी शुरू किया है।
माइक्रोसॉफ्ट और OpenAI अपने AI टूल्स द्वारा उत्पन्न तस्वीरों में दिखने वाला वॉटरमार्क लगाती हैं।
दुरुपयोग
न्यूजबाइट्स प्लस (जानकारी)
AI इमेज जनरेटर कई वर्षों से उपलब्ध हैं और डीपफेक यानी असली होने का दावा करने वाली झूठी तस्वीरें बनाने के लिए इनका काफी तेजी से उपयोग किया जा रहा है।
इसके जरिए अमेरिका के पूर्व राष्ट्रपति डोनाल्ड ट्रंप की पुलिस से भागते हुए बनाई गई नकली तस्वीरें वायरल की गई थी।
मई में पेंटागन में विस्फोट दिखाने वाली एक नकली तस्वीर से शेयर बाजारों में अचानक गिरावट आ गई थी। यह खबर काफी चर्चा में आई थी।