OpenAI नए टूल पर कर रही काम, AI से बनी तस्वीरों को पहचानना होगा आसान
क्या है खबर?
ChatGPT बनाने वाली कंपनी OpenAI आर्टिफिशियल इंटेलिजेंस (AI) के दुरुपयोग को कम करने के लिए लगातार कदम उठा रही है।
कंपनी ने हाल ही में अपने क्लासिफायर नामक एक नए टूल पर काम करना शुरू किया है, जिसकी मदद से यह पता लगाया जा सकेगा कि कौन-सी तस्वीर उसके DALL-E AI इमेज जेनरेटर का उपयोग करके बनाई गई है।
ऐसी तस्वीरों को अधिक स्पष्ट रूप से चिह्नित करने के लिए नए वॉटरमार्किंग तरीके भी जोड़े गए हैं।
बयान
नए टूल को लेकर कंपनी ने क्या कहा?
OpenAI ने एक पोस्ट में कहा है कि उसने कंटेंट को ट्रैक करने और यह साबित करने के लिए नए तरीकों को विकसित करना शुरू कर दिया है कि यह तस्वीर AI द्वारा बनाई की गई थी या नहीं।
इनमें एक नया इमेज डिटेक्शन क्लासिफायर शामिल है जो यह निर्धारित करने के लिए AI का उपयोग करता है कि क्या तस्वीर AI द्वारा उत्पन्न की गई थी।
OpenAI वर्षों से AI-जनरेटेड कंटेंट का पता लगाने पर काम कर रही है।
टूल
कैसे काम करता है टूल?
OpenAI का दावा है कि क्लासिफायर इस संभावना का अनुमान लगा सकता है कि कोई तस्वीर DALL-E 3 द्वारा बनाई गई थी। यह टूल तब भी काम करता है, जब तस्वीर को क्रॉप या एडिट किया गया हो।
OpenAI ने पहले कोएलिशन ऑफ कंटेंट प्रोवेंस एंड अथॉरिटी (C2PA) से इमेज मेटाडेटा में कंटेंट क्रेडेंशियल जोड़े थे। कंटेंट क्रेडेंशियल वॉटरमार्क होते हैं, जिनमें यह जानकारी शामिल होती है कि तस्वीर का मालिक कौन है और इसे कैसे बनाया गया।