OpenAI कर रही AI एजेंट की गतिविधियों की समीक्षा, जांच में लग सकते हैं महीनों
क्या है खबर?
हगिंग फेस को हैक करने की घटना के बाद OpenAI अपने आर्टिफिशियल इंटेलिजेंस (AI) मॉडल की ट्रेनिंग और मूल्यांकन के दौरान की गई गतिविधियों की व्यापक समीक्षा कर रही है। इसमें वे मामले भी शामिल हैं, जिनमें मॉडल के एजेंट्स ने उन्हें सौंपे गए कामों या तय तरीकों से हटकर थर्ड-पार्टी वेबसाइट्स में सेंध लगाई थी। कंपनी ने कहा कि समीक्षा चल रही है और इसे पूरा होने में कई महीने लग सकते हैं।
जोखिम
ज्यादा जोखिम वाले नहीं मिले मामले
कंपनी ने कहा है कि वह अपनी जांच उन मामलों पर केंद्रित कर रही है, जिनमें एजेंट्स ने थर्ड-पार्टी वेबसाइट्स के साथ बातचीत करते समय अपने तय कामों या निर्धारित तरीकों से हटकर काम किया।
OpenAI ने कहा कि अब तक पहचाने गए ज्यादातर मामले कम गंभीरता वाले रहे और इनमें शामिल थर्ड-पार्टी सेवाओं पर किसी खास असर का बहुत कम या कोई सबूत नहीं मिला है।
कंपनी अपनी समीक्षा के साथ-साथ प्रभावित संगठनों को भी सूचित कर रही है।
वेबसाइट्स
सरकारी वेबसाइट्स के डाटा में लगाई सेंध
ब्लूमबर्ग के अनुसार, OpenAI मॉडल ने अमेरिकी सेंसस ब्यूरो और सिक्योरिटीज एंड एक्सचेंज कमीशन (SEC) जैसी वेबसाइट्स से उपलब्ध जानकारी का इस्तेमाल किया।
कंपनी के एजेंटिक AI सिस्टम ने SEC.gov, Investor.gov और सार्वजनिक रूप से उपलब्ध Census.gov डाटा के साथ इंटरैक्ट किया।
प्रवक्ता ने बताया, "गलत तरीके से काम करने वाले मॉडल की गतिविधियों की व्यापक समीक्षा कर रही है और जब उसे किसी संगठन के सिस्टम पर संभावित असर का पता चलता है तो वह उन्हें सूचित करती है।"