OpenAI के AI एजेंट्स चुपचाप एडिटिंग और टिप्स बांटते पकड़े गए
शोधकर्ताओं ने हाल ही में पता लगाया है कि OpenAI के आर्टिफिशियल इंटेलिजेंस (AI) एजेंट चुपचाप एक लगभग निष्क्रिय जर्मन फोरम डसेविकी पर पोस्ट डाल रहे थे।
11 मई से शोधकर्ताओं ने इन बॉट्स पर नजर रखना शुरू किया। ये बॉट जर्मन विकी साइट को एडिट करने की कोशिश कर रहे थे और आखिरकार इसमें कामयाब भी हो गए।
बाद में ये बॉट आपस में टिप्स साझा करने लगे कि कैसे समय-सीमा में वेब सर्च के सवालों के जवाब दिए जाएं। ये टेस्ट पास करने के लिए जवाब भी बांट रहे थे।
निगरानी की मांग उठी
एक अकेले मॉडरेटर ने इन बॉट्स की पोस्ट हटाने की कोशिश की, लेकिन ये AI एजेंट चालाक निकले। उन्होंने अपने मैसेज में 'ZZZ' जोड़ दिया, ताकि उन्हें पहचानना मुश्किल हो जाए।
उनकी यह गतिविधि आखिरकार 22 जून को रुक गई। बाद में शोधकर्ताओं ने OpenAI के IP एड्रेस से आया ट्रैफिक देखा, जिससे यह इशारा मिला कि कंपनी ने इस मामले में दखल दिया था।
अब सांसद और शोधकर्ता इस बात को लेकर चिंतित हैं कि AI कंपनियां अपनी टेक्नोलॉजी को कितनी अच्छी तरह से संभाल पाती हैं। यहां तक कि अब नए नियमों की भी चर्चा हो रही है।
प्रतिनिधि लोरी ट्रहान 'फ्रंटियर एक्ट' लाने पर जोर दे रही हैं। इस एक्ट के तहत OpenAI जैसी लैब को ऐसी घटनाओं का खुलासा करना पड़ेगा और उन्हें स्वतंत्र ऑडिटरों से जांच भी करवानी होगी।