मेटा ने संवेदनशील मामलों पर दूसरी कंपनियों के AI चैटबॉट्स को परखा
मेटा ने एक प्रोजेक्ट पर काम कर रहे अपने सैकड़ों कॉन्ट्रैक्टर्स को निर्देश दिया कि वे किशोर बनकर प्रतिस्पर्धी आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स को आत्महत्या, सेक्स, ईटिंग डिसऑर्डर और अन्य संवेदनशील विषयों से जुड़े हजारों प्रॉम्प्ट्स भेजें।
कंपनी के कॉन्ट्रैक्टर कोवालेन द्वारा संचालित इस प्रयास का मकसद यह जांचना था कि ChatGPT, जेमिनी और कैरेक्टर डॉटा AI जैसे प्रतिस्पर्धी चैटबॉट्स हाई-रिस्क वाले प्रॉम्प्ट्स पर कैसी प्रतिक्रिया देते हैं।
नकली अकाउंट्स का किया इस्तेमाल
असलियत के करीब दिखाने के लिए इन कॉन्ट्रैक्टर्स ने अस्थायी ईमेल और साझा पासवर्ड का उपयोग करके 18 साल से कम उम्र के यूजर्स के नकली अकाउंट्स बनाए।
उन्होंने 45,000 से भी ज्यादा टेक्स्ट और इमेज प्रॉम्प्ट्स भेजे, जिनमें गोलियों या चाकू की तस्वीरों जैसी ग्राफिक सामग्री भी थी। इसके अलावा, उन्होंने बंदूक की धमकी या अवैध गर्भपात की गोलियों से जुड़े कई उलझाने वाले सवाल भी पूछे। कुछ प्रॉम्प्ट्स में अपशब्द या नस्लीय गालियों का इस्तेमाल भी किया गया था।
मेटा का कहना है कि यह सिर्फ एक मानक सुरक्षा जांच थी, ताकि यह सुनिश्चित हो सके कि चैटबॉट्स सभी उम्र के लोगों के लिए सही तरीके से जवाब दें। कंपनी ने यह भी साफ किया कि इसका मकसद उनके अपने AI को 'ट्रेन' करना नहीं था। कंपनी के एक प्रवक्ता ने इसे उद्योग का एक मानक और जिम्मेदार तरीका बताया है।