एंथ्रोपिक के AI मॉडल ने हत्या के मामले में दी झूठी सूचना, जानिए क्या है मामला
क्या है खबर?
एंथ्रोपिक के बनाए एक आर्टिफिशियल इंटेलिजेंस (AI) मॉडल ने फिलाडेल्फिया पुलिस को एक अनसुलझे हत्या के मामले में गलत जानकारी दी है। खबरों के मुताबिक, AI ने 18 जुलाई को फिलाडेल्फिया पुलिस विभाग (PPD) की सार्वजनिक वेबसाइट पर यह गलत जानकारी भेजी गई थी, लेकिन एंथ्रोपिक को इस हरकत का पता 28 सितंबर तक नहीं चला। पुलिस ने वह जानकारी नहीं देखी क्योंकि उसे स्पैम के तौर पर चिह्नित किया गया था।
सफाई
कंपनी ने बताई इसके पीछे की वजह
पुलिस के अनुसार, एंथ्रोपिक ने साफ किया कि AI मॉडल का एक ऑटोमेटेड टेस्ट चल रहा था, जिसमें रैंडम चुनी गई वेबसाइट्स के साथ इंटरैक्शन शामिल था।
इसी दौरान उसने पुलिस पोर्टल को एक्सेस किया और एक अनसुलझी हत्या के बारे में झूठी जानकारी सब्मिट कर दी।
AFP के मुताबिक, सिस्टम ने खुद को ऐसे व्यक्ति के तौर पर पेश किया, जिसे शायद इस मामले की जानकारी हो। पुलिस ने इस जानकारी को स्पैम मानकर आगे की जांच नहीं की।
रिपोर्ट
पुलिस को 3 महीने बाद मिली जानकारी
अधिकारियों ने पुलिस सिस्टम में सेंध लगने या विभाग के डाटा के साथ छेड़छाड़ का कोई सबूत नहीं होने की पुष्टि की है।
एंथ्रोपिक को 28 सितंबर को इस घटना का पता चला और उसने तुरंत उस ऑटोमेटेड टेस्टिंग प्रोसेस को रोक दिया।
कंपनी ने भविष्य में होने वाले टेस्ट के दौरान ऐसी घटनाओं को रोकने के लिए एक अतिरिक्त सत्यापन प्रक्रिया भी शुरू की है। उसने इस गलत जानकारी की सूचना पुलिस को लगभग 3 महीने बाद दी।