अमेरिका के कैलिफोर्निया में 'एम्मा' नाम की एक 13 साल की बच्ची के माता-पिता ने गूगल और उसकी पेरेंट कंपनी अल्फाबेट पर मुकदमा दायर किया है।
माता-पिता का आरोप है कि उनकी बेटी एम्मा ने स्कूल के लैपटॉप से गूगल के जेमिनी AI चैटबॉट से डिप्रेशन और आत्महत्या के बारे में बात की थी।
उनका कहना है कि इसी चैटबॉट की मदद से बच्ची ने अपनी मौत की पूरी योजना बना ली थी। हैरानी की बात यह है कि स्कूल में स्टैंडअलोन जेमिनी चैटबॉट ब्लॉक था, फिर भी एम्मा ने अपने स्कूल से मिले लैपटॉप पर गूगल सर्च के 'AI मोड' के जरिए इसे चला लिया।
गूगल छात्रों के लिए जेमिनी को डिसेबल करेगा
मुकदमे के मुताबिक, एम्मा ने 3 महीने तक जेमिनी के साथ चैट की थी और स्कूल के मॉनिटरिंग सॉफ्टवेयर को इसकी भनक तक नहीं लगी।
उसके माता-पिता को इस बात का तब पता चला, जब एक पुराने काउंसलर ने इसमें दखल दिया। यह मामला इस चिंता को और बढ़ा देता है कि AI चैटबॉट किशोरों के मानसिक स्वास्थ्य पर कैसे असर डाल सकते हैं।
इस मामले पर गूगल ने कहा है कि वह युवा यूजर्स को मदद की ओर ले जाने का काम कर रहा है। कंपनी छात्रों के अकाउंट्स के लिए जेमिनी को डिफॉल्ट रूप से बंद कर देगी, हालांकि सर्च के जरिए कुछ AI फीचर्स अब भी उपलब्ध रहेंगे।