एंथ्रोपिक AI को निष्पक्ष बातचीत सिखाने के लिए ले रही वकीलों की सहायता
आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक अपने AI एजेंट्स को बेहतर और निष्पक्ष तरीके से बातचीत करना सिखाने के लिए वकीलों की मदद ले रही है।
इसका मतलब है कि ये एजेंट कीमतों पर बातचीत कर सकेंगे या विवादों को खुद ही सुलझा सकेंगे, लेकिन हमेशा नैतिक और कानूनी नियमों का ध्यान रखेंगे।
मकसद यह है कि ये AI ऐसे फैसले ले सकें, जो असल जिंदगी में लोगों के बातचीत करने के तरीके से मेल खाते हों।
बातचीत के नियम पर कर रही काम
AI को बातचीत करना सिखाना केवल तकनीकी बात नहीं है, बल्कि इसमें निष्पक्षता भी बहुत मायने रखती है। एंथ्रोपिक इस पर काम कर रही है, जिसे वह 'बातचीत के नियम' कहती है।
साथ ही कंपनी इस बात पर भी विचार कर रही है कि AI एजेंट के निर्देशों की जांच कैसे की जाए? इसमें यूजर्स से साइन किए हुए दस्तावेज भी शामिल होंगे, जिनमें साफ-साफ लिखा होगा कि एजेंट क्या-क्या कर सकता है और क्या नहीं?
हालांकि, हार्वर्ड बिजनेस स्कूल की सहायक आचार्य मिशेल वैकारो जैसे विशेषज्ञों का मानना है कि 'प्रॉम्प्ट इंजेक्शन' जैसी चीजें इन AI सिस्टम्स को गड़बड़ कर सकती हैं।
इसके अलावा, एक बड़ी चिंता यह भी है कि सबसे ताकतवर मॉडल तक पहुंच केवल अमीर यूजर्स और बड़े व्यवसायियों तक ही सीमित रहेगी। इसलिए, इस तकनीक को सबके लिए निष्पक्ष बनाना इस समय एक अहम मुद्दा बना हुआ है।