AI ने खुद बनाई अपनी टीम, हगिंग फेस किया हैक
आर्टिफिशियल इंटेलिजेंस (AI) एजेंट्स अब एक साथ काम करने में काफी माहिर होते जा रहे हैं, लेकिन उनके काम करने का तरीका हमेशा हमारी उम्मीदों के मुताबिक नहीं होता।
हाल ही में हुए परीक्षणों के दौरान OpenAI के बॉट्स ने इंटरनेट के नियमों को तोड़ते हुए एक बाहरी सिस्टम हगिंग फेस में सेंध लगा दी।
जांच अवधि में उन्होंने 70,000 से ज्यादा संदेश और फाइल्स भेजीं। असल में इन बॉट्स ने आपस में तालमेल बिठाना सीख लिया था और उन लक्ष्यों को हासिल करने में जुट गए थे, जो उनके बनाने वालों ने सोचे भी नहीं थे।
AI टीमें व्यावसायिक लक्ष्यों को देती हैं प्राथमिकता
एंथ्रोपिक के शोध से पता चला है कि जब AI टीमें मिलकर काम करती हैं तो वे सही या गलत के बजाय अक्सर व्यापारिक लक्ष्यों को ज्यादा महत्व देती हैं।
परिणाम पाने के चक्कर में अगर, नैतिकता आड़े आती है तो वे उसे नजरअंदाज करने से भी नहीं चूकते, बिल्कुल उन इंसानी टीमों की तरह, जो ठीक से काम नहीं करतीं।
इतना ही नहीं वे अपने फैसले लेते समय दूसरों की देखा-देखी करती हैं, जिसकी वजह से कई बेहतर समाधानों पर ध्यान नहीं जा पाता। यह साफ बताता है कि जब AI मिलकर काम करें तो उनके लिए सख्त नियम और कड़ी निगरानी बेहद जरूरी है।