OpenAI ने साइबर सुरक्षा के लिए खतरा बने अस्त्र मॉडल पर काम रोका
OpenAI ने अपने आने वाले मॉडल एस्ट्रा के कुछ हिस्सों पर काम रोक दिया है। कंपनी को पता चला कि यह मॉडल बेहद सुरक्षित कंप्यूटर सिस्टम पर भी साइबर हमले करने में सक्षम है।
कंपनी के अंदरूनी परीक्षणों में सामने आया कि एस्ट्रा मॉडल ने गंभीर साइबर सुरक्षा स्तर को पार कर लिया था। इसके चलते ChatGPT निर्माता के 2023 प्रिपेयर्डनेस फ्रेमवर्क के सुरक्षा प्रोटोकॉल फौरन सक्रिय हो गए।
सुरक्षा नियमों को बना रही सख्त
OpenAI अब अपनी सुरक्षा संबंधी नियमों को और सख्त कर रहा है। कंपनी उन सभी प्रोजेक्ट्स पर रोक लगा रही है, जो इन नए सुरक्षा मानकों को पूरा नहीं करते।
सरकारी एजेंसियों और आर्टिफिशियल इंटेलिजेंस (AI) सुरक्षा समूहों के साथ मिलकर कंपनी इन जोखिमों से निपटने का तरीका तलाश रही है, खासकर तब जब लोगों को यह डर सता रहा है कि प्रयोग के तौर पर विकसित किए गए AI कहीं बेकाबू न हो जाएं।
यह पहली बार नहीं है कि अन्य AI लैब के साथ भी ऐसी घटनाएं हुई हों।