ट्रांसफॉर्मर आर्किटेक्चर बनाने वाले गूगल के पूर्व कर्मचारी अब क्या कर रहे हैं?
क्या है खबर?
OpenAI के जनरेटिव आर्टिफिशियल इंटेलिजेंस चैटबॉट ChatGPT से मुकाबले के लिए गूगल ने बार्ड लॉन्च किया है। हालांकि, ChatGPT के मुकाबले यह पिछड़ रहा है, लेकिन OpenAI को इसकी सफलता के लिए गूगल को धन्यवाद देना चाहिए।
दरअसल, गूगल के ट्रांसफॉर्मर आर्किटेक्चर के बिना आर्टिफिशियल इंटेलिजेंस (AI) की दौड़ संभव नहीं थी।
गूगल ब्रेन के कुछ वैज्ञानिकों ने 2017 में ट्रांसफॉर्मर आर्किटेक्चर से जुड़ा पेपर लिखा था।
जान लेते हैं अब ये वैज्ञानिक कहां हैं और क्या कर रहे हैं।
ट्रांसफॉर्मर
AI मॉडलों के पीछे ट्रांसफॉर्मर आर्किटेक्चर का योगदान
ट्रांसफॉर्मर आर्किटेक्चर पिछले दशक में नेचुरल लैंग्वेज प्रोसेसिंग (NLP) में होने वाली सबसे महत्वपूर्ण चीजों में से एक है। ये वर्तमान में टॉप पर चल रहे अधिकांश AI मॉडलों की नींव है।
GPT-4, LaMDA या PaLM मॉडलों के पीछे ट्रांसफॉर्मर आर्किटेक्चर देखा जा सकता है। यह काफी स्टेबल है और इसे ऑप्टिमाइज भी किया जा सकता है।
ट्रांसफॉर्मर आर्किटेक्चर की इन्हीं क्षमताओं ने AI क्षेत्र में बड़े बदलाव में योगदान दिया।
पेपर
7 लोग छोड़ चुके हैं गूगल की नौकरी
"अटेंशन इज ऑल यू नीड" उस पेपर का नाम है, जिसने AI के रिसर्च और डेवलपमेंट को बदल दिया।
इस पेपर के लेखक आशीष वासवानी, नोआम शजीर, निकी परमार, जैकब उसजेकोरिट, लिलियन जोन्स, ऐडन एन गोमेज, लुकाज कैसर और इलिया पोलोसुखिन थे। इनमें से अधिकतर लोग अब गूगल में काम नहीं कर रहे हैं।
लगभग 7 लोग गूगल को छोड़ चुके हैं और अलग-अलग जगहों पर काम कर रहे हैं।
वासवानी
आशीष और निकी ने शुरू किया एडेप्ट AI लैब्स
ट्रांसफॉर्मर आर्किटेक्चर के पीछे के सबसे बड़े दिमागों में से एक आशीष वासवानी थे। ये दक्षिण कैरोलिना विश्वविद्यालय से स्नातक हैं और 2016-2021 तक गूगल ब्रेन में एक स्टाफ रिसर्च साइंटिस्ट थे। 2021 में उन्होंने एडेप्ट AI लैब्स को शुरू करने के लिए गूगल को छोड़ दिया।
ट्रांसफॉर्मर टीम की महिला मेंबर निकी परमार भी वासवानी के साथ एडेप्ट की शुरुआत करने के लिए शामिल हो गईं।
जानकारी
एडेप्ट छोड़कर स्टील्थ के को-फाउंडर बने
एडेप्ट ने अब तक लगभग 32 अरब रुपये जुटाए हैं। कंपनी की वैल्यू लगभग 82 अरब रुपये है। अब इन दोनों में से कोई भी कंपनी के साथ नहीं है। नवंबर में दोनों ने एडेप्ट छोड़ दिया और एक स्टील्थ स्टार्ट-अप के को-फाउंडर बने।
नोआम
नोआम शरीज बने कैरेक्टर.AI के को-फाउंडर
नोआम शजीर ने एक पूर्व गूगल इंजीनियर डेनियल डी फ्रेटास के साथ मिलकर कैरेक्टर.AI के को-फाउंडर बने।
शजीर ने भी 2021 में गूगल छोड़ दिया था।
गूगल छोड़ने से पहले तक शजीर ने गूगल में लगभग 2 दशक से अधिक समय तक काम किया था।
इनकी कंपनी कैरेक्टर.AI ने अब तक लगभग 16 अरब रुपये जुटाए हैं और इनकी कंपनी में लगभग 20 कर्मचारी हैं।
कैरेक्टर.AI एक न्यूरल लैंग्वेज मॉडल पर आधारित चैटबॉट वेब एप्लिकेशन है।
जैकब
ट्रांसफॉर्म आर्किटेक्चर की खोज करने वाले के रूप में जाने जाते हैं जैकब
जैकब को ट्रांसफॉर्मर आर्किटेक्चर की खोज करने वाले व्यक्ति के रूप में माना जाता है। उन्होंने लगभग 13 साल बिताने के बाद 2021 में गूगल छोड़ दी और जुलाई, 2021 में इंसेप्टिव के को-फाउंडर बने।
ये कंपनी तंत्रिका तंत्र के साथ RNA अणुओं की अगली पीढ़ी को डिजाइन करने पर काम कर रही है।
बॉयोलॉजिकल सॉफ्टवेयर पर काम करने वाली इनकी कंपनी ने अब तक एक अरब रुपये से अधिक जुटाए हैं।
इलिया
इलिया और लुकाज
इलिया ने उसी साल गूगल छोड़ दिया था, जिस वर्ष ट्रांसफॉर्मर आर्किटेक्चर से जुड़ा पेपर प्रकाशित हुआ था। वो 2017 में ईथेरियम की प्रतिद्वंदी हाई-परफॉर्मेंस ब्लॉकचेन NEAR प्रोटोकॉल के को-फाउंडर बने।
वर्तमान में उनकी कंपनी का मूल्य एक खरब रुपये है और इन्होंने लगभग 30 अरब रुपये जुटाए हैं।
लुकाज ने OpenAI ज्वॉइन करने के लिए 2021 गूगल छोड़ दिया था। लुकाज गूगल के ओपन-सोर्स लैंग्वेज मॉडल (LM) टेंसरफ्लो के को-क्रिएटर्स में से एक थे।
जानकारी
ऐडन ने कोहेयर बनाया तो लिलियन अभी भी गूगल में
लिलियन अभी भी गूगल मे हैं। ऐडन ने 2019 में गूगल छोड़कर उसी वर्ष कोहेयर की स्थापना की। ये एक API के जरिए बड़े लैंग्वेज मॉडल (LLMs) और नेचुरल लैंग्वेज प्रोसेसिंग (NLP) टूल तक पहुंच प्रदान करती है।