LLMs Explained in 12 Minutes | Andrej Karpathy's 3-Hour Course Simplified

अपने ए आई की पढाई शुरू करती है तो इनको आप जानते ही होंगे इन्होंने 3 घंटे की 1 साल पहले 1 वीडियो डाली थी अगर आप में से काफी सारे लोगों ने उसको नहीं देखा है तो मेरी ये वीडियोज देख लेना आपको सब समझ में आ जाएगा। शायद ये पार्ट्स में होगा बट आई विल ट्राय में बेस्ट टू एक्सप्लेन इच एन एवरीथिंग जो इस 3 घंटे की वीडियो में समझाया हुआ है और आप 3 घंटे इन्वेस्ट नहीं करना चाहते है। न यूज 10 देखो इसमें बात करी गई है चार्ट जीपीटी जैसे एलएलएम के बारे में कि कैसे आप एलएलएम को समझ सकते हो। एलएलएम को समझना ाहहमेंहमेशाकहतीहूं फाउंडेशनल नॉलेज बहुत जरूरी है। देखो इस पूरे वीडियो में ये रिकॉर्ड किया गया कि 4 जी पी टी के बिहाइंड क्या है बिहाइंड द सीन क्या क्या चीजें वर्क करती है चार्ट यू पी टी बना कैसे है और आपको कुछ ऐसे की टर्म्स के बारे में पता होना चाहिए ताकि आप मॉडल्स को अच्छे से यूज कर सको और फर्दर जो भी मॉडल आए हैं उससे आपकी ग्राउंडेड नॉलेज अच्छी हो। देखो मॉडल को क्रिएट करने के लिए सबसे पहली चीज जो हमें चाहिए वो है डेटा। अब डेटा कहां से आएगा। डेटा का सबसे पहला सोर्स था इंटरनेट सर्वे वगैरह तो बहुत लंबा प्रोसीजर हो जाता है इसी लिए इंटरनेट का सोर्स लिया जाता है और इंटरनेट के सोर्स के लिए आप हॉगिंग फेस पे फाइन वेबपेज पर जाओगे तो आपको कुछ इस तरीके का वेबपेज मिलेगा जहां पर आपको काफी सारी चीजें जानने को मिलेगी। देखो इन्होंने फोर्टी फोर टेरा बाई डिस्क स्पेस का जो 1 बेसिकली डेटा है वो लिया है जो फिफ्टीन ट्रिलियन टोकंस अप्रोक्सिमेटली जनरेट करता है। राइट अब प्री ट्रेनिंग प्री ट्रेनिंग स्टेज में सबसे पहले होता है यू आर एल फिल्टरिंग, यू आर एल फिल्टरिंग का मतलब भी हम जानेंगे टेक्स एक्स्ट्रेक्शन, लैंग्वेज फिल्टरिंग, ग्रॉफर फिल्टरिंग, मेनहाज फिल्टरिंग, सी फोर, फिल्टर्स, कस्टम फिल्टर्स और पी आई आई रीमूवल देखो काफी सारी चीज होती है। जैसे कि यू आर एल फिल्टरिंग की अगर मैं बात करूं पहले तो रॉ डेटा लिया गया था कॉमन क्रोल वेबसाइट से ये क्या करते हैं सारी वेबसाइट्स को क्रॉल कर करके जो भी अच्छे वेबपेजेज होते है उसमे जो भी यूआरएल होते हैं वो सब एक्सट्रैक्ट करके 1 जगह रखते हैं राइट ये उनका काम है। कॉमन क्रोल वालों का यू आर एल फिल्टरिंग का मतलब है जो एडल्ट साइट्स थी उनकी जरूरत नहीं थी इसलिए उसको हटा देना है। टैक्स एक्स्ट्रेक्शन का मतलब है जब हम वेबसाइट पर कोई टैक्स देखते हैं तो उसमें एचटीएमएल टैग्स होते हैं सीएसए स्कोर होते हैं जिसकी हमें जरूरत नही है हमें सिर्फ और सिर्फ टैक्स चाहिए उसके लिए हम टैक्स ले लेते हैं उसके बाद काफी सारे फिल्टर्स यूज होते हैं ताकि हम डेटा को और अच्छे से क्लीन कर सके। उसको क्लीन करने के बाद हम पी आई आई रिमूवल करते हैं मतलब कि पर्सनल है वो भी हम एल एल एम को नहीं देना चाहते उसको भी हटा देते हैं। उसके बाद स्टेप आता है। जैसे हमारे पास डेटा आता है जो बहुत ज्यादा इम्पोर्टेंट है वो है टोकनाइजेशन। टोकनाइजेशन का मतलब कि वर्ड्स और टैक्स को कनवर्ट करना। टोकंस में देखो। इसको परफॉर्म करना इम्पॉर्टेंट है। न्यूरल नेटवर्क्स के लिए बिकाज न्यूरल नेटवर्क समझ नहीं सकता है। तो इन्होंने अपने विडियो में क्या कहा कि उन्होंने सारा का सारा डेटा प्रोसेस करने के लिए बिकाज ऑबवियसली कंप्यूटर पर लोड काफी ज्यादा आ जाएगा सीपी प्रोसेसिंग होगी। नहीं जीपी बहुत महंगे आते है। इसलिए टोकनाइजेशन परफॉर्म करने के लिए उन्होंने टू हंड्रेड पेजेस का टैक्स लिया है। रॉ टेक्स लिया है और उसको 1 वेबसाइट पर जाकर टोकन में कनवर्ट करके प्रैक्टिकली शो केस किया है कि कैसे टोकनाइजेशन वर्क करता है देखो वर्ड समझ नहीं सकते। इसलिए हमें वन डाइमेंशनल डेटा चाहिए। मतलब टैक्स को कनवर्ट करना है। बिट्स में बिट्स मतलब एट बेड्स राइट जिसमें जीरो का कॉम्बिनेशन होता है। दैन बाइट बिट टू बाइट उन्होंने कनवर्जन किया है जिसमे कि टू फिफ्टी सिक्स पॉसिबल कॉम्बिनेशंस हमें देखने को मिलते हैं। इसको इस तरीके से समझा जैसे हमारे व्हाट्सएप पर इमोजीज होते हैं। टू फिफ्टी सिक्स यूनिक इमोजीज का मतलब है बाइट्स। तो बिट्स को बाइट्स में कनवर्ट करने के बाद हम टोकन जनरेट करते हैं। इसको प्रॉपर्ली करने के लिए हम बाइट पेयर कोडिंग मैथर्ड का यूज करते हैं। हमारा टार्गेट बहुत सिम्पल सा है कि हमें डेटा को श्रिंक करना है। एजमसएसपॉसिबल हमें डेटा को श्रिंक करना है। जितना ज्यादा छोटा डेटा होगा। जितना ज्यादा न्यूमेरिकल डाटा होगा उतना अच्छा न्यूरल सीख पाएगा राइट। अब जो एक्सपेरिमेंट जहां पर आपको प्रैक्टिकली शो केस किया गया है वो ये वेबसाइट है विचस्टिकटोकनाइजर डॉ वर्सल ap इस पर जाकर अगर आप ये बेस मॉडल समझोगे तो क्लिक करोगे। मतलब सेलेक्ट करोगे तो उसमे जाकर आप टोकनाइजेशन जनरेट कर सकते हो। मतलब कि रॉ टैक्स को उठाना किसी भी वेबपेज से उस वेबसाइट पर डालना और उसको एक्जीक्यूट करना मतलब वो आपको टोकंस देगा। कुछ नंबर्स जनरेट करके देगा। सीक्वेंस ऑफ सिंबल्स देगा। टोकनाइजेशन में काफी चीजें इम्पोर्टेंट होती है। स्पेसिस के भी न्यू टोकन्स बन सकते हैं। केस सेंसिटिव होता है इसको इस तरीके से समझा जैसे मान, लो, फॉर्टी, थाउजेंड बेड्स हैं तो उसका अप्रॉक्सिमेटली टू टोकन जनरेट होंगे। जैसे ही टोकनाइजेशन क्रिएट हो जाती है मतलब टोकन, मतलब टोकन जनरेट हो जाते हैं। बेट, बाइट्स, कोडिंग सब कुछ परफॉर्म कर दी जाती है। तब हम करते हैं न्यूरल नेटवर्क की ट्रेनिंग देखो। न्यूरल नेटवर्क की ट्रेनिंग कमप्यूटीशनली हाई होती है। देखिए सी पी और जी पीओ में डिफ्रेंस होता है सी पी ओ सेंट्रल प्रोसेसिंग जो यूनिट है वो चीजों को सीक्वेंशलीलीनियरिं प्रोसेस करती थी। मतलब 1 के बाद 1 बट जी पी की जरूरत पड़ती है। हमें एल एल एम वगैरह की ट्रेनिंग के लिए जो बहुत एक्सपेंसिव भी होते हैं। इसको आप रेंट आउट भी कर सकते हो। एक्सपेंसिव इसलिए होता है और जी पी ओ की खासियत ये है कि वो पैरलरलीचीजों को करता है। मतलब काफी सारी प्रोसेसिंग आप 1 साथ कर सकते हो। अगर आपको एल एल एम अच्छे से समझना है तो इस वेबसाइट पर चले जाना, बी बी वाई सी आर ओ एफ टी नेट एलएलएम। इसमें आपको समझ में आएगा कि, नानो, जीपीटी जैसे मॉडल को क्रिएट करने के लिए क्या क्या पार्ट्स यूज होते हैं। सीक्वेंस ऑफ टोकन्स को ही हम कॉन्टेक्स्ट इनपुट वेट भी कहते हैं। मतलब कि 1 टाइम पर हमने इनपुट में क्या दिया, आय आय अगर मान लो मैं आई एस एन इनपुट दिया और वो आउटपुट में आम बोलता है। दैट इज नेक्स्ट वर्ल्ड को प्रेडिक्ट करना ये असिस्टेंट नहीं है बट यह 1 बेस मॉडल है। बेस मॉडल का काम सिर्फ और सिर्फ प्रेडिक्शन का होता है। जितने ज्यादा इनपुट दूंगी उसके बेसिस पर मैं देखूंगी कि नेक्ट वर्ड प्रेडिक्ट होता है या नहीं। अब एल एल एम की लहर कब से शुरू हुई थी। देखो 4 जीबी टी टू जो टू थाउजन्ड नाइनटीन में आया था ओपन आई ए आई से उसके लिए आप इस पेपर पर चले जाना अन सुपरवाइज मल्टीटास्क लर्नर लैंग्वेज मॉडल इसमें आपको काफी सारी चीजें सीखने को मिलेगी। बिकाज यहीं से ट्रांसफार्मर न्यूरल नेटवर्क क 1 बिगनिंग हुई थी जो वन पाइंट सिक्स बिलियन पैरामीटर्स पर ट्रेन किया गया था और इसका मैक्सिमम कॉन्टेक्स लैंड जो था वन थाउजेंड एंड ट्वेंटी फोर टोकंस था। अब इसमें इसको जो ट्रेन किया गया तो वो हंड्रेड बिलियन टोकन से किया गया था। अभी शायद ट्रेलियन और में भी उससे ज्यादा होगा तो इस न्यूरल नेटवर्क में आपको काफी सारी पेपर में काफी सारी चीजें सीखने को मिलेगी। अगर आप इस गेटअप रेपो पर भी जाओगे तो इन्होंने जो एक्सपेरिमेंट किया है जिनकी वीडियो के बारे में हम लोग बात कर रहे हैं। इन्होंने जो एक्सपेरिमेंट किया है वो भी आपको दिख जाएगा। इन्होंने जी पी ओ रेंट करके जो है एक्सपेरिमेंट किया था। क्लाउड पर जो एनवीडिया के नोट्स आते हैं एच हंड्रेड उस पर विच लेम्डा क्लाउड बेस रेंटिंग आपको अगर ट्रेन करना है कभी तो आप उसका इस्तेमाल कर सकते हो। इस पूरी दैट इज नेक्स्ट वर्ल्ड को प्रेडिक्ट करना ये असिस्टेंट नहीं है बट यह 1 बेस मॉडल है बेस मॉडल का काम सिर्फ और सिर्फ प्रेडिक्शन का होता है। जितने ज्यादा इनपुट दूंगी उसके बेसिस पर मैं देखूंगी कि नेक्ट वर्ड प्रोडेक्ट होता है या नहीं। अब एल एल एम की लहर कब से शुरू हुई थी देखो 4 जी पी टी टू जो टू थासन नाइनटीन में आया था ओपन आई ए आई से उसके लिए आप इस पेपर पर चले जाना अन सुपरवाइज मल्टीटास्क लर्नर लैंग्वेज मॉडल इसमें आपको काफी सारी चीजें सीखने को मिलेगी। बिकाज यहीं से ट्रांसफार्मर न्यूरल नेटवर्क्स की 1 बिगनिंग हुई थी जो वन प्वाइंट सिक्स बिलियन पैरामीटर्स पर ट्रेन किया गया था और इसका मैक्सिमम कॉन्टेक्स लैंड जो था वन थाउजेंड एंड ट्वेंटी फोर टोकंस था। अब इसमें इसको जो ट्रेन किया गया तो वो हंड्रेड बिलियन टोकन से किया गया था अभी शायद ट्रेलियन और में भी उससे ज्यादा होगा तो इस न्यूरल नेटवर्क में आपको काफी सारी पेपर में काफी सारी चीजें सीखने को मिलेगी। अगर आप इस गेटअप रेपो पर भी जाओगे तो इन्होंने जो एक्सपेरिमेंट किया है। जिनकी वीडियो के बारे में हम लोग बात कर रहे हैं। इन्होंने जो एक्सपेरिमेंट किया है वो भी आपको दिख जाएगा। इन्होंने जी पी यू रेंट करके जो है एक्सपेरिमेंट किया था। क्लाउड पर जो एनवीडिया के नोट्स आते हैं एच हंड्रेड उस पर विच लिमडा क्लाउड बेस रेंटिंग आपको अगर ट्रेन करना है कभी तो आप उसका इस्तेमाल कर सकते हो। इस पूरी की पूरी वीडियो में आपको एल एल एम के बारे में, पेपर्स के बारे में, लिंक्स के बारे में, एलएलएम को इंड कैसे सीखना है इसके बारे में अब अब आपको काफी सारे एलएल मॉडल्स दिखते हैं। राइट आप कलर्ड चार्ट, जी, पी डी की बातें नहीं कर रही है। वो में असिस्टेंट है जो कलर्ड, चार्ट, जीपीटी जैसे मॉडल्स हैं वो सारे असिस्टेंट है। मैं बात कर री हूँ बेस मॉडल के बारे में। इस वीडियो में भी आपको बेस मॉडल के बारे में एक्सप्लेन किया गया है कि बेस मॉडल्स होते क्या हैं। बेस मॉडल सिर्फ और सिर्फ टोकन सिमुलेटर्स की तरह होते हैं। जो नेक्स टोकन प्रेडिक्ट करते हैं। नेक्ट वर्ड प्रेडिक्ट करके देते हैं। लामा थ्री का हर्ड ऑफ मॉडल अगर आप पेपर पर जाओगे तो उसमें आप अच्छे से समझ सकते हो कि बेस मॉडल्स क्या होता है। अगर आपको बेस मॉडल से इंटरैक्ट करना है कि वो कैसे एक्सपीरियंस देते हैं तो हाइपर बॉलिवुड एक्स वाई जी वेबसाइट पर चले जाना। वहाँ पर आपको प्रेडिक्शन के बेसिस पर वो आपको हेलो हाय जैसे जवाब नहीं देगा। वो आपको सिर्फ और सिर्फ नेक्स्ट वर्ड जनरेट करके देगा और बेस बेस मॉडल को अच्छे तरीके से यूज कर। अभी ह्यूमन जनरेट तो करता था लेकिन ह्यूमन में फ्लॉस हो सकते हैं। ह्यूमन अच्छे से आंसर फ्रेम नहीं कर सकता था इसलिए उसके लिए भी मॉडल है। विच इस अल्ट्रा चाट। अल्ट्रा चाट 1 ऐसा एलएलएम है जहां पर आप बेसिकली जनरेट कर सकते हो। कॉन्वर्सेशनल डेटा मॉडल की पोस्ट ट्रेनिंग और प्री ट्रेनिंग के बाद जो फील हुआ वो ये था कि मॉडल्स अच्छे जवाब नहीं दे रहा था। जो चीज उसको नहीं भी पता थी वो उसपे भी फुल गारंटी के साथ जवाब देने लगा। इसी को हम ल्युसिनेशन कहते थे। राइट ये इसका मतलब है कि फॉल्स फैब्रिकेटेड और मिसलीडिंग जवाब देना जो चार्ट जीपीटी जैसे मॉडल्स देते हैं। इसके लिए आपको अगर टेस्ट करना है कि ल्युसिनेशन होता क्या है तो एनफुरेंसब्लेग्राउड पर जाकर। आप सिम्पली हॉगिंग फेस में अगर आप जाओगे और आप सर्च करोगे। इनफरेंस ब्लेग्राउंडतो आपको 1 पेज दिखेगा जहां पर आप देख सकते हो कि किस तरीके से जो है। मॉडल्स आपको गलत चीजें बताता है। विद कॉन्फिडेंस अभी तो काफी अच्छे मॉडल्स आ चुके हैं। अभी तो काफी इंटेलीजेंट हो चुके हैं। मॉडल बट इसको सॉल्व करने के लिए भी आपको मेथड्स की जरूरत थी। ऑवियसली हमें मॉडल को बताना पड़ेगा कि वो गलत है। तो कैसे 2 तरीके हो सकते हैं। पहला या तो मॉडल को बोलो कि खुद जाकर, गूगल पे सर्च करे अभी करंट की इनफॉर्मेशन ले या तो उसको नॉलेज बेस्ड रिफ्यूजल भी देना। आना चाहिए कि मुझे इसके बारे में नहीं पता। जब इनिशियली चार्ट जीबीटी जैसे मॉडल आए थे तो ये सब कुछ देखने को मिला था इसलिए सर्च अलाव करना बहुत इम्पॉर्टेंट था और उसी के फीचर पर काम किया गया है उसके बाद पर इसमें इम्पॉर्टेंट चीज ये कि कॉन्टेक्ट विंडो वर्किंग विंडो मतलब कि 1 टाइम पे मॉडल कितना टेक्स्ट कितना कोड कितना डेटा प्रोसेस कर सकता है इसको हम हमेशा टैक्स के फॉर्मेट में मेशर नहीं करते हैं इसको हम हमेशा मेशर करते हैं टोकंस के फॉर्मेट में और इसको एनालाइज कर सकते हैं 1 पर्टिकुलर मॉडल 1 पर्टिकुलर टाइम पर उसी को हम कांटेक्ट विंडो कहते हैं। अब इसके बाद 2 और चीजें बहुत इम्पोर्टेंट है जो कंफ्यूजिंग लगती है काफी लोगों को जो इस वीडियो में बताई भी गई है वॉग री कलेक्शन एंड वर्किंग मेमोरी वॉग री कलेक्शन का मतलब है कि पैरामीटर की नॉलेज कितनी है वो अपने आप को जो उसने पहले 1 महीने पहले देखा था 1 महीने पहले पढ़ा था क्या मॉडल को अभी भी पता है दैट इज ए देन वोर्किंग मेमरीज अभी करें की मेमरी अगर आप हगिंग फेस के डेटा सेट एल एन ए आई पर जाते हो और यह मॉडल सेलेक्ट करते विच इज एन ओपन सोर्स हार्ड कोडेड कॉन्वर्सेशनल एलएलएम मॉडल तो आपको काफी सारी चीजें सीखने को मिलेगी काफी सारी चीजें जानने को मिलेगी देखो सबसे पहली चीज एलएलएम के बारे में कि वो खुद के बारे में कुछ नहीं जानता है किसने बनाया आकांशा ने बनाया या किसी और ने बनाया वो नहीं जानता है राइट मॉडल को टोकंस के बारे में पता है मॉडल को टोकन चाहिए सोचने के लिए जो कि आईडी कॉम्पिटिशन होता जा रहा है। मॉडल्स नंबर काउंट नहीं कर सकता, मॉडल स्पैलिंग काउंट नहीं कर सकता मॉडल यह नहीं बता सकता है वार्ड में कितने बाउल्स है। मॉडल यह नहीं बता सकता है कि फ्लोट या फिर जो नंबर्स उनमें क्या डिफरेंस होता है। इसी लिए हमें जरूरत पड़ती है एसएफटी मॉडल्स की यह मॉडल ट्रेन करने के बाद एसएफटी मॉडल्स क्रिएट होते हैं विच सुपरवाइज फाइंटयूनिंग मॉडल्स फाइनटयूनिंग मॉडल है मतलब पहले बैग्राउंड नॉलेज देते हैं उसके बाद उसको प्रैक्टिस कराते हैं प्रैक्टिस कराने के बाद कुछ प्रॉम से उसकी ट्रेनिंग भी कराते हैं। ट्रायल एंड एरर रर भी कहते हैं और रीइनफोर्समेंट लर्निंग और एसएफटी मॉडल्स में डिफरेंस भी होता है रीइन्फोर्समेंट लर्निंग मॉडल मतलब ट्रायल उसपे अगर आप काम करना चाहते हैं तो डीप सी आर वन का ये पेपर सर्च करना गूगल पे जहाँ पर आपको आर्ट ऑफ प्रॉब्लम शेल्विंग डेटा साइट के साथ 1 मॉडल क्रिएट करने को भी मिलेगा। एसएफटी और आर एल सुपरवाइज्ड फाइन ट्यूनिंग मॉडल वो होता है जहां पर हम बेस मॉडल्स पर ह्यूमन रिटर्न ट्रम्प रेस्पॉन्स पर वर्क करते हैं। टुगेदर आई 1 ऐसी वेबसाइट है जहां पर आप इसको एक्सपीरियंस भी कर सकते हैं और 1 अच्छी वेबसाइट है जहां से आपको एलएलएम के बारे में काफी कुछ सीखने को मिलेगा और ये कुछ रेकमेंडेशन है बाय द एंड ऑफ दिस वीडियो विच विल गेट।