Backpropagation & Gradient Descent Explained (From Scratch)
Learn how neural networks train themselves using backpropagation and gradient descent. The video walks through the math step by step: computing error at the output layer, propagating it backward through hidden layers, and updating weights with the rule weight = weight + learning_rate × delta × input. See a full training loop run thousands of times and watch the loss shrink.
Chapters
तो आपका स्वागत है मेरे चैनल पर आज हम बात करने वाले है 1 ऐसे प्रोजेक्ट को बिल्ड करने के बारे में जिसका नाम है न्यूरल नेटवर्क और हम स्क्रैच से बिल्ड करेंगे और मैंने ये बिगनर फ्रेंडली आई प्रोजेक्ट रखा है जिसमे हम सिर्फ और सिर्फ पाइथन का इस्तेमाल करेंगे और हम ये समझेंगे की मैथेमेटिक्स का इस्तेमाल करके 1 न्यूरल नेटवर्क बनाया जा सकता है तो कैसे बनाया जा सकता है कैसे उसके आउटपुट को प्रोजेक्ट करना है हर 1 चीज बेसिक सी हम करेंगे अगर आपने पायथन बेसिक्स अगर आपको आता है तो आप इस वीडियो को देख सकते हो कंटिन्यू इस वीडियो को पूरा देखना तभी आपको हर 1 चीज समझ में आएगी क्योंकि मैंने इसमें काफी अच्छे अच्छे टॉपिक्स को भी इन्क्लूड किया हुआ है कौन कौन से टॉपिक से हर 1 चीज एग्जाम्पल के साथ हम समझेंगे बट उसके लिए आपके पास पेशेंट्स होना चाहिए और आपके पास इंट्रस्ट होना चाहिए तार से 2 ही चीजें रिक्वायर्ड है इस वीडियो के लिए हम पाइथन में सिर्फ और सिर्फ लूप से और उप प्रोग्रामिंग के बेसिक से हम 1 न्यूरल नेट बनाना सीखेंगे इस वीडियो में और सबसे बेस्ट पार्ट इस वीडियो का यह है कि जब हम खुद बिल्ड करेंगे तो हमें ऐक्चवली में समझ में आएगा कि जितने भी ए आई टू अभी मार्केट में है वो सारी की सारी चीजें काम कैसे करती है क्यूंकि जनरली लोग एजेंट एजेंट के आई के बारे में ज्यादा बात कर रहे हैं जहाँ पर कुछ भी नहीं करना होता बस ए पी आई को कॉल करना होता है और उस इंजन के अन्दर आप उसको 1 तरीके से पर्सनलाइज्ड कर देते हो पर हम सीखेंगे की कैसे ये सारी चीजें सिखाई जा सकती है कैसे ये सारी चीजें बन सकती हैं। कैसे आप खुद का 1 जी पी टी बना सकते हो बट हम जी पी टी की बनाने के बारे में बाद में बात करेंगे। पहले बात करते है न्यूरल नेटवर्क क्या होता है न्यूरल नेटवर्क ही 1 ऐसी मेन चीज है जो पूरी की पूरी कोर है हर 1 चीज के बारे में मतलब 1 मॉडल के बारे में तो हम इस वीडियो में चलिए पहले जान लेते हैं क्या क्या चीजें हम कवर करने वाले हैं। तो मैंने इस विडियो को कुछ इस तरीके से सेगमेंट किया हम न्यूरल नेटवर्क के बारे में पढ़ेंगे 1 प्रॉब्लम स्टेटमेंट मैंने ली है एक्स आर की जो 1 लॉजिक गेट होता है उसके बारे में भी हम बात करेंगे न्यूरॉन कैसे क्या होता है एक्टिवेशन क्या होता है क्यूँ से यूज करते हैं क्यूँ मैथेमेटिक के ही ये जो फंक्शन है इसका इस्तेमाल करते है कैसे फॉर्म होता है मतलब आपको याद कुछ भी नहीं करना है बट हम प्रैक्टिकल ली देखेंगे की ये फॉर्म कैसे होता है क्यूँ इस चीज की जरुरत है स्क्वायर करा तो क्यों कर क्यों नहीं किया हर 1 चीज के बारे में डीटेल में बात करेंगे इस वीडियो के अलावा भी अगर आपके पास कोई डाउट है तो आप नीचे ड्रॉप कर सकते हो हम देखेंगे की नील नेटवर्क कैसे क्रिएट किया जा सकता है, लेयर कैसे क्रिएट किया जा सकता है और हर 1 मॉडल के पीछे जो काम करता है वो है लॉस फंक्शन। लॉस फंक्शन के बारे में भी हम डिटेल में बात करेंगे। काफी सारे लोगों ने आलरेडी सुना होगा। मीन स्क्वायर डायर के बारे में हम डिटेल में बात करेंगे की कैसे मिंस्क कैलकुलेट होता है, क्यूँ इसकी जरूरत होती है लॉ को, लॉस को कैसे कैलकुलेट करते हैं और 2 बहुत ही इम्पोर्टेंट टॉपिक को भी हम इसी वीडियो में कवर करने वाले हैं। बैक प्रोपगेशन एंड ग्रेडिएंट डीसेंट इन्ही दोनों के बारे में भी हम बहुत डिटेल में बात करेंगे। कैसे चैन रूल से आप इसको अचीव कर सकते हो, लर्निंग रेट क्या हो सकता है। आपके मॉडल को बहुत सारी चीजें ठीक है। चलिए शुरू करते है बिना टाइम वेस्ट करे। अब मैं बात करती हूँ की हम इस वीडियो को कैसे समझने वाले हैं। अच्छे तरीके से समझने के लिए मैंने ये 1 माइंड मैप भी बनाया है। सबसे पहले हम कोर कॉन्सेप्ट्स को समझेंगे कि क्या उसका फंक्शन एनालोगी है या फिर मैथेमेटिकली कैसे वर्क करता है, नेटवर्क आर्किटेक्चर कैसा होता है, इनपुट आउटपुट मैपिंग कैसे होती है, कैसे न्यूरोंस उसके अन्दर एग्जिस्ट करते हैं। हर 1 चीज के बारे में हम बात करेंगे। इम्प्लीमेंटेशन भी देखेंगे की कैसे न्यूरॉन क्लासेस, लेयर क्लासेस क्रिएट होती है, न्यूरल नेटवर्क कैसे क्रिएट होता है। उसके बाद हम ट्रेनिंग प्रोसेस पर जायेंगे जहाँ पर हम लॉस फंक्शन, बैक प्रोपोगेशन, ग्रेडिएंट डी सेंटर ट्रेनिंग लूप क्रिएट करेंगे। और केस स्टडी हमारी रहने वाली है। एक्स और के प्रॉब्लम की एक्स और प्रॉब्लम क्या चूस किया इसके बारे में भी हम बात करेंगे। चलिए शुरू करते है। अब न्यूरल नेटवर्क हमें क्रिकेट किस चीज से करना है, न्यूरल नेटवर्क हमें क्रिएट करना है मैच और पाइथन से। इन्हीं दोनों चीजों का इस्तेमाल करके हम देखेंगे की कैसे हम बना सकते हैं। हम कोई भी लाइब्रेरी एडिशनली इस्तेमाल नहीं करेंगे। न नपे, न टेंस लो, न पाइटोर्च। अब ये तो हो गया की आपको ये क्यों देखनी चाहिए। अब बात करते हैं ऐसा मैं क्यों कर रही हूँ, क्यूँ ऐसा कह रही हूँ की हम सिर्फ और सिर्फ 2 ही चीज इस्तेमाल करेंगे क्योंकि देखो बहुत जरूरी है। आपको फंडामेंटली चीजों को समझना तो फंडामेंटली समझने के लिए बिल्ड करना पड़ेगा और बिल्ड करने के लिए सही चीजें समझनी पड़ेगी। चलिए शुरू करते है न्यूरल नेटवर्क से। अब न्यूरल नेटवर्क होता क्या है? सबसे पहला सिम्पल सवाल यही आता है की ऐक्चवली में ये क्या होता है। बहुत सारे लोगों को बोलते हुए आपने सुना होगा की यह आई वाला ब्रेन है, न्यूरल जैसा ह्यूमन ब्रेन क्रिएट करते हैं, देखो ये सब कुछ सही है। ए आई ब्रेन भी यही है, ह्यूमन का ब्रेन मिमिक करना भी न्यूरल नेटवर्क होता है। बट हम लोग इंजीनियर्स है तो हम इंजीनियरिंग के एंगल से ही इस चीज को देखेंगे ताकि समझ में आए। अब मैथेमेटिकली और इंजीनियरिंग के प्रोस्पेक्टिव से अगर मैं आपको बताऊं तो यह कॉम्प्लिकेटेड न्यूरल फंक्शन जो होता है। न्यूरल नेटवर्क जो होता है वो 1 कॉम्प्लिकेटेड फंक्शन होता है जो सिम्पली 2 काम करता है 1 इनपुट लेता है, दूसरा आउटपुट देता है अब इनपुट लेता है और आउटपुट देता है जैसा सिम्पल काम करने के लिए उसको 1 कॉम्प्लिकेटेड फंक्शन को इस्तेमाल करना होता है पहले समझते हैं कि यह इनपुट और आउटपुट काम कैसे करता है। अब मान लो आपने 1 फोटो दी उस फोटो को देख कर वो बता देगा आपको की वो कैट है या डॉग है मतलब वो न्यूरल नेटवर्क के थ्रू जाएगा वो जो लेयर्स हमने क्रिएट करनी है उसके थ्रू जाएगा और आपको आउटपुट देगा सिम्पल सा इनपुट ले रहा है और ये हमें जनरेट करके क्या दे रहा है आउटपुट जनरेट करके दे रहा है। अब मैं दूसरा एग्जाम्पल आपको दू तो स्पैम और नॉट स्पैम बहुत ही कॉमन 1 मशीन लर्निंग प्रोजेक्ट है जो आप लोग काफी जगह देखते होंगे काफी बच्चों के रिज्यूमे में भी यह चीज है तो ईमेल जब हम देखते हैं तो वो बेसिकली हमें प्रेडिक्ट कर के दे सकता है कि स्पैम है और यह स्पैम नहीं है। अब मैं इसको थोड़ा सा और अगर एग्जांपल को एक्सपेन करूँ तो आप कह सकते है जैसे अगर आपने कोई स्टॉक की डिटेल्स दी है आपने स्टॉक प्राइज का डाटा दिया है तो वो बता सकता है की आपको बाय करना चाहिए या सेल करना चाहिए। अब ये सारा प्रोसेस करने के लिए उसके अन्दर 1 फंक्शन होता है जो क्या करता है छोटे छोटे पीसेस से बना हुआ होता है मैथेमेटिकली वो फंक्शन कुछ इस तरीके से दिखता है जी वाला जो फंक्शन है ये फंक्शन हमारा न्यूरल नेटवर्क पर वर्क करता है इसमें कुछ भी नहीं है सब मिशन है काफी सारी चीजों का मतलब, छोटे छोटे पीसेस का। अगर मैं कहूँ तो 1 सम करके 1 फंक्शन क्रिएट होता है जिसको हम न्यूरॉन कहते हैं न्यूरल नेटवर्क का सबसे छोटा पार्ट न्यूरॉन जैसे हमारे ब्रेन में न्यूरॉन्स होते हैं वैसे ही न्यूरॉन होता है ठीक न्यूरोन कैसे वर्क करता है क्या होता है चलो डीटेल में समझते है पहले अब देखो न्यूरॉन क्या होता है न्यूरॉन 1 सिंगल न्यूरोन की जब हम बात करे तो बहुत ही सिम्पल तरीके से की ये इनपुट लेता है और हर 1 को 1 नंबर से मल्टीप्लाई करता है जिसको हम वेट कहते हैं और फिर वो एड करता है सिम्पल 2 चीजें वो करता है पहले वो नंबर इनपुट लेता है उसको किसी वेट से मल्टीप्लाई करता है और फिर कुछ उसमे एडिशन करता है 1 एक्स्ट्रा नंबर का एड करता है जिसको हम बायस कहते है। 3 चीजें हो गई इनपुट लिया वेट से मल्टीप्लाई किया तीसरा उसने 1 22 नाम के एक्स्ट्रा वैल्यू से उसको सम कर दिया और ये फिर 1 फंक्शन से पास करता है और यही फॉर्मूला याद रखना है आपको पूरी विडियो के लिए पूरी विडियो में यही फंक्शन काम करेगा इस फंक्शन के प्रोसेस होने के बाद, समिशन होने के बाद, मल्टीप्लिकेशन होने के बाद 1 एक्टिवेशन फंक्शन काम करता है जिसको हम सिग्मोइड फंक्शन कहते हैं और उसी सिग्मोइड फंक्शन से ये पूरा प्रोसेस वर्क करता है। पूरी विडियो में। ये आपको फंक्शन बार बार दिखेगा। बस सिम्पल सा ये याद रखो अभी के लिए की। 1 न्यूरॉन। ये सिम्पल सा काम करता है। नेटवर्क में क्या होता है। नेटवर्क में बहुत सारे न्यूरोन्स होते है। 1 दुसरे से कनेक्टेड होते हैं और लेयर्स में अरेंज होते हैं। सिम्पल 3 प्रोसेस में काम चलता है। पहले इनपुट आता है, डेटा लेयर से एंटर होता है। लास्ट लेयर से हमारा आउटपुट जाता है। 3 ही चीजें काम करती हैं। पहला इनपुट आता है, फिर लेयर्स के थ्रू डाँटा जाता है, फार्मुलेशन जाती है। उसके बाद आउटपुट आता है। अब हम इसे थोड़ा सा इस तरीके से समझते हैं कि जैसे मैंने यहाँ पर इनपुट की बात करी। अब इनपुट क्या होता है। इनपुट जनरली 2 इनपुट फीचर्स है। कोई भी फीचर हो सकता है। मान लो आपके पास 1 डेटा सेट है जिसमें एज और सैलरी की बात करी गई है। कोई 20 साल का बंदा है, 25 हजार कमाता है, 30 साल का बंदा है, 50 हजार कमाता है। तो ये कुछ इनपुट फीचर्स हो गए। अगर मैं डेटा सेट की बात करूँ। इमेजेज में यही एक्स वन और एक्स टू क्या हो जायेगा, पिक्सल वैल्यू हो जाएंगी। डेटा कुछ भी हो सकता है, पिक्सल वैल्यू भी हो सकती है। अब मैं इनपुट वैल्यू की अगर बात करूँ तो अगर मैं और कोई नंबर देती हूँ, कोई भी नंबर अगर मैं दे रही हूँ। कोई भी पिक्सल वैल्यू अगर दे दे तो वो इनपुट हो सकता है करेक्ट। अब वेट क्या होता है। वेट होता है जो हम इसमें मल्टीप्लाई करते है। अब वेट क्या होता है। वेट मतलब उस चीज की इम्पोर्टेंट की। वो चीज हमारे लिए कितनी इम्पोर्टेंट है। वो चीज हमारे मॉडल के लिए कितनी इम्पोर्टेंट है। क्या मॉडल को उसको इम्पोर्टेंस देनी भी चाहिए या नहीं। अब इसको कुछ इस तरीके से समझते है। मान लो कोई उसको वेट अलाट हुआ है। जीरो प्वाइंट। अब ये रैंडम है। अभी मैंने इसको कोई भी ऐसा किसी एग्जाम्पल ऐसी नहीं लिया। रैंडम वैल्यू है और माना है कि 2 इनपुट है। इन दोनों इनपुट के साथ वेट जो लॉट हुए है जीरो प्वाइंट और जीरो पॉइंट ने। इसका मतलब ये है। वेट के बेसिस पर हम क्या प्रेडिक्ट करते हैं। जीरो प्वाइंट। 8 मतलब यह बहुत ज्यादा इम्परटेंट है। जीरो प्वाइंट, वन मतलब, ये लेस इम्पोर्टेंट है। तो ये हमारा वेट का काम होता है। जो बताता है की वो चीज कितनी इम्पॉर्टेंट है। अब ड्यूरिंग ट्रेनिंग क्या होता है। ट्रेनिंग के दौरान वेटेड सम कैलकुलेट होता है। जो मैंने ऊपर भी दिखाया था कि जी जो है वो बहुत सारी चीजों का सम होता है। डिपेंडिंग अपॉन कितने नंबर ऑफ़ पुट फीचर्स है। आपके पास, प्लस उसमे 1 बायस एड हो जाता है। ये 1 लीनियर कॉम्बिनेशन की तरह काम करता है। ये 1 प्रॉपर लीनियर कॉम्बिनेशन है जो वर्क करता है। इसी लीनियर कॉम्बिनेशन पर हमारी सारी चीजें काम करती है। जी का मतलब इन शार्ट यह है की टोटल सिग्नल कितने रिसीव हुए है। न्यूरोन को वो बता 2 जी का मतलब है टोटल सिग्नल कितने रिसीव हुए है न्यूरॉन को वो बता 2 वही हमारा जी होता है उसके साथ 1 बायस होता है बायस 1 एक्सट्रा पैरामीटर होता है। अब एक्स्ट्रा पैरामीटर की हमें जरूरत ही क्यों है जब हमने वेट से आलरेडी उसका पता लगा लिए तो एक्स्ट्रा बायस का क्या मतलब हो गया, एक्स्ट्रा पैरामीटर का क्या मतलब हो गया। तो देखो एक्स्ट्रा पैरामीटर का मतलब ये है की ये 1 न्यूरॉन को अपनी बाउंड्रीज को शिफ्ट करने के लिए फोर्स करता है। वो कहता है की आप फ्लेक्सिबल मत फ्लेक्सिबल रहो अगर आप रिजिड रहोगे तो आप कॉन्सटेंटली सेम डिसीजन लेते रहोगे बट जैसे ही मैं आपको थोड़ा सा एक्स्ट्रा फैक्टर दे दूंगा तो आपका डिसिजन बाउंडरी और ज्यादा शिफ्ट हो जाएगी। तो फॉर्मूला कुछ ऐसा बन रहा है इसमें वायस एड हो रहा है देखो इसको कैसे लिखा जाता है जीरो पाइंट सिक्स ऑन जीरो प्वाइंट थ्री एक्स टू मतलब ये हमें इम्पोटेंस बता रहा है इस चीज की ये हमें इम्पोटेंस बता रहा है। इस चीज की बास मैंने लिया है जीरो प्वाइंट टू। अब जीरो प्वाइंट टू 1 न्यूमेरिकल वैल्यू है 1 तरीके से ये एडजस्टमेंट नॉब की तरह है जैसे इलेक्ट्रॉनिक्स जिन्होंने पढ़ी उनको पता होगा पोटेंशि मीटर काम करता है या फिर आपके घर में जैसे फैन होता है फैन के साथ रेगुलेटर लगा होता है। वो 1 ऐसा एडजस्टमेंट नॉब है की आप एडजेस्ट कर सकते हो, कम ज्यादा कम ज्यादा कर सकते हो। तो। 22 1 तरीके का स्टार्टिंग पॉइंट और एडजस्टमेंट नॉब की तरह काम करता है जो बहुत जरूरी है अगर बायस नहीं होगा तो क्या होगा? चलो 1 एक्जाम्पल से समझते है मान लो 1 टीचर है जो स्टूडेंट के साथ काम कर रहा है मतलब स्टूडेंट के एग्जाम पर वो पास और फेल देना चाहता है सिम्पल सा काम है टीचर स्टूडेंट को पास फेल डिक्लेयर करना चाहता है। तो ये क्या हम इसमें ये कर सकते हैं की स्कोर जो भी स्टूडेंट ने स्कोर किया है उसमे हम इमपटंटकोमल्टीप्लाई करेंगे उसके साथ कोई भी पेनल्टी जुड़ जाती है जैसे हमें स्कूल मैं कहा जाता है ठीक है आपके पास अटेंडेंस होनी चाहिए अगर आपने अटेंडेंस लिया है तो बोनस प्वाइंट आपको उस चीज से मिल जायेंगे। अगर आपने अटेंडेंस जिन बच्चों की कम है उनको वो चीज नहीं मिलेगी मतलब वो आपको जो नंबरिंग है वो आपसे कम होगी उन बच्चों की जिनके पास ज्यादा अटेंडेंस है तो वो बायस हैं। 1 एक्स्ट्रा तरीके का बोनस हमे मिल रहा है कि बोनस यह है की भैया अटेंडेंस तो होनी चाहिए अटेंडेंस के तो देखो पंद्रह नवंबर तो ऐसे ही मिल जायेंगे और जो पंद्रह नंबर हमें इसके मिल जाते है वो हमें 1 तरीके की बोनस और पेनल्टी की तरह काम कर देता है वहीं बास करता है तो बायस बोनस मार्क्स एक्ट्रा पेनलिटी और एडजेसमेंट का काम कर रहा है हमारे ओवरऑल रिजल्ट में फाइनल स्कोरिंग में ये हमें इम्पोटेंस बता रहा है। जैसे की अगर आपने टेंथ पास करिए और आपको साइंस में एडमिशन लेना है तो वो आपसे पूछेंगे की। ठीक है। आपने साइंस और मैथमेटिक्स में कितना स्कोर किए हैं। मतलब ज्यादा वेटेज उन चीजों की होगी, वही इम्पार्टेंस का काम है। तो अगर आप किसी एग्जाम्पल को थोड़ा सा ध्यान से सोचोगे वीडियो पास करके तो आपको बहुत अच्छे से चीजें समझ में आएंगी न्यूरॉन बहुत ज्यादा रेजेट न हो। इस चीज को अवॉइड करने के लिए बायसनेस जरूरी होती है। विदाउट बायसनेस आपका मॉडल फ्लेक्सिबल नहीं होगा। ओवर ऑल। अगर आप उस इक्वेशन को देखो तो वो सिम्प्लीफाई करके ऐसी लिखी जा सकती है। बी फॉर 22, डब्ल्यू फॉर, वेट, एक्स फॉर, इनपुट फीचर और ये जो इनपुट फीचर है ये एन नंबर ऑफ़ टाइम जा सकता है। डिपेंडिंग अपन आपके पास कितने इनपुट है जितने इनपुट आपके पास है आप की न आर्डरिंग कर सकते हैं और करते चले जाइए और उतना इनपुट के साथ आप 1 सबमिशन क्रिएट कर लीजिए। सिम्पल एग्जाम्पल के लिए मान लो आपने 2 इनपुट लिए टू और ऑन वेट, जीरो प्वाइंट फाइव, जीरो प्वाइंट फाइव एंड 22 माइनस वन। अब स्टेप ऑन में ही कैसे कैलकुलेट करेगा। ये वैल्यू सको लेगा मल्टीप्लाई करेगा। इनपुट के साथ जो इसने करा है वो मानस बायस मतलब होगा। तो प्लस ही हमारे पास बा यस माइनस में था इसलिए हमने माइनस में कंसीडर किया उसके बाद जी की वैल्यू कैलकुलेट हो जाएगी। अब जब जी की वैल्यू कैलकुलेट हो ही गई है तो नेक्स्ट क्या है हमारा आउटपुट सिग्मोइड निकालना जैसा मैंने। आपको बताया तो सिग्मोइड 1 एक्टिवेशन फंक्शन है जो काम करेगा। उसके बाद जीरो प्वाइंट फाइव सिग्मोइड लगा दिया। अब सिग्मोइड कैसे काम करता है, विदाउट बास क्या हो रहा है और विधवा क्या होता है देखो विदाउट बायस हमारे पास अगर मैं इसमें 22 नहीं डालती मैं अगर जी माइनस वन नहीं डालती तो वैल्यू कितनी आती वन प्वाइंट फाइव आती। तो विदाउट वायस हमारी ऑनपाइंटफाइवआती विद बायस क्या हो रहा है, जीरो पाइंट फाइव आ रही है और उसी पर अगर हम सिग्माइड फंक्शन एक्टिवेशन फंक्शन लगाएंगे तो वो बहुत ही ज्यादा सिम्प्लीफाइड वे में आउटपुट जनरेट करेगा। जीरो से वन के बीच में जब वैल्यू आती है तो वो मॉडल के लिए ईजीली प्रोडेक् टेबल हो जाती है। ईजीली वर्क करने के लिए बहुत आसान हो जाती है। अब चलिए इसको थोड़ा सा पिक्चर के फॉर्मेट देखते हैं की जितनी न्यूरोंस आप क्रिएट करना चाहते हैं उतने क्रिएट कर सकते हैं। 1 प्लेयर में मल्टीपल न्यूरोंस हो सकते है। 1 लेयर 1 न्यूरल नेटवर्क बनाने के लिए मल्टीपल लेयर्स की जरूरत होती है। डिपेंडिंग अपन आप कितनी कॉम्पलेक्स लेयर बना रहे हैं। अब इसके लिए मैंने 1 टार्गेट प्रॉब्लम चूज किया है जो मेरा टारगेट प्रॉब्लम है वो है एक्स और की प्रॉब्लम। एक्स और क्या होता है काफी सारे बच्चों को पहले से पता है देखो आपने कॉलेज में आलरेडी एक्स और पढ़ रखा है। एक्सोर का मतलब है लॉजिक गेट के बारे में बात हो रही है। 1 ऐसा लॉजिक गेट जो जो हम इस्तेमाल करेंगे न्यूरल नेटवर्क को अच्छे से समझने में यह 1 क्लासिक प्रॉब्लम समझ माना जाता है की अगर आप इसको समझ लेते हो तो आपका न्यूरल नेटवर्क का कॉन्सेप्ट ईजली क्लियर हो जाता है। अब ऐसा क्यों होता है देखो हम सॉल्व तो एक्स और की प्रॉब्लम करेंगे, एक्स और 1 लॉजिक गेट ये भी मैंने आपको बता दिया और इसकी ट्रू टेबल कुछ इस तरीके से दिखती है। अगर आप इसको ध्यान से देखोगे ट्रू टेबल को तो देख सकते हो की सेम इनपुट वाले पे हमारे पास आउटपुट क्या आता है, सेम आता है सेम इनपुट पर जीरो आउटपुट आता है सेम इनपुट। जब हम दे रहे हैं जीरो, जीरो या ऑन ऑन तो हमारे पास आउटपुट जो है जीरो और डिफ्रेंट पर सेम पर जीरो आएगा और डिफ्रेंट पे हमारे पास वन आएगा सिम्पल। अगर आप इसको ध्यान से देखो सीधा लाइन। अगर मैं क्रिएट करके इसको सैपरेट करना चाहूँ तो मैं बिल्कुल भी नहीं कर सकती जिसकी वजह से मैं इसको कह सकती हूँ की नॉन लीनियर प्रॉब्लम है नॉन लीनियर ली सैपरेबलप्रॉब्लम है। पहला क्वेश्चन, पहला प्वाइंट यह बनता है कि 1 सौर सली चूज किया गया है। अगर ये लीनियर ली सेरेबल होता मतलब अगर मैं ग्राफ बनाऊं और 2 वैल्यू इसको ऐसे सेपरेट कर दूं तो ये लीनियर ली सैपरेबल हो गया। बट एक्स और 1 ऐसी प्रॉब्लम है जिसको हम लीनियर ली सैपरेट सैपरेट नहीं कर सकते। लीनियर ली सेपरेट न होने की वजह से इसको हम नॉन लीनियर, नॉन लीनियर ली सैपेरेबल कहते हैं। जिसका 1 प्रॉपर आपको स्क्रीन पर दिख रहा है। इसको ध्यान से अगर आप इस ग्राफ को देखो तो जीरो, जीरो, जीरो, वन, जीरो वन, ऑन, वन, जीरो वन, ये 4 प्वॉइंट्स हैं मेरे पास और मैं को किसी भी तरीके से डिवाइड कर नहीं सकती। मैं ऐसा कर ही नहीं सकती कि दोनो तरफ सेम आ जाए या जीरो जीरो 1 तरफ आ जाए, वन वन 1 तरफ आ जाए हो ही नहीं सकता। इसी लिए हम इसको नॉन लीनियर ली सापरेबल बोलते हैं। 1 विज्वलाइजेशन से आपको समझ में आ रहा की आप देखो। ध्यान से जो भी प्वाइंट्स हमने प्लॉट करे है वो सेपरेट हो ही नहीं सकते। जब वो सेपरेट नहीं हो सकते। मतलब ये थोड़ा सा तो ट्रिक ही प्रॉब्लम है जिसकी वजह से हमे न्यूरल नेटवर्क क्रिएट करना पडेगा। 1 सिम्पल एलगोरिद्म फेल हो जाता है। बेसिकली जब हम न्यूरल नेटवर्क क्रिएट करते है तो वो 1 परफेक्ट टेस्ट केस बना कर देता है। इनपुट ट्रू टेबल आपको पता होनी चाहिए, विज्वलाइजेशन आपको पता होनी चाहिए। आपको यह भी पता होना चाहिए कि कैसे वर्क करता है। ठीक है। अब हम थोड़ा सा इसमें डेप्थ में जाते हैं और देखते हैं कि कैसे वर्क करता है। अब दूसरा एग्जाम्पल भी चलो, दूसरा पॉइंट भी समझ लो कि सिम्पल अल गोरिदम इसमें फेल हो जाता है। ये मैंने आपसे कह दिया क्योंकि इसमें ऐसा क्यूँ होता है। सिग्मोइड एक्टिवेशन फंक्शन हम सारे के सारे जी कैल्कुलेट करने के बाद सिगमॉयड एक्टिवेशन फंक्शन अप्लाई होता है। कुछ इस तरीके से दिखता है वो वन प्वाइंट, जीरो, वन प्वाइंट, जीरो प्लस। ऐसा करके ठीक है। अब इसमें क्या होता है। पुट जी को हम सिग्नल फंक्शन के थ्रू भेजते हैं। उसी जी को हम सिग्नल फंक्शन से लेकर हम सिग्नल फंक्शन क्यूँ यूज़ करते है। क्यूंकि यह वैल्यु इसको जीरो टू ऑन में कर देता है। सिग्मोइड फंक्शन 1 स्मूद कर्व है। इसके बाद हम इसपर डेरिवेटिव अप्लाई करते हैं। डेरिवेटिव करने के बाद अब डेरिवेटिव क्यों अप्लाई करते है। क्यूंकि डेरिवेटिव का सिम्पल सा मतलब क्या है की अगर आप किसी चीज को थोड़ा सा भी ऊपर नीचे करते हो तो आउटपुट में क्या बदलाव आता है कितना आउटपुट चेंज होगा। अगर आप कोई चीज थोड़ी सी भी बदल रहे हो तो आउटपुट में क्या चेंज आएगा। ये चीज आपको डेरिवेटिव बताता है और वही चीज हम सिग्मा फंक्शन से भी करेंगे जब वैल्यू जीरो टू ऑन में आ जायेंगे। हम देखेंगे की अगर हम मॉडल की थोड़ा सा भी वेट ऊपर नीचे करते हैं तो क्या हमारा आउटपुट चेंज हो रहा है। क्या हम वेट में थोड़ा सा भी अपडेशन करते है तो क्या हमारा आउटपुट चेंज होगा। इसीलिए हम डेरिवेटिव अप्लाई करते है। अब न्यूरल नेटवर्क में हमें सबसे इम्पोर्टेंट ली जो वर्क करना होता है की अपना लॉस फंक्शन चेंज करना है की अगर हमने लॉस का थोड़ा सा भी चेंज किया तो क्या कोई स्लाइट चेंज आ रहा है हमारे वेट में हम लॉस को कितना चेंज करे की वेट में हमारा थोड़ा सा भी चेंज आए। इसी के लिए हम डेरिवेटिव अप्लाई करते हैं। डेरिवेटिव लॉस और वेट पर अप्लाई होता है। उसके बाद वो हमें बताता है कि किस डायरेक्शन में हमें जाना है किस में नहीं जाना है। चलो लॉस के फंक्शन से जानने से पहले हम स्टार्ट करते है अपने कोडिंग और स्कोरिंग में हम 1 चीज को ध्यान से लिखेंगे की कैसे हमें इसे क्रिएट करना है। तो लेट मी जस। तो अब हम यहाँ पर करेंगे कोडिंग और कोडिंग करके देखेंगे की कैसे ये चीज वर्क करते है। आई होप या परफेक्ट। तो अब हम देखते हैं सबसे पहला स्टेप क्या है। हमारा सबसे पहला स्टेप है हमारा की हम किसी भी विडियो किसी भी न्यूरल नेटवर्क को क्रिएट करने से पहले हम चूज करेंगे कि हम उसको एग्जैक्ट ली कैसे क्रिएट करना चाहते हैं। कौन सी लाइब्रेरी का इस्तेमाल करके सबसे पहला काम क्या है। हमें लाइब्रेरी को इम्पोर्ट करना है तो सबसे पहले मुझे मैच लाइब्रेरी चाहिए और दूसरी हम कौन सी लाइब्रेरी यूज करेंगे। दूसरी हम रैंडम लाइब्रेरी यूज करेंगे। अब आप सोच रहे हो मैंने स्टार्टिंग में बात करी थी कि कोई लाइब्रेरी इस्तेमाल नहीं करेंगे देखो क स्टार्ट कर रहे है। अब हमें क्या चाहिए सिग्माइड फंक्शन चाहिए। सिग्माइड में हमें एक्सपोनेंशियल यूज करना पड़ेगा। एक्सपोनेंशियल अगर हम मैथेमेटिकली लिखने बैठेंगे तो इसमें तो हमें बहुत ही टाइम चला जाएगा। इससे अच्छा है की हम रैंडम लाइब्रेरी से एक्सपोनेंशियल इस्तेमाल कर लेंगे और लाइबरेरी का हम सिम्पल कैलकुलेशन के लिए इस्तेमाल करेंगे। अब हमें सिम्पल हम इसको रन करेंगे जिसमें कि हमारे पास सिर्फ और सिर्फ कर्नल टेस्ट करना है और कर्नल टेस्ट होने के बाद हम 1 न्यूरॉन को क्रिएट करेंगे। अब हमें न्यूरॉन की क्लास बनानी है देखो हम इसमें ऑब्जेक्ट एरिएटेड प्रोग्रामिंग का इस्तेमाल करेंगे। न्यूरॉन की क्लास बनाने के लिए सिम्पल ली, क्लास वर्ड क्लास की वर्ड का इस्तेमाल करके न्यूरॉन क्रिएट करेंगे। अब इसी न्यूरॉन को हमें डिफाइन करना है की न्यूरॉन होना कैसा चाहिए। तो डिफाइन करने के लिए पहले हम कंस्ट्रक्टर क्रिएट करेंगे तो हम कंस्ट्रक्टर यूज करेंगे। सेल्फ के साथ हम जितने भी इनपुट हमें इसे देने है तो हम यहाँ पर इनपुट मेंशन कर देंगे कंस्ट्रक्टर क्रिएट किया है जिसमे हमने सेल्फ कॉमा एन इनपुट लिए हैं इन पुट के बाद हम उसमें क्या क्या चीजें ऐड ऑन करने वाले हैं वो हम लिखेंगे। अब मैंने आपको स्टार्टिंग में बताया था जब हम वेट की बात कर रहे थे कि वेट जो होने वाला है वो रैंडम होने वाला है इसीलिए मैंने रैंडम लाइबरी है तो मैं 1 रैंडमली 1 नंबर जनरेट करूंगी। यूनिफॉर्म ब्रैकेट माइनस वन से वन तक। ठीक है फॉर अंडरस्कोर इन रेंज जितने भी इनपुट है मैं सबके लिए ये नंबर जनरेट करना चाहती हूँ। तो मैंने सिम्पली ऑन लाइन का 1 फंक्शन लिखा है कि फॉर अंडरस्कोर बेसिकली कोई भी वैरिएबल आप ले सकते हो इन रेंज जो भी रेंज मेरे पास नंबर ऑफ़ इनपुट किये फिफ्टी हैं तो फिफ्टी थर्टी हैं तो थर्टी है नंबर जनरेट करेगा क्या नंबर जनरेट होना चाहिए यूनिफार्म नंबर जनरेट होना चाहिए दूसरा मुझे क्या पैरामीटर चाहिए मुझे 1 22 चाहिए 22 के लिए भी मैं कुछ भी अपनी तरफ से नहीं डाल रही हूँ, मैं इसको कोई डाटा दे ही नहीं रही हूँ। मैं सिर्फ और सिर्फ रैंडमली कोई वैल्यू ले रही हूँ। यूनिफार्म फंक्शन से माइनस वन का न उसके बाद सेल्फ आउटपुट अभी के लिए मैं आउटपुट को क्या रखूंगी आउटपुट को 1 फ्लोट प्वाइंट नंबर रखूंगी दूसरा मुझे चाहिए 1 सेल्फ डेल्टा। अब डेल्टा क्या है डेल्टा मतलब चेंज जैसे अभी मैंने आपको बताया था की अगर हम कोई चीज चेंज करते हैं तो हमारे आउटपुट में क्या फर्क आयेगा। अभी इसी चेंज के बारे में थोड़ा सा बाद में बात करेंगे। अभी के लिए हम इसको जीरो रख रहे है नथिंग हम इसको इस्तेमाल भी नहीं करेंगे। अभी हम इसको बाद में इस्तेमाल करेंगे ताकि हम इसको जो है अपने डाटा को अपने लॉस फंक्शन को रिड्यूस करने के लिए। क्या है लॉस फंक्शन इसके बारे में भी बात करेंगे। अभी सिर्फ इस चीज पर ध्यान 2 हमने क्लास क्रिएट करी है न्यूरॉन जिसमें कंस्ट्रक्टर है जिसमें हमारे पास 2 चीजें हैं सेल्फ परामीटर फॉर रेफरेंस एंड इनपुट मतलब जितने भी इनपुट आप ुछमबन्यूरॉन को देना चाहते है। 50 देने है 30 देने है सौ देने है आपके ऊपर है। उसके बाद वेट वेट क्या है वेट 1 रैंडम नंबर होने वाला है इम्पोटेंस बताने के लिए उसके बाद फॉर इनपुट अभी ये रैंडम होने वाला है बट मैं बाद में इसको बताउंगी की कैसे हम इसको अब टिन कर सकते हैं। बेसिकली ठीक है रैंडम नंबर क्यों लिया है क्यूंकि हमें कोई आइडिया नहीं है न की कौन सा वेट सही है इस लिए हम इसे रैंडम रख रहे है। ये नेटवर्क हमारा खुद सीखेगा की इसके लिए कितना वेट जरुरी है। तो इसी लिए हम इसको ऐसे रख रहे हैं। अभी स्टार्टिंग में तो हम इसे रैंडम ही रखेंगे। फिर जैसे जैसे हम इसकी ट्रेनिंग इन प्रूव करेंगे वैसे वैसे खुद खुद समझ जाएगा। यूनिफार्म माइनस वन से वन का मतलब क्या है। जिन भी लोगो को रैंडम लाइब्रेरी के बारे में नहीं पता। मतलब यह है कि माइनस वन से प्लस वन के बीच में कोई भी 1 नंबर जनरेट करेगा। अब ये सिमेट्रिक रेंज ही अच्छी रहती है हमेशा इनीशियलाइजेशन के लिए ये भी आप याद रखना। सिमेट्रिक रेंज। अगर आप इसको नहीं दोगे तो बहुत ज्यादा वैरिएबल वैल्यू आपके पास आ जाएंगे जिसकी कोई जरूरत नहीं है क्योंकि हमारा प्रॉब्लम स्टेटमेंट भी हमारा है। एक्स और जिसमें हमारे पास वैल्यूज लिमिटेड जीरो वन पर हम बात करने वाले हैं। अब इसके बाद हम सिग्मोइड फंक्शन लिखेंगे, हमने सिम्पली क्रिएट कर लिया। अब इसके बाद हमारा काम क्या है सिग्मोइड फंक्शन लिखना, सिग्मोइड फंक्शन लिखने के लिए क्या चाहिए हमें 1 मैथर्ड क्रिएट करेंगे इसमें ठीक है सिग्मा फंक्शन का 1 मैथर्ड क्रिएट करेंगे सेल्फ कोमा जी अब जी क्या है जी जैसा मैंने आपको बताया था जी क्या आएगा ये है जो कैलकुलेशन होगी उसी को हम इसके थ्रू लेकर जायेंगे करेक्ट तो जी को हम सिगमेंट फंक्शन पर चलायेंगे। अब जी कैसे मैंने आपको अपनी स्क्रीन पर पहले भी दिखाया था की ये जो वैल्यू में जनरेट कर रही हूँ, ये जो वैल्यू मैंने लिखी है वन प्वाइंट फाइव, ये वाली वैल्यू जो हमने लिखी है ये वाला फंक्शन, वन पाइंट, जीरो डिवाइडेड बाय वन प्वाइंट, जीरो प्लस, ये हमारा सिग्मोइड का फंक्शन है। अब इस सिग्माइड के फंक्शन को पहले हम ध्यान से देखेंगे उसके बाद हम कंटिन्यू करेंगे। अब चलो इसमें हम सिग्माइड के लिए हम रिटर्न डाल देते हैं डायरेक्ट ठीक है ताकि हमारे पास वैल्यू डायरेक्ट ली। इसी फॉर्मेट में आजाए जीरो प्वाइंट वन में इसको बहुत ही सिम्प्लीफाइड वे में लिख रही हूँ ताकि हमें बाद में कोई कैलकुलेशन में डीबगिंग में कोई दिक्कत नही है। ठीक है मै डॉट एक्सपेंशन हम इसका इस्तेमाल यहाँ करने वाले थे करेक्ट अब यहाँ पर मैंने माइनस दी। अब इसको ध्यान से समझो सिग्मोइड क्या होता है। सिग्मोइड के लिए 1 ग्राफ जनरेट होता है सिग्माइड का ग्राफ कैसा दिखता है तो चलो मैं आपको सिग्माइड का 1 ग्राफ दिखाती हूँ देखो मैं ये कोर्ड लिखा हुआ तो सिगमौइड फंक्शन में यहाँ पर दे रहा हूँ और यहाँ पर मैं जनरेट कर रही हूँ कुछ रैंडम वैल्यूस ताकि मैं 1 प्लॉट जनरेट कर सकू और आपको दिखा सकूँ की सिग्मा फंक्शन दिखता कैसा है। सिग्मा फंक्शन के लिए ये 1 सिग्मा फंक्शन होता है जो इस तरीके की शेप में होता है एस शेप होती है जिसमें 2 चीजें होती हैं। बहुत बड़ा पॉजिटिव नंबर के लिए आउटपुट ऑलमोस्ट ऑन हो जाता है जो आप यहाँ देख सकते हो आउटपुट आलमोस्ट वन हो जाता है। अगर बहुत बड़ा आपका जो है पॉजिटिव नंबर है और बहुत बड़े नेगेटिव नंबर के लिए आउटपुट ऑलमोस्ट जीरो। हो जाता है। आप देख सकते हैं ये नंबर लाइन यहां जीरो है। यहाँ पर जितना बड़ा नेगेटिव नंबर है उतना ही ऑलमोस्ट जीरो होता चला जाएगा। मिडल में क्या आता है, मिडल में आता है, जीरो प्वाइंट फाइव, जीरो प्वाइंट फाइव हमारा मिडल में आता है। ये हमें बेसिकली हेल्प करता है। 1 स डिफ्रेंट शिएबल फंक्शन देने में 1 डिफ्रेंट शिएबल इसलिए चाहिए क्योंकि देखो हम 1 कॉन्सेप्ट पर वर्क करेंगे। विच इज बैक प्रॉप जहाँ पर हमें डेरिवेटिव यूज करना है, जहाँ पर हम डेरिवेटिव और बैक प्रोपगेशन। इन सबके बारे में बात करेंगे तो अभी के लिए सिग्मा फंक्शन ये होता है। ये हमें स्मूद कर्ज देता है सेमवाल के बारे में। अभी हम डिटेल में बात करेंगे। ठीक है अब तक हमने क्या क्रिएट करा है। अब तक हमने 1 न्यूरॉन क्रिएट कर है। न्यरॉन क्रिएट करने के लिए हमने 1 सिग्माइड फंक्शन भी लिखा है। अब हमें सिग्माइड पे डेरिवेटिव चलाना है क्या चलाना हमें सिग्माइड पर डेरिवेटिव। अब आप नोटिस करो। हम यहाँ पर पहले लिखी हूँ मैंने लिखा, सिग्माइड डेरिवेटिव। अब सिग्मोइड डेरिवेटिव में में क्या क्या चीजें लूंगी सिग्मोइड डेरिवेटिव ही हमें आउटपुट देगा। क्योंकि अभी तो हमने एक्टिवेशन फंक्शन चलाया था यहाँ पर ये हमारा एक्टिव एक्टिवेशन फंक्शन है। उसके बाद हमने यहाँ पर डेरिवेटिव किया। अब इसके बाद यहाँ पर क्या लिखेंगे रिटन यहाँ पर वर्क करता है। हमारा आउटपुट क्यूंकि हम इनपुट लिया है हमने वहाँ से। ठीक है। अब इसको हम मल्टीप्लाई करेंगे किस चीज से हम इसको मल्टीप्लाई करेंगे। वन प्वाइंट जीरो माइनस में आउटपुट। ये हमारा बहुत ही नीट तरीका है। ऐसा क्यों है इसके बारे में भी हम वाइट बोर्ड पर बात करेंगे। तो देखो न्यूरॉन मैंने क्रिएट किया, ए कंस्ट्रक्टर का इस्तेमाल किया, सिग्मोइड एक्टिवेशन फंक्शन चलाया और उसके बाद मैंने 1 सिग्मोइड डेरिवेटिव भी यहाँ पर लिख दिया। अब सिग्मोइड डेरिवेटिव लिखने के बाद मुझे क्या चाहिए। अब इसको वापिस से हम अपने बोर्ड पर चलते हैं। ठीक है अब बोर्ड हमें क्या कहता है देखो हमने ये जनरेट किया जी को हम सिग्मोइड फंक्शन के थ्रू लेके जायेंगे, सिग्मोइड फंक्शन हमें क्या देगा, जीरो टू ऑन वैल्यू देगा। उसके बाद हम अपल पाई करेंगे। डेरिवेटिव डेरिवेटिव अप्लाई करने के बाद हमें पता चलेगा की हमें कितना चेंजेस करने हैं, कौन सी डायरेक्शन में कितना बड़ा स्टेप लेना है। अब सिग्माइड ही क्यों इस्तेमाल किया है। हमने सिग्माइड के अलावा भी तो बहुत सारी चीजें हैं मथोमेटिक्समेंहम वो क्यों ही इस्तेमाल कर रहे हैं। हम वो इसलिए इस्तेमाल नहीं कर रहे हैं क्यूँकि स्मूद फंक्शन हमें सिग्मोइड देता है। सिग्माइड की वजह से, स्मूद फंक्शन की वजह से ही ग्रेडिएंट एग्जिस्ट करेगा बैक प्रोपोगेशन जा सकता है। बैक प्रोपोगेशन चला सकते हैं, अदर वाइज नहीं चला सकते। आउटपुट हमेशा जीरो और वन की फॉर्मेट में आता है, जीरो से बड़ा होगा, वन से कम होगा हमारा आउटपुट। इसी वजह से ये बेस्ट होता है प्रोबेबिलिटी के लिए और आपको पता है की मशीन लर्निंग में प्रोबेबिलिटी कितनी ज्यादा इम्पॉर्टेंट रोल प्ले करती है तो सिग्मा के 2 रीजन है। 1 तो ये स्मूद गर्व आपको देगा दूसरा आपका ग्रेडिएंट एग्जिस्ट करेगा इसकी वजह से क्योंकि स्मूट फंक्शन है और बैक प्रोपोगेशन चलाने में भी हमें कोई दिक्कत नहीं आएगी आउटपुट जीरो ऑन होगा इसका मतलब है कि हम प्रोबाबिलिटी में इसको बहुत अच्छे से इस्तेमाल कर सकते हैं और प्रोबाबिलिटी के बिना तो कोई भी मशीन लर्निंग मॉडल सही ऐसी इवैलुएट हो ही नहीं सकता। अब मैंने आपको 1 ट्रिक बोली कि ठीक है मैं तो डेरिवेटिव सिगमालटपरअप्लाई करूंगी तो मैं डायरेक्ट डेरिवेटिव ही अप्लाई करूंगी, डी वाला डेरिवेटिव मैंने अप्लाई नहीं किया मैंने सिम्पली डायरेक्ट जो इस्तेमाल किया है वो है ये वाला आउटपुट मल्टीप्लाई ऑन माइनस आउटपुट करेक्ट मैंने यह इस्तेमाल किया ऐसा क्यों हुआ है क्योंकि देखो अब जब आप इसको डेरिवेटिव करोगे सिग्माइड और जी को तो सिग्माइड जी का डेरिवेटिव कुछ इस तरीके से आप इसको कैलकुलेट करोगे देखो। मैथेमैटिकली आप अपनी स्क्रीन पर कर लेना। मैथेमेटिकली आउटपुट जो हमारा सिग्माइड जी करके जब हम इसमें लेट करेंगे तो हमारे पास यह आएगा इसकी वजह से क्या होगा ये फास्टर है, क्यूँ है ये फास्टर क्यूंकि इसमें 2 ही चीजे देख डेरिवेटिव जब अप्लाई करेंगे पहले हम निमिरेटरमेंभी करना है, डॉमिनेटर में भी करना है फिर हम राइट साइट देखेंगे तो राइट साइट भी हमें पर डेरिवेटिव करना है बट डेरिवेटिव डेरिवेटिव गैर हम करते रहे तो ये एक्सपोनेंशियल इतना ज्यादा बड़ा हो जायेगा। क्यूंकि हमे टेन थाउजेंड टाइम्स भी करना पड़ सकता है, मिलियन टाइम्स भी करना पड़ सकता है। बट जैसे हम इसको सिम्पलिफाइड वे में लिख रहे हैं आउटपुट मल्टीप्लाई बाई ऑन माइनस आउटपुट। पहली बात तो ये फास्टर है ये फास्टर क्यूँ है क्यूंकी इसमे 1 बार मल्टिप्लिकेशन करनी है, 1 बार सब प्राकशन करनी है और अगर मैं इसी को एक्सपोनेंशियल डेरिवेटिव और ये जो है मेरा और माइनस जी टू दी पावर है इसको अगर हम कंप्यूट करेंगे कंप्यूटर से बहुत एक्सपेंसिव होने वाला है क्योंकि हमें बिलियंस ऑफ टाइम्स भी करना पड़ सकता है डिपेंडिंग पाउट कितना इनपोर्टसैआपके पास और ये इसलिए मैटर करता है क्योंकि हमें 2 चीजें बहुत ही फ्रीक्वेंटली करनी पड़ेगी 1 फॉरवर्ड पास, 1 बैकवर्ड पास, फॉर्वर्ड पास और बैकवर्ड पास 2 बहुत इम्पोर्टेंट कॉन्सेप्ट है न्यूरल नेटवर्क के न्यूरल नेटवर्क किसी चीज पर काम करता है। ठीक है फॉर्वर्ड पास क्यों जरूरी है क्योंकि हमें आउटपुट चाहिए भैया बिना आउटपुट के तो हमें पता ही नही चलेगा क्या चीज क्रिएट करे, क्या रिजल्ट में आई है, फॉर्वर्ड पार्ट आउटपुट के लिए जरूरी है। बैकवर्ड पास हमारा ग्रेडिएंट के लिए जरूरी है। ठीक है ग्रेडिएंट के लिए हम इसको यू कर रहे हैं। ठीक है अब बात करते है की हमने फॉर्वर्ड पास क्या होता है जैसे मैंने आपको बताया 2 बहुत इम्पोरटेंट चीजे तो समझनी पड़ेगी फॉरवर्ड पास कुछ भी नहीं है फॉरवर्ड पास 1 स्टेप है, 1 प्रोसेस है इसका मतलब यह है कि 1 न्यूरल नेटवर्क जो आपने क्रिएट कर है उसके अन्दर वो इनपुट लेगा, उसको सारी लेयर से ले कर जायेगा और प्रोडक्शन देगा। फिर से समझते हैं फॉरवर्ड पास मतलब 1 न्यूरल नेटवर्क जो इनपुट लेता है सारी लेयर्स के थ्रू उसको पास करता है सिग्मा एक्टिवेशन, डेरिवेटिव सब कुछ करता है और आपको प्रेडिक्शन देता है ये सिम्पल हमारा न्यूरल नेटवर्क का काम है अब न्यूरल नेटवर्क हमारा फॉरवर्ड पास पर काम करता है मतलब जो प्रोसेस है उसको फॉरवर्ड पास का नाम दिया जाता है दूसरा इम्पोर्टेंट कॉन्सेप्ट क्या है इसमें ग्रेडिएंट डी सेंटर बैक प्रोपोगेशन तो पहले चलिए अब हम फॉलो पास का 1 फंक्शन बना लेते हैं फिर वापस बात करेंगे की फंक्शन क्या क्या चीज है ठीक है तो अब मैने यहाँ पर आलरेडी 1 सिग्मोइड फंक्शन मैंने यहाँ पर क्रिएट कर रहा था ये एडिशनल है ठीक है इसको अभी आप बस 1 ऐसा कोर्ड मैंने 1 लिखा है जिसके अन्दर मैंने मैट प्लॉट ले लाइब्रेरी का इस्तेमाल किया है सिग्मोइड फंक्शन जो मैंने ऊपर दिया था उसी को क्रिएट कर और इसमें मैंने नम पाई का इस्तेमाल किया एक्सपोनेंशियल लेने के लिए क्योंकि मुझे कुछ इनपुट वैल्यू चाहिए थी माइनस टेन से लेकर पेन तक में और मैंने उसके बाद सिकमाइडअप्लाई कर दिया डायरेक्टली और सिग्माइड अप्लाई करने के बाद मैंने 1 प्लॉट क्रिएट किया अब बात करते हैं इसी फंक्शन पर जाकर जो हमने पहले क्रिएट किया था यहाँ पर यहीं पर हम 1 फॉरवर्ड क्रिएट करेंगे क्योंकि मैंने क्या बोला ये न्यूरोन क्रिएट कर रहे हैं न्यूरॉन में फॉरवर्ड नहीं होगा तो कहाँ होगा तो फॉरवर्ड यहाँ पर हम क्रिएट करेंगे फॉरवर्ड ठीक है उसके बाद हम इसमें 2 चीजें देंगे हम इसमें क्या देंगे हम इसमें देंगे इनपुट्स इनपुट लेने के बाद हम इसमें जी कैलकुलेट करेंगे जी क्या है मैंने आपको बताया जो जी वाला फॉर्मूला है वो फॉरवर्ड पास में चलता है पहले हमने कंस्ट्रक्टर क्रिएट किया मैथर्ड क्रिएट करा डेरिवेटिव क्रिएट किया अब हमारा काम है फॉरवर्ड क्रिएट करना अब ये फॉरवर्ड कैसे कॉप करेगा सेल्फ बास प्लस जैसा मैंने आपको बोला था ये सम लेता है किस चीजों को सारे के सारे इन्पुट और सारे के सारे वेट्स के मल्टीप्लिकेशन को क्या क्या चीजें ले रहा है इनपुट और वेट का मल्टीप्लिकेशन और उन दोनों को सबको एड करना है मतलब फिफ्टी फिफ्टी टाइम डब्लू, एक्स वन प्लस डब्लू एक्स टू प्लस डब्लू डब्लू थ्री एक्स थ्री। ऐसे करके यह ऐड करना है तो इसको मैं सिंगल लाइन में लिखूंगी फॉर डब्ल्यू कॉमा एक्स डब्लू मतलब वेट इसको मैं जिप फंक्शन से क्रिएट करूंगी जिप सेल्फ वेट कॉमा क्या लेना है मुझे इनपुट्स क्योंकि हर 1 इनपुट के लिए जेनरेट होना चाहिए वरना इसका कोई भी मतलब नहीं रह जाएगा इसलिए ठीक है तो मैंने क्या लिखा है जिप करा है मैंने 2 चीजों को और दोनो वैल्यूज मैंने यहाँ पर ले लिए हैं और मुझे क्या चाहिए इन दोनो का मल्टीप्लिकेशन चाहिए और मल्टी क्या लगा रही हूँ उन सारी वैल्यू पर सम यह हमारा जी केल्कुलेट हो गया आउटपुट के लिए सेल्फ आउटपुट को इनिशियलाइज करेंगे अब क्यूँकी पहले हमने उसको क्या करा है जीरो रखा हुआ जीरो प्वाइंट जीरो लोड प्वाइंट नंबर लिया था अब हम सेल्फ स सिग्मोइड के थ्रू हम जी को पास कर देंगे उसके बाद रिटर्न क्या ले लेंगे रिटर्न ले लेंगे। भैया जो हमने आउटपुट जनरेट किया वो हमें दिखा। 2 क्या है सिम्पल अब इसको फिर से समझो 1 लाइन में क्या हो रहा है। हमने जिप फंक्शन से वेट और इनपुट को पेयर करा है। ठीक है इन दोनों को पैर करके हमने मल्टीप्लाई करा है, मल्टीप्लाई कर है। फिर सम करा है। यूजिंग सम फंक्शन इस पूरे सम के बाद 1 एक्स्ट्रा पेनालिटी और जो बोनस है वो हमने आड कराए। यही हमारा जी है। फिर इसको सिग्माइड से पास करा है जहाँ से हमें आउटपुट मिला है सेल्फ आउटपुट में यह बाद में हमें बैक प्रोपोगेशन में बहुत काम आएगा। ठीक है ये हमारा 1 कम्प्लीट न्यूरोन हो गया। इस कम्पलीट न्यूरोन के बाद नेक्सट स्टेप क्या है, नेक्सट स्टेप है। चलो इसको हाइड कर देते है। नेक्स टेप क्या है, नेक्स स्टेप है क्लास क्रिएट करना लेयर ठीक। अब लेयर क्या है लेयर बनाना है जिसके अन्दर मल्टीपल न्यूरॉन्स होते हैं। 1 लेयर क्या होती है? 1 लेयर में न्यूरल नेटवर्क के बहुत सारे न्यूरॉन्स होते हैं। तो 1 न्यूरॉन के लिए हमें फिर से 1 कंस्ट्रक्टर बनाना। क्लास के लिए हमें फिर से कंस्ट्रक्टर बनाना है जिसमें हम 2 चीजें देंगे। पहला सेल्फ पैरामीटर तो मस्त होता ही है। उसके बाद एन न्यूरॉन्स आप डिसाइड कर सकते हो। आपके पास 1 उसमे कितने न्यूरोन जायेंगे, 4 चाहिए, 5 चाहिए, 6 चाहिए, 10 चाहिए जितने न्यूरोन्स आप उसमे डालना चाहते हो। डिपेंडिंग अपन आप कितना बड़ा प्रॉब्लम स्टेटमेंट सॉल्व कर रहे हो वो आप यहाँ पर क्रिएट कर लो डेफ इन एट सेल्फ कामा एंड न्यूरोंस, एन एन इनपुट बिकाज न्यूरॉन को भी इनपुट चाहिए करेक्ट। उसके बाद सेल्फ न्यरॉन। अब सेल्फ नयूरोंस क्या करेगा हमारे लिए सेल्फ न्यूरॉंस हमारे लिए 2 चीजों पर वप करेगा। पहले तो हम न्यूरॉन की क्लास को कॉल करेंगे। न्यूरॉन की क्लास को कॉल करने के बाद हम उसको इनपुट दे देंगे कि भैया ये तुम्हारा इनपुट है। अब इस इनपुट से हमें क्या चाहिए ये कितने न्यूरोन्स होने चाहिए। जितने न्यूरानस मे ऊपर क्रिएट करे एंड न्यूरॉन्स वाले फंक्शन से वो हम यहाँ पर इटरेट कर देंगे। फॉर अंडरस्कोर इन रेंज अंडरस्कोर न्यरॉन सिम्पल नीरोन्समेंहमने बता दिया कि हमें कौन कौन से न्यूरॉन अब नेक्स्ट है हमारे पास फॉरवर्ड क्रिएट करना क्योंकि फॉर्वर्ड क्या है। 1 स्टेप है जो जरूरी है। क्योंकि अगर आप वो नहीं क्रिएट करोगे तो पूरा का पूरा समप कैसे होगा चीज होगा सारी चीजें 1 साथ कैसे काम करेंगे तो हम इसमें फिर से 1 सेल्फ पैरामीटर लेंगे और यहाँ पर 1 इनपुट फंक्शन का इस्तेमाल करेंगे। ठीक है इनपुट्स हम इसमें इस्तेमाल कर लेंगे। अब इसमें क्या करना है हमें रिटर्न करना है रिटर्न क्या कराएंगे रिटर्न हम वही कराएंगे न्यूरॉन फॉरवर्ड न्यूरॉन से हमारे पास क्या चीजें निकल के आती है वो मुझे चाहिए मुझे वो देखनी है। अब इसमें हम न्यूरॉन को लिखेंगे। ये वाला न्यूरॉन हमारा 1 पैरामीटर है। तो हम इसको ऐसे करेंगे। ठीक है न्यूरॉन। उसके बाद हम यहाँ पर डॉ फारवर्ड लगाएंगे। डॉट फॉर्वर्ड ब्रैकेट्स में इनपुट फॉर न्यूरॉन, एन सेल्फ न्यूरॉन, धन इतनी बात समझ में आई। हमने सिम्पली 1 लेयर क्रिएट करी है। 1 लेयर के अन्दर 1 तरीके से समझ लो न्यूरॉन की लिस्ट होती है और फॉर्वर्ड पास का मतलब है। हर न्यूरॉन को सेम इनपुट देना है और सबके आउटपुट हमें कलेक्ट करने है। सिम्पल बात समझ में आई। हमने 1 लेयर क्रिएट करी है। 1 लेयर के अंदर हमने 2 चीजें दी हैं। 1 कंस्ट्रक्टर क्रिएट कराए कंस्ट्रक्टर के बाद 1 फॉरवर्ड पास क्रिएट कराया है। लेयर कुछ भी नहीं होती है। लिस्ट ऑफ न्यूरॉन्स होती है। न्यूरॉन्स को हम सेम इनपुट दे रहे हैं। जितने भी न्यूरॉन क्रिएट करोगे हम सेम इनपुट जाएगा सबके आउटपुट कैलकुलेट हो दन। 1 न्यूरॉन बन गया, 1 लेयर बन गया। इसके बाद हमें क्या करना है। 1 न्यूरल नेटवर्क बनाना है 1 फुल फंक्शनल न्यूरल नेटवर्क। तो हम करेंगे क्लास न्यूरल एंड नेटवर्क ठीक इसको हम कैपिटलाइज कर देते हैं ताकि थोड़ा अच्छा भी दिखे और थोडा रीडेबल भी हो जाए। उसके बाद डेफ एनेट, उसके बाद हमें क्या चाहिए। हमे बताना है लेयर का, कितना साइज है कितनी लेयर्स हमारे पास, ये हम यहाँ पर भेजेंगे। न्यूरल नेटवर्क के अन्दर लेयर्स के साइज के बारे में बात होती है। ठीक। अब लेयर साइज क्या हो सकता है। मान लो कि आपने लिखा की मैं लिख रही हूँ। ले से मैंने लिखा टू का फोर कॉमा ऑन इसका मतलब क्या है? इसका मतलब है कि 2 इनपुट है। पहला तो मतलब 2 इनपुट है, 4 मतलब 4 हिडन लेयर्स हैं, 1 मतलब आउटपुट है। अगर मैं आपको अभी गूगल पे लेके जाऊँ और मैं आपको दिखाऊं न्यूरल नेटवर्क का स्ट्रक्चर या न्यूरल नेटवर्क का आर्किटेक्चर। कुछ भी अगर आप सर्च करोगे तो आपको कुछ न्यूरल नेटवर्क में हिडन लेयर्स के बारे में कुछ चर्चा आपको मिल जाएगी। कहीं न कहीं जैसे कि ये अगर आप इमेज देखोगे विकिपीडिया की तो इसमें 3 ही चीजें होती है। इनपुट लेयर, हिडन लेयर, आउटपुट लेयर देखो। मैंने ये इमेज इसलिए नहीं डाली हुई अपने नोट्स में क्योंकि ये हर जगह आपको देखने को मिलती है। बट इसके अन्दर क्या चीजें काम करती हैं यह जानना जरूरी ठीक है। तो इनपुट लेयर्स हेडन लेयर्स और आउटपुट लेयर हेडन लेयर कितनी भी हो सकती है न्यूरॉन्स उनके बीच कनेक्शन एक्टिवेशन फंक्शन का काम करना, कैसे डाटा फ्लो करता है, डाटा फ्लो करता है, लेफ्ट से राइट करेक्ट, डाटा फ्लो कर रहा है, लेफ्ट से राइट, फॉर पास काम करता है, लेफ्ट से राइट, ये इम्पोर्टेंट है। जानना लर्निंग प्रोसेस कहाँ से चल रहा है, लर्निंग प्रोसेस इनपुट से चल रहा है। हिडन लेयर में हम जितनी भी लेयर क्रिएट करते हैं उन्हीं लेयर्स के थ्रू हम वैल्यूज को सेम डाटा देते हैं और सबका आउटपुट लेते है और उसी सेम आउटपुट के बारे में हम बाद में बात करेंगे। ठीक है। तो ये हमारा हो गया। अब हमने 1 न्यूरल नेटवर्क क्रिएट करने के लिए हमे क्या चाहिए। हमें यहाँ पर पहले तो 1 सेल्फ लेयर करके 1 पैरामीटर दे। ठीक है, सेल्फ डा लेयर्स, ठीक सेल्फ लेयर क्या है। हमारी 1 लिस्ट होने वाली है। जिसमें ने बोला कितनी भी लेयर्स हो सकते हैं तो वो हमने लिस्ट में डिफाइन कर दिया। ले से आम राइटिंग, फॉर आई इन रेंज इस रेंज में हम वन से स्टार्ट करके लेंथ ऑफ़ लेयर साइज तक जायेंगे जितनी भी लेयर साइज आपने डिफाइन करे जितने भी लेयर्स आपको चाहिए वहाँ तक हम जायेंगे और इन वैल्यूज को हम लेंगे और उसके बाद हम सेल्फ लेयर में उसको पेंड कर देंगे ताकि 1 न्यूरल नेटवर्क कम्बाइन हो जाए। है न? तो न्यूरल नेटवर्क को बनाने के लिए हम इसमें सेल डॉट लेयर्स में जाकर अपेंड कर देंगे। फटाफट क्या पेंड करना है हमें हमें अपेंड करना है भैया जो हमने लेयर बनाई है तो अब लेयर क्या है? लेयर क्या है लेयर अगर आप ध्यान 2 तो हमने पहले यहाँ पर 1 क्लास बनाई है ये वाली क्लास ठीक है इसको कैपिटलाइज कर देती हूँ मैं ये लेयर जो है वो हम यहाँ पर यूज करेंगे लेयर। मतलब अगर आपने इनहैरिटेंस वगैरह कॉन्सेप्ट पड़े हैं तो ये सारी चीजें वहाँ से यूज हो रही है। ठीक है अब हम इसमें क्या लिख रहे हैं लेयर में हम 2 चीजें करेंगे पहले तो 2 चीजें देंगे क्योंकि लेयर फंक्शन जब हमने लेयर मैथर्ड जब हमने क्रिएट कर है तो हम न्यूरोंस इनपुट के बारे में, इसका इसका जो डाटा है इसमें जो पैरामीटर जायेंगे वो एन न्यूरॉन्स और एन इनपुट के बारे में बात हो री है तो वही सेम चीज हम इसमें यहाँ पर देंगे। अब इसमें हम पहले देंगे लेयर साइज लेयर साइज क्या है हमारा आई में आइये 1 लोकल वैरिएबल है फॉर लूप के लिए उसके बाद लेयर साइजेज जो होंगे हमारे वो आई माइनस वन तक हम इसमें इनपुट दे देंगे। ठीक है ये हमारा 1 न्यूरल नेटवर्क का बेसिक चीज होगा कंस्ट्रक्टर रेडी हो गया। ठीक है। अब नेक्स्ट क्या है नेक्स्ट है हमारा फॉर्वर्ड क्योंकी फॉर्वर्ड के बिना वो चीज काम ही ही करेगी क्योंकि फॉर्वर्ड के बिना कोई चीज प्रोसेस नहीं होगी। तो अब इसमें फॉर्वर्ड को क्या चाहिए, फॉरवर्ड को चाहिए बस इनपुट तो हम इसको बस इनपुट्स दे देंगे। उसके बाद हम लिखेंगे फोरलूफॉरलेयस लेयर इन सेल्फ डॉट लेयर्स क्योंकि हमें लेयर्स पर काम करना है क्योंकि अब हम न्यूरॉन पर्टिकुलरली पर काम नहीं करेंगे क्योंकि न्यूरॉन को हमने लेयर को सौंप दिया है। लेयर है है डे जो न्यूरॉन का। अब लेयर के मदद से ही 1 न्यूरल नेटवर्क क्रिएट होगा जिसमें हम इनपुट को डिफाइन करेंगे इनपुट इस ईक्वल्टु, लेयर्स डॉट, फॉवर्ड इनपुट। अब यहाँ से हम क्या रिटर्न मिलेंगे रिटर्न में हम इनपुट्स ले लेंगे क्योंकि मैंने क्या बोला कि हम ले फॉरवर्ड प्रोसेस में बहुत सारे इनपुट में मिलते है। ठीक है अब चलो 1 बार फिर से इसको रन कर लेते हैं और देखते हैं कि हमारे पास क्या उटपुट आएगा ये भी रन कर लेते हैं ये भी रन कर लेते हैं। तो अब हमारा 1 लेयर सी क्रिएट हो गई। अब चलो 1 नेट क्रिएट करते है मतलब हमने जो फंक्शंस और जो क्लासेस हमने क्रिएट कर ली है अब उसको टेस्ट कर लेते है। मान लो 1 नेट 1 मेरा ऑब्जेक्ट है जिसमें में न्यूरल नेटवर्क क्रिएट करें। ठीक है इस न्यूरल नेटवर्क को क्या क्या वैल्यू चलो सेम वैल्यू दे देते है। टू फोर वन। अब हम देखते हैं प्रिंट करके कि न्यू नेट डॉ फॉर्वर्ड हमें क्या दे रहा है। टू फोर वन हमने दिया है। हमने कुछ एरर करा है। न्यूरल नेटवर्क में फोर्स कुछ नहीं ओके तो ये हमें क्या दे रहा है। यह हमें 1 जनरेटर करके कुछ ऐसा कुछ रिटर्न कर दे रहा है। पर हमे क्या चाहिए हमे आउटपुट चाहिए हमे 1 नंबर चाहिए। हमें नंबर जनरेट करना है करेक्ट। तो 1 बार हम अपने इनपुट में तो चलो फिर से देखते हैं। सबसे पहले हमने मैच लाइबरेरी और रैंडम लाइब्रेरी को इम्पोर्ट किया। फिर हमने न्यूरॉन की क्लास क्रिएट करी जिसके अन्दर हमने 4 चीजें दीं, 4 चीजें क्या क्या थी वेट था, बायस था, आ और डेल्टा था वेट किया है। हमारा 1 रैंडम नंबर है जो यूनिफार्म फंक्शन से जनरेट किया है। माइनस वन से लेकर वन तक में से फिर 22 1 रैंडम वाली और आउटपुट और डेल्टा हमने जीरो जीरो रखा है। आउटपुट हम जनरेट करेंगे डेल्टा हम बाद में इस्तेमाल करेंगे। जब हम इसको ट्यूनिंग करेंगे। उसके बाद हमने सेमाइट फंक्शन जनरेट किया। सेमाइट फंक्शन में हमने मैच का एक्सपोनेंशियल वैरिएबल एक्सपोनेंशियल फंक्शन का इस्तेमाल किया। उसके बाद हमने 1 नीट तरीका मतलब 1 बहुत अच्छा तरीका, साफ तरीका, हमने लिखने की कोशिश करी सिग्मा डेरिवेटिव की। उसके बाद हमने 1 फॉवरबायस क्रिएट किया फॉवर्ड पास क्रिएट किया। उसके बाद ये हमने कुछ एडिशनल चीजें देखी थी। उसके बाद हमने 1 लेयर क्रिएट करे। अब इस लेयर को देखो। इस लेयर में हमने 1 क्लास लेयर क्रिएट करे। उसके बाद हमने 1 न्यूरॉन उसको पास किया। उसके बाद फॉवर्ड पास चलाया। उसके बाद यहाँ पर चेक करे की कितनी लेयर सै। ै मैंने ये फंक्शन भी एड किया है जिसमें हमने लिखा अंडरस्कोर अंडरस्कोर रेप और यहाँ पर हम देख रहे कि हमारे पास 1 उसमे कितने लेयर्स कितने न्यरोन्स है। 1 लेयर में। अब हम इसको टेस्ट करते हैं। टेस्ट करने से पहले ये देखते है न्यूरल नेटवर्क न्यूरल नेटवर्क हमने क्या किया कंस्ट्रक्टर क्रिएट किया। हमने 1 फॉरलूपकेफंक्शन के मदद से उसमे सारा डाटा लेयर में डाल दिया। उसके बाद 1 फोर पास क्रिएट किया। पॉवर पास क्रिएट करने के बाद हमने फोर्चुनेट किया। पहले हम लेयर टेस्ट करते हैं वह हम लेयर को टेस्ट कर रहे भैया क्योंकि देखो हमें पहले यह पता चलना चाहिए कि हमारी लेयर कितने उसपे बनी है। ठीक है कितने न्यरोन्स है कितने इनपुट हम उसमे दे रहे है। तो मैंने 1 लेयर का 1 ऑब्जेक्ट क्रिएट किया है। ठीक इसके अन्दर हमने नंबर ऑफ़ न्यूरॉन्स जो दिए है, 4 दिए हैं। नंबर ऑफ़ इनपुट जो दिए है वो 2 दिए है। अब हम चेक करे की कितनी लेयर्स हैं कितने मतलब ये हमें लेयर हमें बताएगा। उसके बाद फोर्ट के आउटपुट क्या क्या है जैसा की मैंने 4 न्यूरोन्स इसमें दिए हैं। 4 न्यूरो, चारों न्यूरोंस अलग अलग आउटपुट देंगे मैंने ये एडिशनल कोर्ड क्यों डाला है एडिशनल कोर्ड मैंने इसलिए डाला है ताकि आप लोगो को समझ में आए की लेयर जो क्रिएट करी है उसको टेस्ट करके आप कैसे पता लगा सकते हो की आउटपुट क्या क्या आ रहा है क्यूँकि देखो होता क्या है जितनी लेयर बनाओगे जितनी भी हिडन लेयर हंगीइसमेंपांच लेयर है तो पहले वाले का आउटपुट दूसरे वाले के लिए इनपुट बन जाएगा दूसरे वाले का आउटपुट तीसरे वाले के लिए इनपुट बन जाएगा तो 1 लेयर का आउटपुट दूसरे लेयर के लिए इनपुट की तरह काम करता है इसी लिए लेयर को समझना इम्पोर्टेंट है डायरेक्टली अगर आप न्यूरल नेटवर्क पर जप करोगे तो यह स्टेप स्किप हो जाएगा तो आप ये ध्यान से देखो की जब हमने 4 लेयर्स क्रिएट करे 2 इनपुट दिए पहली लेयर को तो आउटपुट में हमें क्या क्या चीजें मिल रही हैं। अब 1 चीज ध्यान देना मैंने इसमें राउंड फंक्शन का इस्तेमाल किया है मैं राउंड फंक्शन क्यों कर रहूँ क्योंकि मुझे ज्यादा डिजिट्स नहीं चाहिए मुझे चाहिए बहुत ही क्लीन आउट पुट रहे ताकि रीडेबल भी रहे आप लोगो के लिए इसलिए मैंने इसको फोर डिजिट तक इसको वाइंड अप कर दिया है और हम फॉरवर्ड वायस ले रहे हैं और इसमें इनपुट क्या क्या दे रहे हैं हम इसमें 2 इनपुट कान देरहे जीरो और वनी इनपुट दे रहे हैं। अब जब मैं इसको रन करती हूँ मुझे स्टार्टिंग से रन करना पड़ेगा वेट ठीक मैंने ये रन किया था पहले मैंने लाइब्रेरीज लिया मैं फंक्शन रन नहीं कर रही हूँ मैं 1 लेयर जनरेट कर रही हूँ ठीक है अब आप इसको ध्यान से देखो लेयर कितनी है 4 न्यूरोन्स है कितने हल जब हमने लिया तो 4 न्यूरोन्स है चारों न्यूरोन्स के पास 4 आउटपुट तो आने चाहिए पहले वाले का आउटपुट किया था जीरो पाइंट सिक्स नाइन, फाइव ऑन जो हमने दूसरे वाले को दिया फिर दूसरे वाले का, तीसरे वाले को, तीसरे वाले का, चौथे वाले को, चौथे वाले के पास यह आउटपुट आया समझ में आया 1 लेयर दूसरे लेयर को इनपुट देती है 1 लेयर का आउटपुट दूसरे लेयर के लिए इनपुट बन जाता है। अब जब हमने न्यूरल नेटवर्क क्रिएट किया न्यूरल नेटवर्क में हमने ये डाटा लिखा कंस्ट्रक्टर क्रिएट करा लेयर्स के अन्दर लेयर डाल दी, न्यूरल नेटवर्क के अन्दर लेयर्स डाल दिया, पेंड कर दी उसके बाद 1 फोर पास भी चला दिया उसके बाद हमने 1 न्यूरल नेटवर्क क्रिएट कर चलो इसको रन करते हैं और 1 ऑब्जेक्ट जो हमने क्रिएट करा इसके बाद हमें 1 नंबर मिला जीरो प्वाइंट थ्री, जीरो प्वाइंट थ्री ये क्या 1 सही नंबर है क्या हमारा न्यूरल नेटवर्क सही से क्रिएट हो गया है अब ये कैसे पता लगेगा जब आप इस आउटपुट को देखोगे तो ये 1 रैन्डम नंबर है कम्प्लीटली जिसको आप गैस ही नहीं कर सकते कि यह क्या है क्यूँ क्यूंकी कम्प्लीटली रैंडम है क्योंकि वेट हमारा रैंडम है ट्रेनिंग हमारी हुई नहीं है तो यह अनट्रेंड ब्रेन की तरह है अन ट्रेंड ब्रेन कुछ भी बोल सकता है आपके आगे तो अब हम इसको ट्रेन करना सीखेंगे। हम सीखेंगे की मॉडल। पहली बात तो हमें ये चेक करना ही सही है। ये गलत है, गलत है तो कितना गलत है। अगर यह गलत ही है और इसको सही करना है तो क्या चीजें लगेंगी हमें तो ये हमारा नेक्स्ट टॉपिक है। विच इज लॉस फंक्शन। अब लॉस फंक्शन क्या होता है? न्यूरल नेटवर्क। कभी भी नेटवर्क जब प्रेडिक्ट करता है तो 1 रैंडम नंबर देता है। पर हमें 1 तरीका चाहिए ये जानने का कि ये चीज कितनी गलत है। जब हमें ये जानना होता है न कि ये चीज कितनी गलत है, तब हम इस्तेमाल करते हैं। लॉस फंक्शन का लॉस फंक्शन क्या है? भैया लॉस फंक्शन 2 चीजों पर काम करता है, लॉस फंक्शन 2 चीजों पर काम करता है। अब पहले समझते है की हुआ क्या भी यहाँ पर हुआ यह है कि अब हमें 2 कॉन्सेप्ट्स को समझना है जो बहुत इम्पोर्टेंट है। न्यूरल नेटवर्क के लिए ग्रेडिएंट डीसेंट और बैक प्रोपगेशन, ग्रेडियंट डीसेंट और बैक प्रोपोगेशन भाई बंद की तरह है। ठीक है ग्रेडियंट डीसेंट का पार्टनर इन क्राइम है? बैक प्रोपगेशन, ग्रेडियंट डिसेंट जिस काम को करना चाहता है वो अकेले नहीं कर सकता, उसकी मदद करता है। बैक प्रकशन अभी के लिए इतना काफी है। अब नीचे चलते हैं आप 1 एग्जांपल के तरीके। ऐसे समझो की ग्रेडिएंट डीसेंट और बैक प्रॉप केशन होता क्या है? उससे पहले यह समझो कि हमारा जो मॉडल है जब वो प्रेडिक्शन गलत ही दे रहा है तो हमें क्या करना चाहिए। आपने बहुत कॉमन एग्जाम्पल देखा होगा की हाउस प्राइसेस का काम करते हैं, हाउस प्राइजेस क्या होते है, कैसे प्रेडिक्ट कर जाते है। मान। 1 एक्चवअलघरहै जिस घर का प्राइज है, फिफ्टी लाख बट मॉडल आपको बोलता है। नहीं नहीं, ये तो 80 लाख का है। तो क्या ये प्रेडिक्शन गलत है? ये सही है। ऐक्चवली अगर हम डेटा से कम्पेयर कर पाये तो हमें समझ में आता है कि ठीक है प्रेडिक्शन गलत है ये सही। पहला तरीका तो ये होगा की हमें एक्चुवल डाटा चाहिए, बिना एक्चुवल डाटा के। हम नहीं बता सकते कि ये गलत है। जैसे हमें प्रूफ चाहिए कोर्ट में की ये बंदा गलत है। इसको साबित करने के लिए हमें प्रूफ चाहिए वैसे ही हमें एक्च्वलडेटा चाहिए ये बताने के लिए की मॉडल हमारा गलत है, जिसके लिए हम क्या करेंगे। हमने दोनों को अगर हम देखे फिफ्टी और टी लाख को मतलब हमारा थी तो भैया आ रहा है। मतलब प्रेडिक्शन गलत तो है यह तो हमें पता है, पर इसको पता कैसे लगायेंगे, हम क्या ये मान ली 11 वैल्यू पर जाकर करेंगे नहीं, हम करते हैं। लॉस फंक्शन का इस्तेमाल, लॉस फंक्शन क्या होता है? लॉस फंक्शन हमें बताता है कि आपका मॉडल भैया कितना गलत है। थोड़ा गलत है, ज्यादा गलत है, ज्यादा ट्यूनिंग की जरुरत है, की कम ट्यूनिंग की जरूरत है। तो यह हमें लॉस फंक्शन बताता है। ठीक है। अब लॉस फंक्शन को थोड़ा अच्छे से समझते है। पहले लॉस फंक्शन को हम कहते हैं। कोस्ट फंक्शन, लॉस फंक्शन का दूसरा नाम होता है कास्ट फंक्शन अब कास्ट फंक्शन क्या है इसको 1 आप एग्जाम्पल ऐसे समझो डार्ट गेम खेल रहे है। ठीक है अब जब आप इस डार्ट गेम को खेल रहे हो और आप कोई भी जो है टारगेट पर मतलब टारगेट जो है वो बोला हमारा जो सेंटर है उस पर जब हम टारगेट करने की कोशिश कर रहे है तो या तो ये चांसेस है की आपका जो डाट है वो या तो ज्यादा दूर गिर सकता है या तो बहुत पास भी हो सकता है दोनो प्रोबाबिलिटी है तो अगर आपका डर दूर लगे सेंटर से तो इसका मतलब कि लॉस ज्यादा है अगर वो बहुत पास में लग रहा है इसका मतलब लॉस बहुत कम है। मतलब अगर आपने थोड़ा सा जैसे कहते है की अरे यार मैं तो चूक गया ये लग जाता बस लगने ही वाला था तो वो वाला जो सीन है वो मतलब लॉस कम है आपके मॉडल में बहुत कम गलती करी बहुत क्लोज है वो करेक्ट आंसर है तो ये 1 डार्ट गेम आपको वो कस फंक्शन की एनालिसिस के लिए ही मैंने इस में डाला है कॉस फंक्शन कैरो लॉस फंक्शन कैलो सेमी है यही काम करता है लॉस फंक्शन ये बताता है कि आपका नेटवर्क प्रेडिक्शन जो दे रहा है वो एक्चुवल आंसर से कितनी दूर है। और हम इस चीज के लिए 1 मेट्रिक्स का इस्तेमाल करेंगे जिसका नाम है एम एस मीन स्क्वायर डर। अगर आपने न्यूरल नेटवर्क से पहले कोई भी मॉडल क्रिएट करा तो आपने मीन स्कवायर रर के बारे में पढ़ा होगा। मीन स्क्वायर एरर क्या होता है, मीन स्क्वायर एरर का, ये फॉर्मूला होता है वन डे डेपाइडेडबाईएन मल्टीप्लाई सम ऑफ वाईएक्चवलमाइनस वाई प्रेडिक्शन का स्क्वायर, अब वाई एक्चवलवाईप्रोडिक्शन का स्क्वायर मतलब। हम यहाँ पर स्क्वायर क्यों नही कर रहे है भैया बिना स्क्वायर के भी तो हो सकता है मीन एरर भी तो हो सकता है। मीन स्क्वार्ड एरर क्यों है ये देखो। इसके 2 रीजन होते हैं। सबसे पहला रीजन ये की पहली बात तो जब हम कोई डाटा देखते हैं न पॉजिटिव और नेगेटिव आप देखो मैंने उसमे सम का फंक्शन अप्लाई किया है। यहाँ पर यह हमने सम अप्लाई किया। अब सम का मतलब है कि अगर मैं पॉजिटिव नेगेटिव को प्लस कर दूँ तो तो कैंसिल आउट हो जायेंगे और जब ये कैंसल आउट ही हो जायेंगे तो मतलब मॉडल तो भाई मैं उसको प्रेडिक्ट नहीं कर सकती। 1 दूसरे को कैंसिल कर देते हैं इसी लिए हमने इसमें स्क्वायर कराया। अब इसको एग्जाम्पल से समझते है मान लो प्रेडिक्टेड आउटपुट। आपका जीरो प्वाइंट ऑन है और जीरो पॉइंट टू है। एक्चुवल में ये वन और जीरो थे। बट ये वेरी क्लोज है इसमें अगर हम देखे तो ये वन से थोड़ा जीरो प्वाइंट टू कम है। मतलब माइनस जीरो प्वाइंट टू का एरर है जीरो से अगर हम जीरो प्वाइंट टू को कम्पेयर करें तो ये जीरो पाइंट टू ज्यादा है। मतलब प्लस हो गया, ये माइनस हो गया। अगर मैं टोटल देखूं इसको दोनों को सम करूँ तो जीरो हो जाएगा। प्लस माइनस जीरो होता है मैथमेटिकल अच्छा। ये जीरो हो जाएगा मतलब मैंने तो कुछ फिगर आउट करा नी मैंने जो कैलकुलेशन करी वो भी निल बटा सन्नाटा हो गई तो 1 तरीके से मुझे प्लस माइनस को भी कैंसिल आउट होने से बचाना है इसलिए मैंने इसको स्क्वायर कर दिया। अब स्क्वायर करने से क्या होगा अगर आप ध्यान से देखो जीरो पाइंट टू का अगर आप स्क्वायर करोगे तो जीरो प्वाइंट जीरो फोर आ रहा है नेगेटिव वैल्यू भी हट गई अब हमने इसका स्क्वायर किया जीरो पाइंट टू का माइनस का तो हमारे पास ये वैल्यू आ रही थी अगर हम दोनो को प्लस करते हैं तो हमारे पास क्या आएगा जीरो जीरो 8 इंस्टिट गेटिंग जीरो मेरे पास कुछ वैल्यू तो आ रही है एटलीस्ट मतलब की इसमें वैल्यू पर बहुत ज्यादा ध्यान देना होता है समझ में आई बात दूसरा हमारा रीजन क्या होता है कि यह क्या करता है बड़े एरर्स को तो ज्यादा ही पेनालाइज करता है जब भी हम इसमें लॉस फंक्शनस में वर्क करते है में स्क्वायर पर वर्क करते हैं तो यह क्या करता है बड़ी वैल्यू को बड़ा है पेनालाइज भी करता है तो मान लो अगर आपके पास कुछ डेटा है यह दूसरा रीजन है स्क्वायर करने का एरर है जीरो प्वाइंट वन एरर है जीरो प्वाइंट टू, जीरो प्वाइंट फाइव, जीरो प्वाइंट नाइन मैंने बोला स्क्वार्ड करुँगी भाई इसका स्क्वायर करा स्क्वायर करने के बाद ये वैल्यू आ गई मतलब जीरो प्वाइंट नाइन को अगर आप ध्यान से देखो जो सबसे बड़ा एरर है वो जीरो प्वाइंट ए वन है सबसे बड़ा एरर मतलब वैल्यू बहुत दूर गिरी थी मतलब कि मेरा जो बोला था उससे मेरा आउटपुट बहुत ज्यादा दूर था मतलब सबसे पहले तो मुझे वह करने की जरुरत है की मुझे अपने टारगेट पर बहुत ज्यादा ध्यान देने की जरुरत है, कम वाली तो मैं बाद में भी सॉल्व कर लूंगा, कहते है बड़ा प्रॉब्लम है पहले सॉल्व कर लो तो बहुत कम छोटी छोटी प्रॉब्लम आपके पास रह जाएंगे तो जीरो प्वाइंट ए वन जब हमने स्क्वायर्ड कर दिया तो हमारा मॉडल कुछ इस तरीके से काम करेगा जीरो पाइंट वन को, जीरो पाइंट जीरो वन पेनल्टी देगा, जीरो पाइंट नाइन को, जीरो पाइंट ए वन पेनल्टी देगा मतलब नाइन टाइम्स लार्जर एरर को, यह एटी ऑन टाइम्स लार्जर मतलब छोटी सी चीज को भी बहुत बड़ा करता है, बट यह बहुत अच्छा है क्यूंकि इसमें क्या होगा क्यूंकि मॉडल आपका ट्राय करेगा की इसको जल्दी से जल्दी ठीक करो भैया ये तो बहुत ही बड़ा है मतलब बहुत बड़ी मिस्टेक कर दी हमने इसीलिए हम इसको यूज करते हैं। लॉस फंक्शन के ये 2 कारण है लॉस फंक्शन में स्क्वायर जो हम यूज करने वाले है इसके ये 2 कारण है जो आपको समझ में आने चाहिए थी चलो वापस से डाटा में चलते है देखो मैंने फाइल को स्विच कर दिया ताकि हम इस वीडियो को जल्दी कर सके क्यूँ की बहुत ज्यादा टाइम हम इसमें ऑलरेडी लगा चुके हैं तो देखो एक्स और डेटा क्रिएट कराए मैंने एक्स और डेटा क्रिएट करने के लिए मैंने सिम्पली 1 ट्रुक टेबल क्रिएट करिए जो मैंने आपको पहले भी दिखाई थी। जीरो जीरो पे आउट, पुट जीरो आएगा, जीरो वन पे आउटपुट, ऑन आएगा, वन जीरो पर आएगा और वन वन पे जीरो आएगा। ये मैंने 1 ट्रुटटेबलजनरेट करिए। इसी ट्रूटटेबलकोमप्रिंट करूंगी प्रिंट करने के लिए मैंने थोडा डैसेस थोड़ा मतलब सिम्प्लीफाई कराए ताकि ये थोड़ा आउटपुट क्लीन हो जाए। उसके बाद इनपुट मैंने लिया है जो मैं 1 प्रिंट कर रही हूँ। आउटपुट मैंने यहाँ पर प्रिंट करा है। उसके बाद मैं इसको विज्वलाइज कर देखो। ये टेबल के फार्मेट में आ गया। मेरे पास आउटपुट कुछ भी नहीं किया मैं इसको थोड़ा प्रेजेंटेशन ठीक करिए फॉर्मेटिंग की मदद से प्रिंट फंक्शन के करेक्ट यह हमारा इनपुट हो गया। मैंने क्या बोला सबसे पहला तरीका क्या है यह जानने का की आपका आउटपुट गलत है यह सही कि आप उसको कंपैर करो। एक्चुवल वैल्यू से तो हमें लॉस कंप्यूट करना पड़ेगा। बिना लॉस कंप्यूट करे हमें पता ही नहीं चल सकता हर रो में पहला एलिमेंट इनपुट है दूसरा एक्सपेक्टेड आउटपुट है ये सिर्फ 4 ट्रेनिंग एग्जाम्पल है लेकिन एग्जॉरकेलिएबहुत ज्यादा कॉफी भी है 1 तरीके से अगर हम देखे तो क्योंकि 4 इनपुट है इसको समझ इसको समझ लिया तो हम बड़े इनपुट पर भी काम कर सकते हैं। ठीक है उसके बाद अब हम लॉस कंप्यूट करेंगे, लॉस कंप्यूटर कैसे करेंगे मैंने बताया आपको मीन स्क्वायर मतलब की एवरेज स्क्वायर डिफ्रेंसेस लेंगे प्रेडिक्शन और एक्चुअल का टोटल अभी के लिए मान लेते हैं। जीरो है कोई रह ही नहीं अभी अब हमे क्या करना है डाटा में से इनपुट वैल्यू लेनी है और एक्सपेक्टेड वैल्यू लेनी है इनपुट वैल्यू और एक्सपेक्टेड वैल्यू जब हम लेंगे तो आउटपुट वैरिएबल में हम इसको फॉवरडपटसीनिकालेंगे यहाँ पर हमारे पास आउटपुट में स्टोर होता चला जाएगा। उसके बाद टोटल 1 वैरिएबल है टोटल वैरिएबल के अन्दर हम इसमें जो यहाँ पर हमने क्रिएट कराए है उसी के अन्दर हम सारी वैल्यू उसको डाल रहै। अब हम इसमें 2 चीजे जिप करे है, क्या चीजें जिप करी है। हमने 2 चीजें जिप करी है एक्सपेक्टेड आउटपुट और कैल्कुलेशन लॉस कम्प्यूट करते वक्त हमें सबसे पहले तो अनट्रेड नेटवर्क पर चलते हैं और पहले हमें देखना है कि उसका लॉस कितना है राइट। तो जब हम उस पे गए तो हमने क्या देखा की पहले तो हमें देखना है कि जीरो प्वाइंट। पहले हमारा जो नेट लॉस है वो कितना आ रहा है ये पहले हम ये चेक करेंगे तो उसके लिए हमे क्या करना है। पहले हमें एक्सपेक्टेड आउटपुट पर ही काम करना है एक्सपेक्टेड आउटपुट और एक्चुवल वैल्यू एक्सपेक्टेड आउटपुट के लिए एनपुटसहमनेलेलिया है डाटा से वट डेटा डेटा हम इसको देंगे भैया अब डेटा कौन सा देंगे यह हम देखेंगे। उसके बाद हमने इसको किया उसके माइनस जीरो से एक्सपेक्टेड माइनस, एक्चुवल से हम इसको कैलकुलेट कर रहे है। एक्सपेक्टेड और आउटपुट में से ई कॉम जीरो से हम इसको स्ट्रैक्ट कर रहे हैं। सब ट्रैक्ट करने के बाद हम इसका स्क्वायर भी कर रहे हैं। मैंने आपको बताया मीन स्क्वायर डर यूज करेंगे। हमने कोई मेथड कोई फंक्शन नहीं यूज किया है। हमने डायरेक्ट ली इसको मैथेमेटिकली लिखा है ध्यान से देखो कोर्ड को सब समझ में आएगा इन पुट एक्सपेक्टेड डाटा आउटपुट नेटवर्क फॉवडबाजमेंअप्लाई करेंगे इनपुट दे देंगे उसको उसके बाद हम टोटल कैलकुलेट करेंगे टोटल हमारा ऐसे कैलकुलेट हो रहा है रिटर्न में हम क्या ले रहे हैं, टोटल डिवाइडेड बाय लेंस ऑफ़ द डेटा 5 ए 5 के लिए क्या टोटल आया है। ठीक है। अब हम सीड फंक्शन का इस्तेमाल किया। सीड फंक्शन का इस्तेमाल इसलिए किया ताकि हमारी वैल्यू बार बार चेंज न हो। देखो रैंडम फंक्शन क्या करता है, रैंडम लाइब्रेरी क्या करती है उसमें 1 फीचर होता है की वो आपकी वैल्यू को बार बार चेंज कर सकता है। मतलब अगर मैंने इस फाइल से भी थोड़ा सा भी इधर उधर शिफ्ट किया तो ये चेंज भी कर सकता है। इसलिए मैं इसको फिक्स कर रही हूँ। फोर्टी टू से। ठीक है। अब मैं 1 न्यूरल नेटवर्क मैंने जो ऊपर क्रिएट कर था टू फोर वन वाला वही मैंने लिया। उसके बाद मैं लॉस जानना चाहती हूँ निश लॉस जानने के लिए पहले मैं 1 नेट दूंगी जो मेरा न्यूरल नेटवर्क है वो उसके बाद मेरा एक्चुवल डेटा ठीक एक्सोर का डेटा है जो मैंने यहाँ पर अभी क्रिएट करवाए। एक्स और के वैरिएबल में कुछ भी ज्यादा नहीं किया है। एक्स और के लिए हमने नेट लिया है और एक्स और डेटा को हमने इसमें पास किया है। इनिशियल डेटा का जो लॉस आयेगा वो इनीशियल लॉस हमें यहाँ से पता चल जाएगा। अगर मैं अब इसको रन करती हूँ। वे आई नीड टू रन 10 स् यह अब हम इसको रन करते हैं। अब देखो इनिशियल लॉस हमारा जीरो प्वाइंट थ्री जीरो आ रहा है रफ रफली अगर आप देखो तो ये जीरो प्वाइंट टू फाइव, जीरो पाइंट थ्री जीरो जो हमारे पास वैल्यू है, ये है लॉस रफली हमारा इतना है। तो यह ऐक्चवली एक्सपेक्टेड है कि रैंडम वेट से जो आउटपुट आ रहा है वो जीरो प्वाइंट फाइव के अराउंड होगा और स्क्वार्ड अगर हम करें तो हमारे पास जीरो प्वाइंट टू फाइव समथिंग आएगा है क्यंकि थर्टी का अगरह किसी भी अंडर रूट के अन्दर डालेंगे तो हमारे पास कोई फुल वैल्यू नहीं आएगी। इसलिए मैं जीरो प्वाइंट टू फाइव बोल रही हूँ। ठीक जीरो पाइंट टू फाइव का। अगर आप करोगे तो रफली मैं ये जूम कर रही हूँ की रैंडम वेट जो हमारा जीरो प्वाइंट फाइव के राउंड आएगा। ठीक है। अब हमारा गोल क्या है? हमारा गोल है भैया इस लॉस को तो खत्म करना पड़ेगा बिना इस लॉस को खत्म करे हम आगे नहीं बढ़ सकते। हम अपने मॉडल को नहीं कह सकते कि अब आप सही आउटपुट से ह तो मॉडल का गोल क्या है। हमें लॉस को कम करना है। लॉस को कम करने के लिए हम यूज़ करते है। जी डी, वाट इस, जी डी, जी डी इस, ग्रेडिएंट डीसेंट अब पिक्चर में आता है। ग्रेडिएंट डीसेंट, ग्रेडिएंट डीसेंट और बैक प्रोपगेशन का बहुत जरूरी काम है। इन्हीं दोनों से होगा यह सारा काम ठीक है। अब हमारा गोल क्या है। लॉस जो हमारा जीरो पाइंट टू फाइव है उसको एट लीस्ट। हम जीरो प्वाइंट जीरो फाइव से नीचे तक ले आये तो बहुत ही बढ़िया है। जीरो पाइंट थ्री जीरो है पर मैं उसको जीरो प्वाइंट टू फाइव कह रही हूँ, क्यूँ कह रही हूँ इसका भी मैंने आपको रीजन दिया है। क्योंकि मैं स्क्वायर एरर के प्रोस्पेक्टिव से देख रही हूँ की ट्वेंटी फाइव को अगर अंडर रूट में डालती जीरो पाइंट फाइव मुझे मिल जाता है। पर थर्टी को अगर मैं डालूंगी तो मुझे कोई ऐसी फिक्स वैल्यू नहीं मिलेगी। इसलिए मैं जीरो प्वाइंट टू फाइव ले रही। ठीक है अब इसको मुझे क्या करना है जीरो प्वाइंट जीरो जीरो फाइव से नीचे लेकर आना है और इसके लिए हम यूज करेंगे बैक प्रोपोगेशन का। अब ये पूरी पूरी विडियो का अगर मैं। बोलू न। तो सबसे इम्पोर्टेंट पार्ट जो है वो यही है। बैक प्रोपोगेशन 1 बेसिकली इंजन ऑफ लर्निंग की तरह काम करता है। बैक प्रोपोगेशन वो चीज है जिसको सुनकर काफी सारे लोग घबरा भी जाते हैं। क्योंकि बहुत कॉम्प्लेक्स लगता है, कैलकुलस भी चाहिए समझ में नहीं आता है। ये सब कुछ बकवास है। अगर आप सिंपल आइडिया से इस चीज को समझो मान लो तुम 1 रेस्टारेंट में गयो शेफ हो, खाना बिरयानी बनी है लेट सी, लेकिन कस्टमर ने बोला की थोड़ी मिर्ची ज्यादा चाहिए तो तुम उस केस में क्या करोगे, तुम अगर बेसिकली आप क्या करोगे, थोड़ी सी मिर्ची कम डालोगे, अगर ज्यादा मिर्ची है, अगर उसने ऐसा फीडबैक दिया है तो मिर्ची कम डालोगे। बैक प्रोपोगेशन भी यही करता है। यह क्या करता है। नेटवर्क में से जो नेटवर्क ने प्रोडक्शन किया है उसका लॉस जो कैलकुलेट हुआ है। अब हम उस हर वेट को बता रहे है की अगर थोड़ा ज्यादा होता तो सही होता, थोड़ा सा कम होता तो सही होता, थोड़ा ज्यादा होता तो सही होता, थोड़ा कम होता तो सही होता। हम उसको फीड बैक पर चला रहे हैं, बढ़ता और घटना है बढ़ाना और घटाना, ये काम हो रहा हमारे लॉस के साथ, तो इन्फॉर्मेशन ये है आपके लिए की बैक प्रोपोगेशन का काम है कि हम किसी चीज को तो अडजस्ट करेंगे ताकि हमारा लॉस कम हो जाए। ग्रेडियन डीसेंट क्या है? ग्रेडियंट डीसेंट 1 ऐसी टेकनिक है जिससे 1 जो किया है आप लोगों के लिए की मान लो आप 1 हिल पर हो, उस हिल पर आप खड़े हो, आपको नीचे जाना है, सबसे लोएस्ट प्वाइंट पर जाना है आपको पर कंडीशन ये है की अभी बहुत ज्यादा अंधेरा भी हो रहा है, रात भी हो रही है। आपको समझ नहीं आ रहा की अगला स्टेप किस तरफ हो, राइट लेफ्ट लिया तो सही रहेगा, राइट लिया तो सही रहेगा, लोएस्ट प्वाइंट पर कैसे पहुँचे तो इसमें आप सिम्पल ही क्या करोगे क्यूमन ब्रेन से अगर हम सोचें तो सबसे पहले आप क्या करोगे? 1 अगला कदम लोग, बहुत छोटा कदम लोगे, और आप देखोगे की जमीन ठीक, ठीक है की नहीं। ऐसे करते करते आप अगला स्टेप, अगला स्टेप, अगला स्टेप मतलब, आप पहले चीजों को फील करोगे पैर रख कर के ठीक है हाँ यार अभी तो यह ठीक लग रहा है। अभी मैं रख सकता हूँ फिर आप आगे बढ़ोगे, फिर आप आगे बढ़ोगे तो बेसिकली आप इस स्टेप को बार बार फॉलो करो। जब आप फेल पर खड़े हो और आपको नीचे जाना है तो सिम्पल आइडिया यही है की आप थोड़ा थोड़ा फील करो और वो उस चीज को आगे बढ़ते। चले जाओ सेम आइडिया ग्रेडियेंट डीसेंट करता है। अब ग्रेडियेंट डीसेंट क्यूँ चाहिए क्यूँ इसको ऑप्टीमाइज करना है। मैंने आपको बताया मॉडल गलत है, मॉडल ने गलती कर दी अब उसको करेक्ट करना है लॉस फंक्शन से उसको कंप्यूट भी कर लिया मॉडल कितना गलत है यह भी पता चल गया है। लॉस को कम करना है जिसके लिए जी डी यूज करेंगे। मॉडल अगर हिल की बात करूं। सबसे ऊपर जो है मॉडल गलत है बीच में एक्यूरेट हो सकता है पर मुझे क्या चाहिए 1 स्टेबल मॉडल चाहिए जो 1 अच्छा वैल्यू भी दे तो ग्रेडिएंट डीसेंट कुछ इस तरीके से काम करता है और ग्रेडिएंट डीसेंट की मदद से ही हम इस चीज को सॉल्व कर सकते हैं। देर इज नो अदर वे ग्रेडियंट डीसेंट का फंक्शन कुछ इस तरीके से होता है। थीटा इज इक्वल टू, थीटा प्लस अल्फा डेल्टा, जे थीटा कॉम्प्लैक्स लग रहा होगा सुनने में सिम्प्लीफाई करते है। सबसे पहले क्या है थीटा थीटा का मतलब क्या हुआ थीटा का मतलब मॉडल के पैरामीटर, मॉडल के पैरामीटर्स, मॉडल का वेट क्या है और ये न्यूरल नेटवर्क के नंबर्स होते है, इनपुट होते हैं, वेट्स होते हैं। ये ही हमारा थीटा होता है। समझ मे आया उसके बाद जेट हीट के बारे में बात करते है। क्यूकी? 1 पहला थीटा या है? ये थीटा तो सेम ही है मॉडल के पैरामीटर से जे हटा जे हीट क्या है जे थीटा मारा लॉस का फंक्शन है जो हमें बताता है कि हाऊ मच यार मॉडल इस रंग कितना गलत है भैया आपको मॉडल 5 परसेंट 10 परसेंट 2 परसेंट 34 कोई तो वैल्यु होगी वो हमारी वैल्यू हो गई जे थीटा जे थीटा के साथ डेल्टा लगा देते हैं। तो ये डेल्टा हमें क्या बताता है। डेल्टा हमारा ग्रेडियंट होता है। यह डेल्टा जे थीटा जो है ये ग्रेडिएंट है। गेडिएंमतलग्रेडिएंट ही आपको बताएगा न क स डायरेक्शन में जाना जैसे मैं को बताया आप पे खड़े तो आप 1 डायरेक्शन चूस करोगे लेफ्ट जाओगे। राइज ओगे अब ये डायरेक्शन किस चीज पर डिपेंड करती है। आपको ये देखना है की कौन सी डायरेक्शन में आपका लॉस फंक्शन रैपिडली बढ़ रहा है। जिस डायरेक्शन में बढ़ रहा है उसके अपोजिट डायरेक्शन में जाना है। सिम्पल अगर आपने 1 तरफ मुड़ कर पैर रखा और आपको लगा की नहीं भई यहाँ पर तो जमीन बहुत ज्यादा चिकनी है मैं इसमें अगला स्टेप नहीं ले सकता तो आप उसकी डायरेक्शन चेंज कर। दोगे आप दूसरी तरफ से जाना ज्यादा सेफ है तो मतलब लॉस फंक्शन का आपको एनालिसिस करना है। आपको देखना है कि किस तरफ ज्यादा रैपिडली बढ़ रहा है। उसके बाद आप उसके डायरेक्शन को चूस करेंगे। यही हमारा डेल्टा जे थीटा बताता है। उसके बाद अल्फा अल्फा का क्या काम है। अल्फा क्यों यूज चाहिए क्यूँकि हमें हमें क्या करना है, रिड्यूस करना है लॉस को, जब लॉस को रिड्यूस करना है तो हमें स्विच करनी पड़ेगी डायरेक्शन वही हमें अल्फा बताता है। सिम्पल अल्फा 1 तरीके का लर्निंग रेट की तरह काम करता है। ये आपको ये बताएगा कितना बड़ा स्टेप लेना है कितना छोटा स्टेप लेना है, छोटा स्टेप लिया तो क्या होगा? बड़ा स्टेप लिया तो क्या होगा? स्मॉल अल्फा है मतलब स्लो लर्निंग चल रही है। आपके मॉडल के लार्ज। अल्फा मतलब बहुत ही अनस्टेबल है, कभी भी कुछ भी सीखता जा रहा है तो ये भी नहीं होना चाहिए। तो हमें हर 1 चीज का ध्यान रखना है इन शार्ट जे डी क्या है, जे डी जी डी क्या है, जी डी ए ग्रेडिएंट डीसेंट है जो आपको बताता है किस डायरेक्शन में जाना है कितना बड़ा स्टेप लेना है। बैक प्रोपोगेशन क्या है। आपको हेल्प करता है कि कौन सी चीज कब कैलकुलेट करने है। न्यूरल नेटवर्क सिम्पल नहीं होते है इसमें मल्टीपल लेयर्स होते हैं, इनपुट होते हैं, आउटपुट होते हैं। लेयर 1 लेयर में अगर हम बात करे मिलियन ऑफ पैरामीटर जा सकते हैं जिसकी वजह से ग्रेडियंट कैलकुलेट करना डिफ्रेंट डिफिकल्ट हो सकता है। है ग्रेडियेंट रीसेंट मैंने आपको बताया की अगर आप ये कैलकुलेट करोगे भैया ये वाला फंक्शन लगाओगे और ग्रेडिएंट पता लगाओगे कि डायरेक्शन क्या है कितना बड़ा स्टेप लेना है तो तो भैया बहुत ही टाइम लग जाएगा, ये तो नहीं हो पायेगा क्यूंकि मिलियंस और पैरामीटर के साथ अगर हम करेंगे तो स्लो हो जाएगा, हमारा सिस्टम हो तो सकता है पर स्लो हो जाएगा तो हमने क्या करना है। ग्रेडिएंट डीसेंट जो हमने कैलकुलेट करना है। ग्रेडियंट जो हमें कैलकुलेट करना है। डेल्टा जे थीटा वो डिफिकल्ट हो रहा था। इसी को सॉल्व करने के लिए पार्टनर क्राइम बैक प्रोपोगेशन आ गया। बैक प्रोपोगेशन क्या है बैक प्रोपोगेशन 1 तकनीक है जो यूज करती है कैलकुलस में से 1 टॉपिक चेन रूट मतलब एरर को आउटपुट से प्रॉपगेट करना मतलब पहले हम फॉर्वर्ड पास में लेफ्ट से राइट जा रहे थे, इनपुट से आउटपुट की तरफ जा रहे थे। बैक प्रोपगेशन में हम उल्टा चलेंगे हम आउटपुट से इनपुट की तरफ आएंगे एरर को आउटपुट से इनपुट की तरफ लेकर आयेंगे प्रॉपगेट करेंगे और यही आइडिया में बैक प्रोपोगेशन का होता है। अब इसी बैक प्रोपोगेशन को ध्यान से समझेंगे कोर्ड से ठीक है। अब देखो न्यूरल नेटवर्क हमने क्रिएट करना था। अब यहाँ से हम 1 और जो है दोबारा से क्रिएट करेंगे ठीक न्यूरल नेटवर्क, क्रिएट का फुल न्यूरल नेटवर्क होने वाला है जिसमे मल्टीपल लेयर का इस्तेमाल करेंगे लेयर का साइज क्या रहेगा सेम टू फोर वन 1 सिंगल लेयर 2 लेयर रहेंगी 2 लेयर का मतलब है 1 लेयर में 4 न्यूरॉन्स जायेंगे जिसमे 2 इनपुट लिए जायेंगे उसके बाद 1 न्यूरॉन जो इनपुट लेगा सिम्पल। पहले हम कंस्ट्रक्टर क्रिएट कर लेंगे जिसमे हम लेयर की 1 लिस्ट बनायेंगे और उसके अन्दर सारी लेयर्स को पेंड कर देंगे। यह हम पहले भी कर चुके हैं डिटेल में समझा था हमने उसके बाद हम फॉर्वर्ड। अब फॉरवर्ड में क्या है डाटा लेफ्ट से राइट फ्लो करेगा मैंने आपको बताया डाटा लेफ्ट से राइट फ्लो करेगा 1 लेयर का आउटपुट दूसरे रेयर का इनपुट बन जाएगा। 1 लेयर का आउटपुट दूसरी लेयर के लिए इनपुट बन जाएगा इसीलिए फॉर्वर्ड फंक्शन या फॉर्वर्ड मैथड आपके लिए इनपुट ही रिटर्न भी करता है, इनपुट ही रिटर्न भी करता है ठीक है तो फॉर लेयर्स से लेयर हम 1 लेयर इनपुट ले रहे और रिटर्न करा रहे है। अब मैंने आपको बताया फॉर्वर्ड फॉरवर्ड पास से हमारे पास आउटपुट तो आ जाएगा आरोप हमें चाहिए बकबैकवोडपासमतलब बैकप्रॉपोकेशनमतलब आउटपुट लेयर का डेल्टा अब हम वर्क करेंगे डेल्टा पे अब डेल्टा पे वर्क करना जरुरी है क्योंकि डेल्टा ही 1 चीज है जो हमें डिसाइड करके बताएगी की कितना आपके अपने वेट को चेंज करना चाहिए टेक्निकली हम लॉस के ग्रेडिएंट कैल्कुलेट करते है रिस्पेक्ट तो इच ग्रेडिएंट और एच वेट और ग्रेडिएंट हमें बताता है किस डायरेक्शन में हमें मूव करना है तो चैन रूल क्या है 1 सिम्पल सिम्पल लाइन में अगर आपको चैन रूल बताऊं तो a और बी अगर मान लो। अगर ए और बी पर डिपेंड करता है और बी और सी पर डिपेंड करता है तो a का सी के रिस्पेक्ट में डेरिवेटिव, इक्वल टू, ए माइनस, बी डेरिवेटिव, टाइम्स, बी, माइनस, सी डेरीवेटिव हो सकता है मतलब चेन रूल क्या कहता है कि इंटरचेंजेबल अगर हम देखे तो अगर बी पर डिपेंड करता है, बी और सी पर डिपेंड करता है मतलब 4 डिफ्रेंट वैरिएबल 1 दूसरे पर डिपेंड करते हैं तो हम इन सबका डेरिवेटिव लेकर हम ट्रैक्शन और एडिशन पर भी आ सकते हैं। हमारे नेटवर्क में चेन क्या है हमारे नेटवर्क में चेन है कि लॉस डिपेंड करता है, डिपेंड कर रहा है, आउटपुट पे आउटपुट किस पर डिपेंड कर रहा है, जी पे जी किस पर डिपेंड कर रहा है। वेट पे चेन समझो मैथेमेटिकली आपने चैन रोल कई बार पढ़ा होगा वो मैं लिख भी देती हूँ आपके लिए स्क्रीन पर की मान लो, आपने लिखा, a लेट, मी चेंज को मान लो, आपने लिखा, a और सी इसका अगर आप डेरिवेटिव लेते हो डी डेरिवेटिव ए और उसके बाद डी डेरिवेटिव, a बाय, डी डेरिवेटिव, बी मल्टिप्लाई बाय, डी डेरिवेटिव, बी बाय, डी डेरिवेटिव, सी सो बेसिकली 1 चेन रूल है कि अगर 1 वैरिएबल मान लो है वो बी पर डिपेंड करता है मैथेमेटिकली और बी वाला जो है वो सी पर डिपेंड करता है तो ए का कुछ न कुछ तो रिलेशन होगा भैया सी से अगर हम डेरिवेटिव इक्वल करेंगे तो ए माइनस बी जो है a, बी, ए, बी डेरिवेटिव जो है वो बेसिकली नोट माइनस, ए, बी डेरिवेटिव जो है वो बी, सी डेरिवेटिव के मल्टीप्लिकेशन में हो जाएगा ए, बी बेरिवेटिव टाइम्स, बी, सी डेरिवेटिव हो सकता है। तो नेटवर्क में 1 चेन रूल आपको विज्वलाइज करना होगा कि 1 नेटवर्क में कैसा चेन रूल फॉलो हो रहा है आप कोई भी नेटवर्क देखोगे जो भी न्यूरल नेटवर्क आप क्रिएट कर रहे हो उसमें 1 न 1 चेन रूल होता है जो मैं बता रही हूँ। लॉस डिपेंड करता है आउटपुट पर सिम्पल समझ में आया। लॉस आउटपुट पर डिपेंड कर रहा है, आउटपुट जी पर डिपेंड कर रहा है और जी हमारा वेट पर डिपेंड कर रहा है। इसीलिए जो हम डेरिवेटिव्स लिखते हैं जब हम फॉर्मुलेशन करते हैं इसकी तो डी लॉस और वेट लॉस और वेट के बीच में भी कोई न कोई जो है। लिंकेज होगा कोई न कोई रिलेशन होगा तो लॉस का आउटपुट से, आउटपुट का जी से, जी का वेट से और लॉस का वेट से कोई न कोई रिलेशन है। इसी को हम चेन रूल कहते हैं। अगर हम इसको इन तीनों पीसेस को अगर हम अलग अलग देखे मतलब पहला पार्ट, दूसरा पार्ट और तीसरा पार्ट अगर अलग अलग देखें तो पहला वाला हमें मिन स्क्वायर रर का डेरिवेटव देता है। दूसरा वाला अगर हम देखें तो डी जो बी और बी वाला है ये हम सिग्मोइड फंक्शन के थ्रू मिलता है और तीसरा वाला जी से मिलता है इन तीनों को मल्टीप्लाई करके यह वेट का ग्रेडिएंट है। जब हम तीनों को मल्टीप्लाई करेंगे तो वेट का ग्रेडिएंट है और ग्रेडिएंट ज्यादा हो तो वेट ज्यादा होता है ज्यादा एडजस्ट करना है। ग्रेडिएंट पर डिपेंड करता है। पूरी की पूरी चीज। ठीक है। अब ग्रेडिएंट कैसे कैलकुलेट करता है चैन रूल से जो मैंने आपको बताया ग्रेडिएंट कैलकुलेट करने के लिए ये वाला फॉर्मूला बहुत जरूरी है। ठीक है अब इसी को अगर मैं दूसरे फॉर्मेट में लिखती हूँ तो सिम्पल है कि लॉस डिवाइडेड बाय वेट क्योंकि लॉस का वेट से कोई न कोई लिंकेज है बिकाज लॉस का आउटपुट से लिंकेज है सो लॉस, डिवाइडेड बाय आउटपुट और इसी सेम सिनारियो में हम लिख सकते हैं कि आउटपुट और जी से रिलेशन है। उसी सेम सिनारियो में जी और वेट का भी रिलेशन है। तो पहले वाला जो है ये एम एस मतलब में स्क्वायर डरर का है जिसमें हमारे पास लॉस और डेरिवेटिव है। दूसरा हमारे पास सिग्मोइड का डेरिवेटिव है। तीसरा हमारे पास जो है वो हमारा इनपुट से मल्टीप्लाई करने पर है। अगर हम तीनों को कैलकुलेट करें तो हमारे पास वेट का ग्रेडिएंट आता है और ग्रेडिएंट ज्यादा हो तो मतलब आपको वेट ज्यादा एडजस्ट करना है और बैकवर्ड पास में हम यही चीज कोर्ड फॉर्मेट में लिख रहे हैं। ठीक है हमने सबसे पहले क्या लिखा आउटपुट लेयर क्रिएट करी है लेयर में माइनस वन लिखा है, डेल्टा क्या है? डेल्टा वो वैल्यू है जो हम यूज करेंगे वेट को अपडेट करने में कि कितना आपको वेट को अडजस्ट करना है, ये बेसिकली कितना और किस डायरेक्शन में एडजस्ट करना है। ये बताता है आउटपुट लेयर में जब हम आउटपुट लेयर यहाँ पर लिख रहे हैं। आउटपुट लेयर में हम सीधा एरर जो कंप्यूट होता है वो है एक्सपेक्टेड माइनस सिम्पल है बेसिकली हिडन लेयर्स में थोड़ा ट्रिकी है कि वहाँ डायरेक्ट एक्सपेक्टेड वैल्यू नहीं पता है हमें तो हम क्या करते हैं अगला लेयर का डेल्टा और वेट यूज करते हैं। प्रोपोगेट करने के लिए रिमेंबर हिडन लेयर में थोड़ा सा ट्रिकी हो सकता है यह पता लगाना कि एरर कितना है क्या नहीं तो वहाँ हम क्या करते हैं डायरेक्ट एक्सपेक्टेड वैल्यू ने वहाँ पर हम अगला लेयर का जो डेल्टा है वो डालते है और डेल्टा डालने के बाद वेट को यूज करा जाता है प्रोपोगेट करने के लिए सिम्पल हमे यहाँ पर एरर और न्यूरॉन का डेल्टा कैलकुलेट करते हैं। एरर हमें बताता है कितना गलत है मतलब कि एक्सपेक्टेड से न्यूरॉन माइनस न्यूरॉन आउटपुट और उसके बाद यहाँ पर सिग्मा डेरिवेट लगाकर हम डेल्टा कैलकुलेट करते हैं उसके बाद हिडन लेयर मतलब पीछे प्रॉपगेट करना है तो मतलब आउटपुट लेयर से हिडन लेयर की तरफ जाना है और आउटपुट लेयर से जब हम हिडन लेयर की तरफ जाते हैं तो यहाँ पर थोड़ा हमें ट्रिक ही लगता है इसीलिए हम वेटेड सम ऑफ़ डेल्टा निकालते है तो पहले हमने लेयर ली फिर नेक्सट लेयर ली। ऐसे करते करते हमने इनेमरेटफंक्शन लगाकर लेयर्स में से न्यूरॉन पे वर्क करना शुरू किया और उसके बाद नेट डेल्टा, फॉर नेक्स्ट लेयर न्यूरॉन पर वर्क करा और उसके बाद हमने इसको वेट को डेल्टा को कैलकुलेट कर हिडन लेयर के यहाँ पर भी हमने आउटपुट लेयर का डेल्टा लिया और यहाँ पर हमने वेट लेयर कर लिया। उसके बाद हमने अपडेट करना है वेट को कैलकुलेट कर लिया है कि किस डायरेक्शन में गलत है तो अब हमें इसको कैलकुलेट करना है। आप इस चीज को ध्यान से देखो इस लाइन में जिसमें मैंने लिखा है सम ऑफ नेक्स्ट, लेयर, सम ऑफ नेक्स्ट, लेयर के वे, टाइम्स, नेक्स्ट लेयर के डेल्टा। ये वो प्रोपगेशन है एरर पीछे की तरफ ट्रेवल कर रहा है थ्रू द नेटवर्क और रिवर्स रेंज जो हमने यूज करी है इसमें ये हम एंड से शुरू करते हैं पीछे आते हैं और लास्ट हिडन लेयर फर्स्ट काम करती है फर्स्ट हिडन लेयर पर हम सबसे लास्ट में आते हैं जो हमने पहले लेयर क्रिएट करी थी वो सबसे लास्ट में हैंडल होगी जो सबसे लास्ट में लेयर क्रिएट करी है वो हम सबसे पहले करेंगे उसके बाद हम इन सारे वेट्स को अपडेट करते हैं। जब हम वेट को अपडेट करते हैं यही हमारा ग्रेडिएंट डीसेंट है पहले हमने ग्रेडिएंट कैलकुलेट किया है ये हमारा ग्रेडिएंट डीसेंट है जहाँ हर वेट के लिए वेट को थोड़ा अपडेट करा जाता है। इन द डायरेक्शन ऑफ जहाँ पर भी डेल्टा टाइम्स इनपुट है और वायरस को भी अपडेट करेंगे। ये सेम चीज हम वेट अपडेट करने में कर रहे हैं। यह हम यहां पर कैलकुलेट करे है। सिम्पल हमने 1 नेमरेड फंक्शन वक किया है जिसके अंदर हम एल आर ले रहे हैं। जीरो पाइंट फाइव, जीरो पाइंट फाइव, लर्निंग रेट, है, एल आर, मतलब, लर्निंग रेट, वेट का क्या फंक्शन है, वेट इज इक्वल टू, वेट प्लस लर्निंग रेट, मल्टीप्लाई बाय, डेल्टा मल्टीप्लाई बाय इनपुट, ठीक है, लर्निंग रेट, मल्टीप्लाई बाय, डेल्टा मल्टीप्लाई बाय इनपुट रेट। इन तीनों चीजों का हम इस्तेमाल करते हैं न्यूरॉन को अपडेट करने के लिए। अब जीरो प्वाइंट फाइव हम लर्निंग रेट रेट रख रहे हैं। बेसिकली यह कंट्रोल करता है कि हर स्टेप कितना बड़ा होगा, ज्यादा बड़ा होगा तो नेटवर्क ओवरशूट कर जाएगा, ज्यादा छोटा होगा तो ट्रेनिंग इतनी स्लो होगी कि हम उसको नहीं देख पाएंगे। हम प्लस साइन क्यों प्लस। साइन इसलिए क्योंकि एरर जो है वो एक्सपेक्टेड क्चल है, माइनस एक्चुअल है तो अगर एक्सपेक्टेड ज्यादा है तो एरर पॉजिटिव हो तो वेट बढेगा और अगर एक्सपेक्टेड कम है तो सिम्पल है कि एरर नेगेटिव होगा और वेट घटेगा। विच टोटली मेक सेंस प्रैक्टिकली आलसो। तो लर्निंग रेट डिपेंड करता है की आप किस तरीके का जो है स्टेप लेने वाले हो और यही लर्निंग रेट डेल्टा के साथ मल्टीप्लाय होता है मल्टीप्लाय होने के बाद वो इनपुट के साथ प्रोसेस किया जाता है एंड लर्निंग रेड के बिना आप उसको नहीं डिफाइन कर सकते हैं। ठीक है इसी को हम असेम्बल करेंगे बाद में ट्रेनिंग में ठीक है यहाँ पर हमने साइजेस को अपडेट कर दिया है तीनों चीजों को और यहाँ पर न्यूरल नेटवर्क का आर्किटेक्चर रेडी हो गया है। अब हमने क्या करना है बिल्ड बिल्ड करना है 1 सौर का नेटवर्क जिसमें हमने 1 नेटवर्क क्रिएट करा है अनट्रेंड प्रोडक्शन हम इसमें देखेंगे तो जब मैं इस कोड को रन करुंगी तो मुझे अनट्रेंड प्रोडक्शन दिखाएगा विच इस जीरो प्वाइंट टू फाइव जो हमारे पास पहले भी सिमिलर सिमिलर आ रहा था जीरो प्वाइंट थ्री जीरो के आसपास है तो वही चीज हमने यहाँ पर अब हम क्या करेंगे 1 फॉरवर्ड, 1 वायस और 1 बैकवर्ड पास करेंगे बेसिकली मैनवली चलाएंगे तो हमने 1 न्यूरल नेटवर्क क्रिएट करना है सैंपल इनपुट देंगे एक्सपेक्टेड आउटपुट ऑन मान लो फॉरवर्ड बायस जब आपने चलाया तो आपने सैंपल इनपुट दिया जो भी हमारे पास प्रीबिल्ट फंक्शंस और मैथर्ड है विदइन फाइल हम उसी चीज को यूज करेंगे वि सैंपल इनपुट जो हमने पहले इसमें लिया है सैंपल इनपुट से और उसके बाद सैंपल एक्स्पेक्टेड आउटपुट हम इसमें जनरेट करेंगे राउंड ऑफ फंक्शन से हम वैल्यू स को रेस्ट्रिक्ट करेंगे की हाव मैन डिजिट हास टू बी देयर बिकाज जब हम इसको नहीं रेस्ट्रिक्ट करेंगे तो हमारे पास वैरिएबल डिजिट हमारे पास आ सकते हैं जो हमें नहीं चाहिए उसके बाद इसी लॉस जो हमने एग्जामपल लिया है उसी के ऊपर हम सेक्स डिजिट फ्लोट लगाकर हम इसको फॉवर्डवायसक्रिएट करेंगे उसके बाद हम 1 बैकवर्ड बायस क्रिएट करे बैकवर्ड पास में क्या हो रहा है बैकवर्ड पास में सेम चीज जो हमने बैकवर्ड फंक्शन मैथर्ड ऊपर बनाया है उसी में हम सैंपल एक्सपेक्टेड आउट चलेंगे हम चेक करेंगे की डेल्टा क्या है आफ्टर बा डेल्टा कैलकुलेट करने के लिए हम नॉन ग्रेडिएंट का कैलकुलेट करेंगे जो सिम्पल हमने आउटपुट प्रिंट किया देखो इनपुट क्या है जीरो ऑन एक्सपेक्टेड किया था वन प्रेडिक्ट किया था जीरो पाइंट टू फाइव। अब हमने लॉस इस एग्जाम में क्या है जीरो पाइंट फाइव फोर का बैकवर्ड लेयर में गर हम गए तो हमारे पास हर 1 लेयर का इनपुट डेटा के आया है यह डेल्टा अब हमे क्या नोटिस करना है इस स्टेज पर इस स्टेज पर हमें ये नोटिस। करना है कि कितने भी डेल्टा ही सारे। नॉन जीरो होने चाहिए, क्या होने चाहिए, नॉन जीरो होने चाहिए, नॉन जीरो है। तो मतलब ये ग्रेडिएंट कम्प्यूट हो चुका है उसके बाद हम ट्रेनिंग करेंगे ट्रेनिंग के लिए हम पास का 1 यूज करेंगे लूप का 1 पास क्या करता है, का 1 पास क्या करता है, हर ट्रेनिंग एग्जाम्पल के लिए क्या होता है, फॉरवर्ड पास होता है, लॉस कंप्यूट होता है, बैक वर्ड बैकवर्ड पास होता है, वेट अपडेट होता है और यही 1 पाश होती है। ठीक है। 1 पाश का मतलब है आप कितनी बार उस चीज को ट्रेन कर रहे हो। यहाँ आप ये मेंशन करते है। यह आपके लिए थोड़ा सा नया हो सकता है। या जिन्होंने मशीन लर्निंग मॉडल्स पड़े हैं उनके लिए थोड़ा कॉमन भी हो सकता है। बट यह आपको बताता है कि आपने कितने प्रोसेस में ट्रेनिंग की है, कितने प्रोसेस में ट्रेनिंग की है। 10 हज़ार बार यह करते हैं तो बार बार बार बार थोड़ा थोड़ा इम्प्रूवमेंट आता है हर बार। और ये एग्जैक्ट ली वैसा ही है जैसे तुम मार्क्स में बार बार प्रैक्टिस करते हो, प्रैक्टिस करते हो, प्रैक्टिस करते हो और 1 बार में आप फिर 1 क्वेश्चन को अच्छे से सॉल्व कर सकते हो, 1 प्रॉब्लम सॉल्व करते हो, गलती करते हो, फिर खुद समझते हो, फिर गलती करते हो, फिर करते हो। तो वही 1 एपौशहैएपॉशआपको ये बताता है कि आपको किस तरीके से इसको सोल्व करना है कितनी बार आप सेम चीज की ट्रेनिंग करना चाहते हो, फॉर पास लॉस कम्प्यूटर करना है, बैकोटपास में जाना है, ग्रेडिएट कैलकुलेट करना है, ग्रेडिएट कैलकुलेट करने के बाद वेट को अपडेट करना है और इसी चीज को आपको रिपीट करना है। ये कितनी बार करना है। 10 हजार बार करना है। जितनी ज्यादा बार आप प्रैक्टिस करते हो उतनी ज्यादा बार आप प्रोफेशन उतने अच्छे से प्रोफेश हो जाते हो मैथेमेटिक्स में या फिर आप किसी भी चीज में जिसमे आप अपनी प्रैक्टिस कर रहे हो वही चीज हम इसमें कर रहे हैं सेम चीज हम ट्रेनिंग क्रिएट कर रहे हैं अपने मॉडल के लिए न्यूरल नेटवर्क हमने बना लिया है अब ट्रेनिंग कर रहे हैं मस्ती ट्रेनिंग करने के लिए हम एलार करेंगे प्रिंट करना है हमें कब प्रिंट करना मैं हूँ 10 हजार बार में सी कम 10 10 हजार में से कम से कम हजार प्रिंट एवरी जो हमारा थाउजेंटपेआएेगा है तो ये जरूरी है कितने आउटपुट्स आयेंगे थाउसके आउटपुट आयेंगे लर्निंग रेट क्या रहेगा जीरो पाइंट फाइव रहेगा। हम इसमे डाटा दे रहे है जो हमने ऊपर क्रिएट कर रहा था वही देंगे हम इसमें भी न्यूरल वर्क जो मैने टू फोर वन का क्रिएट कराए लॉस स्ट्री यहाँ पर जनरेट करेंगे पॉश के अकॉर्डिंग हम टोटल लॉस कैल्कुलेट करेंगे मतलब 1 रैंडम वैरिएबल लिया है मैंने ताकि ये टेन थाउसन बोला है तो मतलब टेन थाउजन्ड प्लस टाइम चलेगा यह उसके बाद फॉरवर्ड पास के लिए फोर्ड जो हमारा मैथर्ड है वो यूज करेंगे लॉस कंप्यूट करने के लिए टोटल लॉस कंप्यूटर करने के लिए हमारे पास से ऊपर जो ई माइनस जीरो वाला मतलब एक्सपेक्टेड आउटपुट निकालने के लिए वो निकालेंगे उसके बाद बैकवर्ड पास उसके बाद लॉस अपडेट करेंगे और जो भी हमारी लॉस की हिस्ट्री है वो हम अपेंड करते चले जायेंगे उस लिस्ट में उसके बाद मैंने जैसा की बोला की परेंटएवरीमतलबकी मुझे आउटपुट कितनी बार चाहिए मतलब मुझे क्या 10 हजार बार का आउटपुट चाहिए अगर मैं 10 हजार बार का आउटपुट जनरेट करुंगी तो वो रीडेबल नहीं बना पाऊंगी इसीलिए मैं उसको रेस्ट्रिक्ट करती हूँ और मैं उसको बोलती हूँ की मुझे हज़ार के बाद ही चाहिए तो मतलब मैं टोटल वाले को डिवाइड करुंगी जितना मैंने सेट करा है उसके बाद मैं अप्सर लॉस क्रिएट करूंगी ये हमारी लॉसस्टरेयहाँ पर रिटर्न करेगा। अब मैंने यहाँ पर सीड किया है यहाँ पर न्यूरल नेटवर्क ऊपर जो मैंने क्रिएट करा था वो ट्रेनिंग स्टार्ट करी है ट्रेनिंग स्टार्ट करने के बाद मॉडल को ट्रेन किया है ट्रेन करने के बाद हम देखेंगे कि फाइनल लॉस कितना है और लॉस का डिडक्शन कितना है दोनो चीज हम देखेंगे अब देखो ट्रेनिंग स्टार्ट हुई है जीरो पे हमारा लॉस वन प्वाइंट टू फोर था पॉश थाउजेंड बार ट्रेनिंग जब उसकी हो गई थाउजेंड क्वेश्चन आपने 1 तरीके से सॉल्व कर लिए तो आपका लॉस हो गया जीरो प्वाइंट जीरो फोर फिर मैंने 2000 बार जब उसको और सॉल्व किया तो मेरा यह आउटपुट हो गया मतलब मैंने इसको कम करने की कोशिश करे जितना ज्यादा पॉश बढ़ता जा रहा है उतना ज्यादा आप देख सकते हो की हमारी वैल्यू गिरती चली जा रही है जब हम इसको लर्निंग रेट जब हम जीरो प्वाइंट फाइव देते है तो वो हम यहाँ पर मेंशन करते हैं तो ये हमें पता लगता है ये हमें बताता है बेसिकली की अपडेट कूटने के बाद हमारा जो आउटपुट है वो कैसा दिख रहा है तो फाइनल जो हमारा लॉस है वो जीरो प्वाइंट जीरो वन है जो हमने लिया है और लॉस रिडक्शन कहाँ से कहाँ तक गया ये भी देख सकते हो की स्टार्टिंग में हमारा जीरो जब कोई लर्निंग नहीं थी तो उन प्वाइंट टू फोर था इसके बाद हमारा ये हो गया ये इम्पोर्टेंट है जानना क्योंकि जब हम लर्निंग रेड या पाश जो हम सेट करते हैं उससे हमारे पास क्या डिफ्रेंसिएशन आता है ये डिपेंड करता है कि आपने लर्निंग रेट क्या सेट किया था पॉश सेट किया था आपने कैसा उसको ट्रेनिंग दिया था कैसे उसको एक्चुवल डेटा दिया था तो ये बहुत इम्पोर्टेंट चीज है आप इसको टर्मिनल में भी लाइफ चला सकते हो इसके बाद हम काफी जो है मैंने इसके लिए ग्राफ भी क्रिएट करा है वो भी आप देख रहे प्लॉट लॉस ऐसा इसमें कोई भी मैट प्लॉट लिप का फंक्शन इस्तेमाल ही नहीं किया है मैंने सिम्पली हिस्ट्री वे और हाइट सेट किया है उसके बाद मैंने खुद ही स्टेप डिसाइड किया है तो देखो जब हम कोई चीज बिल्ड करते हैं तो वहां से हमें अंडरस्टैंडिंग बहुत अच्छी मिलती है इसलिए मैं ये सारी चीजे एक्सपेरिमेंट करती रहती हूं तो अगर आपको कोई और वीडियो चाहिए कोई और जो आइडिया चाहिए या फिर कोई चीज आपको नहीं। समझ। मे र ू कैन कॉमेंट डाउन ऑन दिस वीडियो तो यार इस ग्राफ्ट जिसमें हमने देखा है कि पॉश किस तरीके से जो है अपने प्रोग्रेस को करता है और ट्रेनिंग डेटा किस तरीके से वर्क करता है और इसी पोस्ट को आप टेबल की फॉर्मेट में भी प्रिंट कर सकते है जिसका कोर्ड आपको नीचे मिल जाएगा। अंडर दिस वीडियो सो मिलते हैं नेक्ट वीडियो में तब तक के लिए स्टेडियम हैपी लर्निंग एंड कीप करो।
