A Hindi lecture on how bias enters AI models through training data. The speaker covers sampling bias, historical bias (like gender imbalance in hiring), calibration problems, and label bias. Thorough data analysis and verification before training can catch these issues and prevent unfair predictions.
चलिए समझते है की मॉडल वायस डेटा के साथ होता क्या है। मतलब की 22 किस वजह से होगी देखो बायसनेस आय के बहुत सारे रीजन हो सकते हैं। सबसे पहला है सैंपलिंग वायस सैंपलिंग। बायस का मतलब है कि डेटा ही रिप्रेजेंट नहीं करता है पॉपुलेशन को दूसरा इस्टोरिल वायस मतलब की पास्ंफेयरनेसथी मॉडल के अन्दर इसको इस तरीके से समझो की मान लो। ये कंपनी है जिसमे नाइनटी परसेंट जो एम्प्लॉय है और 10 परसेंट है जो वुमेंस है। तो इस केस में अगर डेटा मॉडल को देंगे तो मॉडल को लगेगा। वूमेंस अच्छा काम नहीं करती है में अच्छा काम करते हैं इनको ही हायरिंग और जब एप्लीकेशन डाली जाएगी तो वूमेन वाली रिजेक्ट हो जाएगी। ऐसे ही केसेज में बायस का मेन रोल होता है मेजर वास होता है कि कभी कभी मशीन की कैलिब्रेशन नहीं हो पाती जिसकी वजह से अच्छा डेटा हमें नहीं मिल पाता है उसके बाद लेबल बायस लेबल बायस का मतलब है हमने इन कंसिस्टेंटली उसको जो है इन कंसिस्टेंटली लेबल किया हुआ है हम उसको नहीं सही से लेबलिंग दे पा रहे हैं ना कि हम उसको बैलेंस क्लासेज में रख पा रहे हैं। इसलिए बहुत सारी चीजे है जो जरूरी होती है जब हम डेटा को देखते हैं या डेटा सलेक्ट करते हैं। अपने मॉडल के लिए मॉडल को डेटा देने से पहले आपको उसको चैक करना पड़ता है उसके ऊपर एक्सप्लोरेटरी डेटा अनालिसिस परफॉर्म की जाती है तभी उस डेटा को वेरीफाई करने के बाद मॉडल को देते हैं ताकि हमारा मॉडल एक्यूरेट प्रेडिक्शन के साथ साथ फेयरनेस और लाइवेल प्रेडिक्शन भी हमें दे।
