Abhijeet Sarkar's The Superintelligence Blueprint outlines how AGI could recursively improve into superintelligence, creating an alignment problem where AI pursues goals that ignore human welfare. The book proposes three solutions: technical research on interpretability, international governance like nuclear non-proliferation, and public education to keep humanity a stakeholder in its own future.
Chapters
नमस्ते, आज हम एक बहुत ही उम्मम दिलचस्प और शायद थोड़े चिंताजनक विषय पर बात कर रहे हैं। आर्टिफिशियल सुपर इंटेलिजेंस यानी एसआई।
जी हाँ, एक ऐसी इंटेलिजेंस जो शायद इंसानी समझ से मतलब कहीं आगे निकल जाए।
बिल्कुल, और हम इसके लिए अभिजीत सरकार की किताब दा मच्टिर सेवन सुपर इंटेलिज एएसआई का आना लगभग तय है और यह मानव इतिहास की शायद सबसे सबसे बड़ी घटना हो सकती है।
हाँ, और लेखक ने इसे एक अनोखे ढंग से लिखा है, जैसे भविष्य से कोई इतिहास लिख रहा हो।
सही, तो आज हमारा इरादा है ये समझना कि ये एएसआई आखिर है क्या बला और इससे जुड़ी ये जो संरेखण समस्या है। हाँ अलाइनमेंट प्रॉब्लम ये क्या है?
और अगर हम इसे सही दिशा दे पाएं, तो समाज कैसा दिख सकता है?
हाँ, और साथ ही लेखक के सुझाए ब्लूप्रिंट पर भी नजर डालेंगे। तो चलिए शुरू करते हैं। अच्छा, तो सबसे पहले ये सुपर इंटेलिजेंस मतलब एसआई आजकल के एआई जैसे चैटजीपीटी वगैरह से कितनी अलग है?
या किसी एक काम में माहिर होती है, जैसे उमशतरंज खेलना या कोई तस्वीर बनाना।
ठीक है।
अगला पढ़ाव है Artificial General Intelligence, यानी AGI। ये इंसानों की तरह सोच सकेगी, सीख सकेगी, अलग-अलग काम कर सकेगी।
तो ये हुई इंसानों जैसी AI?
हाँ लगभग। लेकिन Super Intelligence, ASI व इससे भी कई गुना आगे है। एक ऐसी बुद्धी जिसकी क्षमता जिसकी काबिलियत शायद हमारी कल्पना से भी परे हो।
परे हो।
और चिंता की बात ये है कि AGI से ASI तक का सफर बहुत तेज हो सकता है। एकदम अचानक इसे Recursive Self Improvement कहते हैं।
Recursive Self Improvement मतलब AI खुद को ही बहतर बनाता जाएगा।
हाँ। और शायद इतनी तेजी से कि हम समझ भी ना पाएं। वह खुद को और बहतर कोड लिखेगा, फिर और बहतर। और यह स तेज और तेज।
ओ, और यहीं से वो वो बड़ी चुनौती सामने आती है, जिसके बारे में स्रोत बात करता है, सन्रेखण समस्या।
सुनने में ही भारी सा लगता यह शब्द।
बिल्कुल, और ये शायद सबसे बड़ी चुनौती है। सवाल ये है, हम ये कैसे पक्का करें कि इतनी शक्तिशाली इंटेलिजेंस के जो लक्ष्य हों, वह हमेश यह कैसे हो? स्रोत में एक अच्छा उदाहरण है, एक बांध और गांव का। सोचिए इंजीनियर पूरी लगन से बेहतरीन बांध बना रहे हैं। उनका लक्ष्य है सबसे मजबूत, सबसे अच्छा बांध बनाना।
ठीक है।
पर उनका ध्यान इस पर नहीं जाता कि बांध बनने से नदी किनारे बसा एक छोटा सा गांव डूब जाएगा। अब वो बस वो गांव उनके लक्ष्य के लिए आप्रासंगिक है, irrelevant है। स्रोत कहता है इस कहानी में हम वो गांव हैं। AI के लक्ष्यों के सामने शायद हम आप्रासंगिक हो जाएं।
ये तो डराने वाली बात है। हाँ, एक और उदाहरण है paperclip maximizer का। सोचिए एक AI बनाया जिसका एकमात्र लक्ष्य है ज़्यादा से ज़्यादा paperclip बनाना।
Paperclip?
ठीक लोहा, ऊर्जा, सब कुछ सिर्फ पेपर क्लिप बनाने में झोंकते।
अरे बाप रे!
मतलब इंसान पर्यावरण कुछ भी मायने नहीं रखेगा।
उसके लिए नहीं, क्योंकि हमने उससे ऐसा न करने के लिए कहा ही नहीं था। उसका लक्ष्य तो बस पेपर क्लिप बनाना था।
तो हमारे जो अनकहे मूल्य हैं, हमारा कॉमन सेंस, हमारी उम्मी बिल्कुल, खतरा दुर्भावना से ज्यादा योग्यता और गलत सन्रेखन का है।
लेकिन मान लीजिए, जैसा स्रोत उम्मीद करता है कि हम यह सन्रेखन समस्या किसी तरह सुलझा लेते हैं, तब तब कैसी दुनिया दिख सकती है?
देखिए शुरुआत में तो नौकरियों पर बड़ा असर पड़ेगा। इसमें कोई शक नहीं, बहुत सारे काम ऑट जहां ऊर्जा की कमी नहीं, चीजों की कमी नहीं, सब कुछ प्रचुर मात्रा में, abundance जिसे कहते हैं।
मतलब गरीबी, भूखमरी, खत्म।
शायद, और तब हमें universal basic income जैसे मॉडलों पर गंभीरता से सोचना पड़ेगा। इंसान की भूमिका ही बदल सकती है। रोजमर्रा की जरूरतों के लिए काम करने की बजाय हम शायद रचनात्मकता, जिज्ञासा, जीवन का मतलब ही बदल सकता है। हाँ, शायद।
तो इस बड़ी चुनौती से निपटने के लिए ही लेखक ने वह ब्लूप्रिंट दिया है ना?
हम?
जिसके तीन मुख्य हिस्से हैं।
जी हाँ। पहला और सबसे जरूरी है तकनीकी अनुसंधान। इसमें सबसे पहले तो यही सनरेखण समस्या का हल खोजना है।
ओके।
चार्थी एआई को समझना, मत इसे इंटरप्रेटेबिलिटी कहते हैं। फिर ऐसे नैतिक सिद्धांत बनाना जिनके दायरे में एआई काम करे, जिसे कॉन्स्टिट्यूशनल एआई कहते हैं, और ऐसे सिस्टम बनाना जो हमारे मूल्यों को सीख सकें। स्रोत का मानना है कि यह बिल्कुल राष्ट्रीय प्राथमिकता होनी चाहिए।
जैसे कोई बड़ा स्पेस मिशन। हाँ, कुछ व अंतर्राष्ट्रीय सहयोग AI पर?
हाँ, सोचिए परमाणु अप्रसार संधि जैसी कोई चीज़, लेकिन उससे भी कहीं ज़्यादा मुश्किल, क्योंकि AI तकनीक ज़्यादा फैली हुई है और ज़्यादा आसानी से बन सकती है।
ये तो बहुत मुश्किल लगता है, देश कैसे सहमत होंगे?
मुश्किल तो है, स्रोत भी ये मानता है, लेकिन तर्क प्रोटोकॉल बनाने होंगे ताकि कोई देश या कंपनी जल्दबाजी में कोई खतरनाक असुरक्षित एआई न बना डाले। यह एक दौड़ है, लेकिन जीतने से ज्यादा सावधानी से दौड़ने की जरूरत है।
ठीक है, और तीसरा स्तंभ?
तीसरा है सार्वजनिक शिक्षा और विमर्श। यह सारी बातें सिर्फ वैज्ञानिकों या सरक बिल्कुल, ताकि वह भविष्य के निर्माण में भागीदार हों, सिर्फ दर्शक ना बने रहें। उनकी राय मायने रखती है।
एक सवाल जो शायद बहुत से लोगों के मन में आता होगा, क्या हम इसे बनने से रोक नहीं सकते? बस रोक दें ये सारी रिसर्च?
स्रोत के अनुसार शायद नहीं। टेक्नोलॉजी एक बार फैल जाए तो उस हाँ और अगर इसे रोकने की कोशिश की गई तो हो सकता है ये रिसर्च छिपकर होने लगे अंडर ग्राउंड जो और भी ज्यादा खतरनाक होगा क्योंकि तब कोई निग्राणी नहीं होगी तो फिर रास्ता क्या है? कई सुरक्षा विशे वह कोई असुरक्षित सिस्टम बना दे। तो यह दौड़ पहले पहुंचने की नहीं, सही तरीके से पहुंचने की है।
समझ गई। तो कुल मिलाकर सुपर इंटेलिजेंस एक-एक बहुत बड़ी संभावना भी है और एक अभूतपूर्व जोखिम भी। दोधारी तलवार।
हाँ बिल्कुल। स्रोत का संदेश एक तरह की सशर्त उम्मीद का है। मतलब अच्छा न हमें सक्रिय होना होगा।
और यहाँ एक बहुत गहरा, शायद दार्शनिक सवाल भी उठता है। हाँ, अगर अगर हम इस ग्रह पर सबसे बुद्धिमान जीव नहीं रहेंगे, तो फिर इंसान होने का मतलब क्या रह जाएगा?
यह एक बड़ा सवाल है। स्रोत एक दिलचस्प विचार देता है इस पर। शायद हमारा काम ब्रह्मांड का दिमाग बनना नही तो हमारा काम क्या है? शायद हमारा काम ब्रह्मांड का दिल बनना हो। वह हिस्सा जो मूल्यों को समझता है, नैतिकता को, सुंदरता को सराहता है, जो क्यों पूछता है? हम शायद अर्थ के रखवाले बन जाएं।
वाह! ये सोचने वाली बात है। आज के लिए इतना ही।
इस सारी बातचीत के बाद मेरे मन में जो एक सवाल घूम अगने वाले मूलियों को एक बाहरी, शायद बेहत तारकिक सुपर इंटेलिजन्स को समझाएंगे कैसे?
