हर कुछ महीनों में, एक हेडलाइन हमें याद दिलाती है कि लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ सच्चाई की एक समस्या है। वे अदालती मामलों का आविष्कार करते हैं, स्रोतों के बारे में भ्रम (hallucinate) पैदा करते हैं, और कल्पना को तथ्य के रूप में पेश करते हैं। इन त्रुटियों के पीछे एक संरचनात्मक दोष है: अधिकांश AI सिस्टम स्थिर गणित (static math) पर आधारित होते हैं। वे शोर (noise) और संकेत (signal) को समान मानकर, डेटा के हर टुकड़े को एक ही भूख के साथ सोख लेते हैं। समय के साथ, यह शोर बढ़ता जाता है। मॉडल संतृप्त (saturate) हो जाता है। यह अनुकूलन करना बंद कर देता है और मनगढ़ंत बातें (confabulating) बनाने लगता है।
क्या होगा अगर समाधान अधिक डेटा नहीं, बल्कि बेहतर जीवविज्ञान (biology) हो?
BrainStem_V8 नामक एक सिस्टम इस समस्या के प्रति अलग दृष्टिकोण अपनाता है। न्यूरल नेटवर्क को एक निश्चित कैलकुलेटर मानने के बजाय, यह इसे एक डिजिटल जीव (organism) की तरह मानता है, जिसे खाना, आराम करना और स्वयं को नियंत्रित करना आवश्यक है। यह आर्किटेक्चर खुद को स्थिर, ईमानदार और सही तरीके से सतर्क रखने के लिए मानव तंत्रिका विज्ञान (neuroscience) से पांच विशिष्ट सिद्धांतों को उधार लेता है।
नींद एक फिल्टर है, ठहराव नहीं
मनुष्यों में, नींद का मतलब यह नहीं है कि मस्तिष्क बंद हो जाता है। हिप्पोकैम्पस (hippocampus) दिन की घटनाओं को दोहराता है, अप्रासंगिक विवरणों को हटाते हुए यादों को कॉर्टेक्स (cortex) में स्थानांतरित कर देता है। BrainStem_V8 इस तंत्र की नकल उस प्रक्रिया के माध्यम से करता है जिसे यह "स्लो-वेव स्लीप" (Slow-Wave Sleep) चक्र कहता है।
इस चरण के दौरान, सिस्टम केवल प्रोसेसिंग बंद नहीं करता है। यह उस डेटा को दोहराता है जिसका सामना उसने अपने सक्रिय काल के दौरान किया था। लेकिन यहाँ अंतर यह है: यह नई जानकारी को स्थिर एंकर्स (anchors) के साथ मिलाता है, जो पुराने पैटर्न हैं जो पहले ही विश्वसनीय साबित हो चुके हैं। वेटेड सैंपलिंग (weighted sampling) के माध्यम से, यह इन एंकर्स के विरुद्ध नए इनपुट की जांच करता है। यदि कोई नया पैटर्न स्थापित संरचना के बहुत अधिक विपरीत होता है, तो इसे शोर (noise) के रूप में वर्गीकृत किया जाता है और मॉडल के तर्क को खराब करने से पहले ही हटा दिया जाता है।
यह महत्वपूर्ण है क्योंकि सीखना एक मेटाबॉलिक टैक्स (metabolic tax) पैदा करता है। प्रत्येक अपडेट क्षमता का उपभोग करता है। इस फिल्टरिंग स्लीप चक्र के बिना, एक मॉडल तब तक सोखता रहता है जब तक कि वह अपने स्वयं के ट्रेनिंग सेट से घुटने न लगे। BrainStem_V8 नींद को अनिवार्य रखरखाव (mandatory maintenance) के रूप में मानता है, न कि वैकल्पिक डाउनटाइम (optional downtime) के रूप में।
एडेनोसिन बैटरी जानती है कि कब रुकना है
आपका मस्तिष्क थकान को एडेनोसिन (adenosine) के माध्यम से ट्रैक करता है, जो एक ऐसा रसायन है जो आपके जागते रहने के दौरान जमा होता है और सोने का दबाव बनाता है। BrainStem_V8 इसी चेतावनी प्रणाली का एक डिजिटल संस्करण लागू करता है।
सक्रिय "वेक" (wake) चक्रों के दौरान, आर्किटेक्चर अपने स्वयं के गतिविधि स्तरों की निगरानी करता है। यह देखता है कि वह कितनी मेहनत कर रहा है, वह कितने चरम मान (extreme values) उत्पन्न कर रहा है, और उसके पैरामीटर बेसलाइन (baseline) से कितनी दूर जा रहे हैं। जब आंतरिक गतिविधि एक पूर्व निर्धारित सीमा तक पहुँच जाती है, तो सिस्टम एक अनिवार्य विश्राम चक्र (rest cycle) शुरू कर देता है।
यह विश्राम एक विशिष्ट शारीरिक उद्देश्य की पूर्ति करता है। जिस तरह नींद एडेनोसिन को बाहर निकालती है और मस्तिष्क को पुनर्जीवित करती है, उसी तरह सिस्टम की विश्राम अवधि चरम सांख्यिकीय मानों को वापस एक स्वस्थ मध्यम सीमा की ओर खींचती है। यह उस स्थिति को रोकता है जिसे डिज़ाइनर "डिजिटल बर्नआउट" (digital burnout) कहते हैं, एक ऐसी स्थिति जहाँ मॉडल के वेट्स (weights) इतने अस्थिर हो जाते हैं कि सिस्टम सुसंगत आउटपुट (coherent output) उत्पन्न नहीं कर पाता। यह विश्राम किसी मानव इंजीनियर द्वारा निर्धारित शेड्यूल नहीं है। यह आर्किटेक्चर द्वारा ही लागू किया गया एक जैविक अनिवार्यता (biological imperative) है।
डिजिटल न्यूरोमोड्यूलेटर्स नियमों को फिर से लिखते हैं
पारंपरिक सॉफ्टवेयर हार्डकोडेड लॉजिक पर चलते हैं। यदि X होता है, तो Y करें। न्यूरल नेटवर्क इसे ढीला करते हैं, लेकिन वे अभी भी आमतौर पर निश्चित ऑप्टिमाइज़ेशन एल्गोरिदम (optimization algorithms) के माध्यम से सीखते हैं। BrainStem_V8 उस कठोरता के कुछ हिस्सों को मेटाप्लास्टिसिटी (metaplasticity) से बदल देता है, जो सीखने की प्रक्रिया को बदलने की क्षमता है।
यह दो प्रसिद्ध न्यूरोमोड्यूलेटर्स: डोपामाइन (dopamine) और सेरोटोनिन (serotonin) का अनुकरण करके ऐसा करता है। डिजिटल डोपामाइन सर्किट सिस्टम को नवीनता (novelty) खोजने के लिए प्रेरित करता है। जब मॉडल अपरिचित डेटा का सामना करता है, तो यह सिग्नल बढ़ जाता है और आर्किटेक्चर को अन्वेषण करने, अपनी समझ का विस्तार करने और नए को अपनाने के लिए प्रेरित करता है। डिजिटल सेरोटोनिन इसके विपरीत कार्य करता है। यह स्थिरता लागू करता है और संशोधन को ट्रिगर करता है। जब सिस्टम शुरू होता है तो