𝗧𝗵𝗲 𝗛𝗮𝗿𝗻𝗲𝘀𝘀 𝗜𝘀 𝗛𝗮𝗹𝗳 𝘁𝗵𝗲 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲
उद्योग एक विशिष्ट समीकरण का उपयोग करता है: Agent = Model + Harness.
यदि आप मॉडल नहीं हैं, तो आप हार्नेस हैं। यह दृष्टिकोण बाकी सब कुछ को सपोर्ट इंफ्रास्ट्रक्चर के रूप में मानता है। यह मान लेता है कि मॉडल इंजन है और हार्नेस केवल चेसिस या फ्यूल सिस्टम है।
यह तर्क त्रुटिपूर्ण है।
एक कार केवल एक्सेसरीज के साथ एक इंजन नहीं है। एक कार समकक्ष सब-सिस्टम्स (peer subsystems) का एक सिस्टम है। ब्रेक इंजन की सेवा नहीं करते हैं। इलेक्ट्रिकल सिस्टम इंजन की सेवा नहीं करता है। यदि ब्रेक फेल हो जाते हैं, तो कार फेल हो जाती है। यदि वाहन रुक नहीं सकता, तो इंजन की शक्ति अप्रासंगिक है।
AI एजेंट्स भी इसी तरह काम करते हैं।
वर्तमान एजेंट आर्किटेक्चर वेरिफिकेशन, इंटेंट और कोआर्डिनेशन को 'हार्नेस' नामक एक अधीनस्थ श्रेणी में डाल देता है। यह गलती कम-डिज़ाइन किए गए (under-designed) सिस्टम की ओर ले जाती है।
वेरिफिकेशन हार्नेस नहीं है। यह एक समकक्ष सब-सिस्टम है। इंटेंट सपोर्ट इंफ्रास्ट्रक्चर नहीं है। यह वह सब-सिस्टम है जो जनरेशन को निर्देशित करता है। कोआर्डिनेशन मॉडल रैपर नहीं है। यह वह सब-सिस्टम है जो मल्टी-एजेंट कार्य को सुसंगत बनाता है।
यदि आपका वेरिफिकेशन फेल हो जाता है, तो आपका एजेंट फेल हो जाता है। इससे कोई फर्क नहीं पड़ता कि मॉडल कितना स्मार्ट है।
गणित साबित करता है कि यह अंतर वास्तविक है। एक NIST प्रूफ दिखाता है कि गार्डरेल्स (guardrails) का कोई भी सीमित सेट सभी इनपुट्स के खिलाफ सार्वभौमिक रूप से मजबूत नहीं हो सकता है। आप एक बेहतर हार्नेस बनाकर इसे ठीक नहीं कर सकते। आप मॉडल को इतने अधिक नियमों में नहीं लपेट सकते कि वह पूर्ण हो जाए। कमियां हमेशा बनी रहेंगी।
उद्योग इस बात पर दांव लगा रहा है कि बेहतर मॉडल अंततः इन समस्याओं को सोख लेंगे। यह एक गलती है। हार्डवेयर का इतिहास हमें दिखाता है कि तेज़ CPUs ने मेमोरी कंट्रोलर या कैश की आवश्यकता को समाप्त नहीं किया। प्रत्येक सब-सिस्टम का अपना भौतिक विज्ञान (physics) और अपनी सीमाएं होती हैं।
वास्तविक एजेंट बनाने के लिए, आपको उन चार चीजों की आवश्यकता है जिन्हें वर्तमान हार्नेस मॉडल छोड़ देता है:
- एक स्पेसिफिकेशन लेयर (specification layer): 'सही' का क्या अर्थ है, इसके बारे में मानव-लिखित घोषणाएं।
- एक स्वतंत्र वेरिफिकेशन गेट (independent verification gate): एक मैकेनिकल चेकर जो स्वयं मॉडल नहीं है।
- एक सबट्रैक्शन डिसिप्लिन (subtraction discipline): ब्लोट (bloat) को रोकने के लिए यह तय करने का तरीका कि कौन सा कोड मौजूद नहीं होना चाहिए।
- प्रोटोकॉल के माध्यम से कोआर्डिनेशन: केवल साझा फ़ाइल सिस्टम के बजाय स्पेसिफिकेशन का उपयोग करना।
हार्नेस मॉडल को एक बेहतर उत्पादक बनाता है। स्पेसिफिकेशन लेयर सिस्टम को जवाबदेह बनाती है।
आपको दोनों की आवश्यकता है। यदि आप केवल पहला बनाते हैं, तो आप एक ऐसी सीमा (ceiling) की ओर निर्माण कर रहे हैं जिसे गणित कहता है कि आप तोड़ नहीं सकते।
Optional learning community: https://t.me/GyaanSetuAi