क्या आपका AI धीमा महसूस होता है? शायद यह बेवकूफ नहीं है।

AI अक्सर धीमा महसूस होता है क्योंकि यह एक समय में एक ही कार्य पर काम करता है। यह एक कतार (queue) में रहता है। आप अगले मॉड्यूल के शुरू होने से पहले एक मॉड्यूल के समाप्त होने का इंतज़ार करते हैं।

आप पैरेलल एजेंट्स (parallel agents) का उपयोग करके इसे ठीक कर सकते हैं।

कई मॉड्यूल एक-दूसरे पर निर्भर नहीं होते हैं। यदि आप उन्हें विभाजित करते हैं, तो कई एजेंट्स एक साथ काम कर सकते हैं। आप बहुत कम समय में वही काम पूरा कर सकते हैं।

एक पैरेलल AI वर्कफ़्लो बनाने का तरीका यहाँ दिया गया है:

  1. सबसे पहले अपना आर्किटेक्चर (architecture) ठीक करें पैरेललिज्म (Parallelism) के लिए एक साफ डिज़ाइन की आवश्यकता होती है। आपके मॉड्यूल 'लूज़ली कपल्ड' (loosely coupled) होने चाहिए। उन्हें स्पष्ट इंटरफेस के माध्यम से संवाद करना चाहिए। यदि आप अव्यवस्थित कोड पर पैरेललिज्म थोपते हैं, तो आप त्रुटियों का एक जाल बना देते हैं। इन इंटरफेस की योजना बनाने के लिए डिज़ाइन चरण के दौरान AI का उपयोग करें।

  2. विशिष्ट भूमिकाएँ सौंपें समय और पैसा बचाने के लिए अलग-अलग कार्यों के लिए अलग-अलग मॉडल का उपयोग करें:

  • द लीड (Opus): बड़ी तस्वीर (big picture) का प्रबंधन करता है, काम सौंपता है और अंतिम जाँच करता है।
  • द प्लानर (Sonnet): टेस्ट-ड्रिवन डेवलपमेंट (TDD) और कार्यान्वयन योजनाओं (implementation plans) को संभालता है।
  • द वर्कर (Haiku): वास्तविक कोड लिखता है और टेस्ट चलाता है।

  1. अपनी सीमाएँ निर्धारित करें अधिक एजेंट्स का मतलब हमेशा बेहतर नहीं होता। मैंने एक साथ 10 एजेंट्स सेट करने की कोशिश की, लेकिन मेरी मशीन की मेमोरी खत्म हो गई। मैं 5 एजेंट्स पर आ गया। अन्य कार्यों के साथ मिलकर इससे मुझे 10x गति मिली। अपनी कॉनकरेंसी (concurrency) को अपनी मशीन और अपने कोटा के अनुसार रखें।

  2. रिव्यू के लिए लीड का उपयोग करें काम की समीक्षा करने के लिए अलग एजेंट न रखें। उस एजेंट को पूरी कार्यप्रणाली शुरू से सीखनी पड़ती है, जिससे टोकन बर्बाद होते हैं। लीड एजेंट को ही समीक्षा करने दें। वह पहले से ही जानता है कि उसने क्या सौंपा है, इसलिए वह काम की तेज़ी से और अधिक सटीकता से जाँच कर सकता है।

  3. अनावश्यक विभाजन से बचें कुछ कार्यों को क्रम में रहना चाहिए। यदि आप मजबूती से जुड़े (tightly coupled) मॉड्यूल पर विभाजन थोपते हैं, तो गुणवत्ता गिर जाती है। अपने AI से कहें: "ये मॉड्यूल आपस में जुड़े हुए हैं, विभाजन करने के लिए मजबूर न करें।"

आज ही कैसे शुरू करें:

  • अपने ग्लोबल निर्देशों (global instructions) में "Parallelize when you can" जोड़ें।
  • अपनी सेटिंग्स में अपने अधिकतम समवर्ती सब-एजेंट्स (max concurrent subagents) की संख्या बढ़ाएँ।
  • हर बार कार्य देते समय AI को पैरेललाइज़ करने की याद दिलाएं।

स्रोत: https://dev.to/kanfu-panda/your-ai-feels-slow-maybe-its-not-dumb-youre-making-it-work-one-thing-at-a-time-3ipl

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi