𝗦𝘁𝗼𝗽 𝗟𝗼𝗮𝗱𝗶𝗻𝗴 𝗘𝘃𝗲𝗿𝘆 𝗜𝗻𝘀𝘁𝗿𝘂𝗰𝘁𝗶𝗼𝗻 𝗜𝗻𝘁𝗼 𝗘𝘃𝗲𝗿𝘆 𝗦𝗲𝘀𝘀𝗶𝗼𝗻
बहुतेक लोक चांगल्या प्रॉम्प्ट्सवर (prompts) लक्ष केंद्रित करतात. प्रॉम्प्ट सुरू होण्यापूर्वी काय घडते याकडे ते दुर्लक्ष करतात. ते असिस्टंटच्या कॉन्टेक्स्टमध्ये (context) खूप जास्त सूचना लोड करतात.
यामुळे तीन समस्या निर्माण होतात:
- उच्च टोकन खर्च (High token costs).
- उच्च लॅटन्सी (High latency).
- कमी सिग्नल-टू-नॉईज रेशो (Low signal-to-noise ratio).
जेव्हा तुम्ही प्रत्येक लहान प्रश्नासाठी एक मोठी सूचना फाईल (instruction file) लोड करता, तेव्हा ते एखाद्या साध्या प्रश्नापूर्वी संपूर्ण कर्मचारी नियमावली (employee handbook) वाचण्यासारखे आहे. त्यातील बहुतेक माहिती सध्याच्या कामासाठी निरुपयोगी असते.
तुम्ही जितके जास्त नियम जोडाल, तितके तुम्ही संबंधित भागांचे महत्त्व कमी करता. जास्त कॉन्टेक्स्ट म्हणजे जास्त क्षमता (competence) असा होत नाही.
मी एका सिंगल फाईलवरून मॉड्युलर सिस्टमकडे (modular system) वळून ही समस्या सोडवली. मी माझ्या सूचनांचे विशिष्ट मॉड्यूल्समध्ये विभाजन केले:
• instructions.md: एक लहान एन्ट्री पॉईंट जो नेहमी लोड होतो. • persona.md: व्यक्तिमत्व आणि टोन (tone). • structure.md: नेव्हिगेशन कामांसाठी सिस्टम स्ट्रक्चर. • workflows.md: सेशन संपवण्यासाठी विशिष्ट नियम.
आता, मुख्य फाईल एका राउटरप्रमाणे (router) काम करते. जेव्हा कामाची गरज असते, तेव्हाच ती इतर मॉड्यूल्सना कॉल करते.
उदाहरणार्थ:
- जर तुम्हाला प्रोजेक्ट नेव्हिगेट करायचा असेल, तर structure.md लोड करा.
- जर तुम्हाला सेशन संपवायचे असेल, तर workflows.md लोड करा.
- जर तुमचा प्रश्न छोटा असेल, तर दुसरे काहीही लोड करू नका.
याचे परिणाम स्पष्ट होते. माझा बेसलाइन टोकन लोड ४,८०० टोकन्सवरून १,४५० टोकन्सवर आला. म्हणजेच ७०% घट झाली.
उद्देश सूचना लहान करणे हा नाही. उद्देश बेसलाइन लोड (baseline load) आणि ऑन-डिमांड लोड (on-demand load) वेगळे करणे हा आहे.
बेसलाइन लोड म्हणजे तो जो तुम्हाला प्रत्येक वेळी द्यावा लागतो. तो अत्यंत कमी ठेवला पाहिजे. ऑन-डिमांड लोड म्हणजे तो जो तुम्ही फक्त गरजेनुसार लोड करता. तो मोठा आणि तपशीलवार असू शकतो.
या पद्धतीचे काही तोटे (trade-offs) देखील आहेत. यामुळे कार्यक्षमता वाढते पण सूचनांचे राउटिंग (routing) करताना गुंतागुंत वाढते. असिस्टंटला मॉड्यूल्सवर विश्वासार्हपणे प्रवेश मिळेल याची खात्री तुम्हाला करावी लागेल.
जर तुमच्या सूचना लहान असतील, तर हे करू नका. तो वेळेचा अपव्यय आहे. जर तुमचा सूचना संच (instruction set) मोठा असेल आणि वाढत असेल, तर हे लगेच करा.
असिस्टंटवर अनावश्यक भार टाकणे थांबवा. अनावश्यक सूचनांपासून वातावरण स्वच्छ ठेवा.
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi