तुमच्या टीमला या आठवड्यात चांगल्या AI मॉडेलची गरज नाही
तुमच्या टीमला नवीन AI मॉडेलची गरज नाही. त्यांना चांगल्या वर्कफ्लोची (workflows) गरज आहे.
नवीन मॉडेल शोधणे थांबवा. तुमच्या अंमलबजावणीचे (execution) इंजिनिअरिंग करायला सुरुवात करा. बहुतेक टीम्सना सारख्याच समस्या येतात. एजंट लूप्स (agent loops) टास्कच्या मध्येच थांबतात. अप्रूव्हल प्रॉम्प्ट्समुळे (approval prompts) लोक गोंधळतात. रिट्राय करताना (retries) कॉन्टेक्स्ट चेन्स (context chains) तुटतात. ऑटोमेशनचा 'स्टेट' (state) हरवल्यामुळे माणसांना चुका सुधारण्यात तासनतास घालवावे लागतात.
समस्या आता बुद्धिमत्तेची राहिलेली नाही. समस्या अंमलबजावणीची (execution) आहे.
आपण 'ऑर्केस्ट्रेशन टॅक्स'च्या (orchestration tax) युगात प्रवेश करत आहोत. जर तुम्ही यासाठी नियोजन केले नाही, तर तुम्हाला आउटेज (outages) आणि शांत अपयशांच्या (silent failures) स्वरूपात याची किंमत चुकवावी लागेल. जेव्हा इंजिनिअर्सना रात्री उशिरापर्यंत बॉट्स सांभाळावे लागतात, तेव्हा तुम्ही ही किंमत मोजत असता.
AI आउटपुट हे क्वचितच अंतिम उत्पादन असते. ते एका मोठ्या प्रणालीतील एक मध्यवर्ती पायरी आहे. ते तिकीट ट्रायज (ticket triage), PR ड्राफ्टिंग आणि टेस्ट जनरेशनमध्ये मदत करते.
तुम्हाला या प्रश्नांची उत्तरे द्यावी लागतील:
- टाइमआउटनंतर टास्क पुन्हा सुरू होऊ शकतो का?
- बदल कोणी मंजूर केला याचे ऑडिट आपण करू शकतो का?
- ड्युप्लिकेट साईड इफेक्ट्स (side effects) निर्माण न करता आपण टास्क पुन्हा रन करू शकतो का?
- पुन्हा सुरुवात न करता एखादा माणूस मध्येच काम ताब्यात घेऊ शकतो का?
सिनियर इंजिनिअर्सना हे कसे सोडवायचे हे आधीच माहित आहे. आम्ही अनेक वर्षांपूर्वी पेमेंट्स आणि बॅकग्राउंड जॉब्ससाठी या समस्या सोडवल्या आहेत. आम्ही idempotency keys, checkpoints आणि transaction logs वापरतो. AI फक्त या चुका अधिक वेगाने घडवून आणते.
मॉडेलची गुणवत्ता हा समीकरणाचा फक्त एक भाग आहे. खराब वर्कफ्लोवर असलेले उत्तम मॉडेल गोंधळ निर्माण करते. मजबूत वर्कफ्लोवर असलेले साधे मॉडेलही मूल्य निर्माण करते.
केवळ 'वाइब्स'च्या (vibes) मागे न लागता एक व्यावहारिक प्लेबुक (playbook) तयार करा:
AI चे काम स्पष्ट पायऱ्यांमध्ये विभाजित करा.
collect_context,propose_change, आणिrun_checksसारख्या पायऱ्या वापरा. एकाच मोठ्या प्रॉम्प्टला संपूर्ण प्रक्रिया चालवू देऊ नका.टिकाऊपणासाठी (durability) डेटाबेस वापरा. तुमचा वर्कफ्लो स्टेटस आणि इव्हेंट लॉग्स Postgres सारख्या डेटाबेसमध्ये साठवा. जर एखादा वर्कर क्रॅश झाला, तर तुम्ही मेमरीऐवजी 'स्टेट' (state) मधून रिकव्हरी करू शकता.
Idempotency लागू करा. डेटा बदलणाऱ्या प्रत्येक कृतीसाठी एक स्थिर की (stable key) आवश्यक आहे. जर एखादी पायरी दोनदा चालली, तर निकाल तोच राहिला पाहिजे.
टियर्स (tiers) वापरून परवानग्या व्यवस्थापित करा. सतत मंजुरी मागू नका. रीड-ओन्ली टास्क, कमी जोखमीचे राइट्स (low-risk writes) आणि उच्च-प्रभाव बदल (high-impact changes) यासाठी टियर्स तयार करा.
ऑपरेशनल मेट्रिक्सचा मागोवा घ्या. फक्त लॅटन्सी (latency) आणि खर्च ट्रॅक करणे थांबवा. रिट्राय सक्सेस रेट्स, मानवी हस्तक्षेप बिंदू (human intervention points) आणि रोलबॅक फ्रिक्वेन्सीचा मागोवा घ्या.
सर्वोत्तम AI टीम्स ऑटोनॉमस एजंट्सबद्दल (autonomous agents) बढाई मारणार नाहीत. त्या टिकाऊ आणि ऑब्झर्व्हेबल पाईपलाईन्स (observable pipelines) तयार करतील. त्यांची ताकद 'मॅजिक प्रॉम्प्ट्स'मध्ये नसेल, तर शिस्तबद्ध सिस्टम इंजिनिअरिंगमध्ये असेल.
मॉडेल्स दर महिन्याला अधिक स्मार्ट होत आहेत. जेव्हा गोष्टी चुकतात तेव्हा गोंधळून न जाणारे वर्कफ्लो तयार करणे, हाच तुमचा खरा फायदा असेल.
Source: https://dev.to/chrisbuildsonline/your-team-doesnt-need-a-better-ai-model-this-week-2og7
Optional learning community: https://t.me/GyaanSetuAi