एजेंट गाड़ी चला सकता है। लेकिन आपको रास्ता पता होना चाहिए।

बहुत से लोग सब कुछ AI agents को सौंपना चाहते हैं। वे एजेंट को एक लक्ष्य देते हैं और चले जाते हैं। वे पूरी तरह से काम सौंपना (total delegation) चाहते हैं।

यह एक जाल है।

एजेंट ज़्यादातर समय काम करेगा। समस्या तब आती है जब वह विफल हो जाता है। बिल्ड (build) टूट जाता है या व्यवहार बदल जाता है। मॉडल गोल-गोल घूमने लगता है।

यदि आप यह नहीं समझते कि एजेंट ने क्या बनाया है, तो आप उसे ठीक नहीं कर सकते। आप ऐसे कोड को देखते रह जाएंगे जिसे आप पहचानते भी नहीं। त्रुटि (error) खोजने के लिए आपके पास कोई नक्शा नहीं होगा।

एक AI agent को एक जूनियर डेवलपर की तरह समझें। एक जूनियर डेवलपर मुश्किलों में फंसता है और आपसे मदद मांगता है। आप उनके लिए एक सुरक्षा जाल (safety net) हैं।

जब एजेंट विफल होता है, तो आप ही सुरक्षा जाल होते हैं। कोई और नहीं है। यदि आप भी फंस गए, तो सब कुछ रुक जाएगा। यदि आप भी एजेंट की तरह ही भ्रमित हैं, तो आप सिस्टम को ठीक नहीं कर सकते।

यह पूछना बंद करें कि आप कितना काम सौंप सकते हैं। यह पूछना शुरू करें कि आपको क्या समझते रहना चाहिए।

आपको कोड की हर लाइन रटने की ज़रूरत नहीं है। ऐसा करना तो एजेंटों का उपयोग करने के उद्देश्य को ही खत्म कर देगा। इसके बजाय, आपको मुख्य आधार वाले हिस्सों (load bearing parts) को समझना चाहिए:

• आपका डेटा सिस्टम में कैसे मूव करता है। • सिस्टम स्टेट (system state) कहाँ रहता है। • आपके एप्लिकेशन का क्रिटिकल पाथ (critical path)। • वे बिंदु जहाँ अलग-अलग हिस्से जुड़ते हैं।

यह देखने के लिए इस टेस्ट का उपयोग करें कि क्या आप तैयार हैं:

क्या आप एक सिंगल रिक्वेस्ट को शुरू से अंत तक ट्रैक कर सकते हैं? क्या आप इसे बोलकर समझा सकते हैं? जब कोई एरर (error) आता है, तो क्या आप अंदाज़ा लगा सकते हैं कि वह कहाँ हुआ?

यदि आप एरर के स्थान का अंदाज़ा लगा सकते हैं, तो नियंत्रण आपके हाथ में है। यदि आप बस एरर को वापस AI में पेस्ट कर देते हैं और सुधार की उम्मीद करते हैं, तो आप सिस्टम के मालिक नहीं हैं। आप इसे किराए पर ले रहे हैं।

एजेंट को दोहराव वाले (repetitive) काम करने दें। उस गति का उपयोग आर्किटेक्चर (architecture) पर ध्यान केंद्रित करने के लिए करें। सिस्टम के ढांचे (skeleton) पर अपनी पकड़ बनाए रखें।

आप टाइपिंग का काम सौंप सकते हैं। लेकिन आप रक्षा की अंतिम पंक्ति (last line of defense) होने का काम नहीं सौंप सकते।

स्रोत: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi