एजेंटिक इंजिनीअरिंगचा उदय: प्रॉम्प्ट डेट (Prompt Debt)
साध्या इंग्रजीमध्ये प्रॉम्प्ट लिहिणे एखाद्या जादूसारखे वाटते. तुम्ही जे हवे आहे ते टाईप करता आणि एक प्रोटोटाइप तयार होतो. परंतु दीर्घकालीन प्रणालींसाठी (long-term systems), ही जादू एका सापळ्यात रूपांतरित होते.
तुम्ही कदाचित 'प्रॉम्प्ट डेट' (prompt debt) साठवत आहात.
जेव्हा तुम्ही अचूक इंजिनीअरिंगऐवजी मॉडेल नियंत्रित करण्यासाठी नैसर्गिक भाषेचा (natural language) वापर करता, तेव्हा प्रॉम्प्ट डेट निर्माण होते. यामुळे तीन मोठ्या समस्या निर्माण होतात:
- इटरेशन (Iteration) मंदावते. एक त्रुटी सुधारण्यासाठी तुम्ही अधिक मजकूर जोडता, परंतु तो मजकूर दुसरी एखादी गोष्ट बिघडवतो. लवकरच, तुमचा प्रॉम्प्ट वारंवार दिलेल्या सूचनांचा गोंधळ बनतो.
- तुमची टीम नियंत्रण गमावते. सर्व कॅपिटल अक्षरातील चेतावणी आणि 'एज केसेस' (edge cases) भरलेला प्रॉम्प्ट वाचणे किंवा व्यवस्थापित करणे सहकाऱ्यांसाठी अशक्य होते.
- तुम्ही एकाच मॉडेलमध्ये अडकून पडता. एका मॉडेलसाठी ट्यून केलेला प्रॉम्प्ट अनेकदा नवीन आणि अधिक चांगल्या व्हर्जनवर निकामी ठरतो. आपली सिस्टीम बिघडण्याची भीतीपोटी टीम्स जुन्या आणि महागड्या मॉडेल्सवरच अडकून राहतात.
हे घडते कारण तुम्ही 'वेट्स'शी (weights) लढत असता. जेव्हा मॉडेल तुमच्या सूचनेला विरोध करते, तेव्हा तुम्ही ती पुन्हा पुन्हा सांगता. प्रत्येक पुनरावृत्ती केलेली किंवा जोर देऊन दिलेली सूचना म्हणजे 'स्कार टिश्यू' (scar tissue) आहे. मॉडेलचे ट्रेनिंग तुमच्या हेतूशी कुठे संघर्ष करत आहे, हे यातून दिसून येते.
इंजिनीअरिंगसाठी नैसर्गिक भाषा खूप अनिश्चित आहे. शब्दावलीतील लहान बदल मॉडेलचे वर्तन पूर्णपणे बदलू शकतात. अगदी प्रॉम्प्टमधील असंबंधित तथ्ये देखील मॉडेलच्या प्रतिसादावर परिणाम करू शकतात.
तुम्ही हे कसे दुरुस्त कराल?
तुम्ही हाताने प्रॉम्प्ट लिहिणे थांबवले पाहिजे आणि मोजमापांसह (measurements) वर्तन निर्दिष्ट करण्यास सुरुवात केली पाहिजे.
- प्रॉम्प्ट म्हणजे एक परिच्छेद आहे ज्याचे मॉडेल पालन करेल अशी तुमची आशा असते.
- मेट्रिक (metric) म्हणजे एक करार आहे जो मॉडेलला पूर्ण करावा लागतो.
इंजिनीअरिंगचे भविष्य "प्रॉम्प्टिंग" कडून "प्रोग्रामिंग" कडे वळत आहे. DSPy आणि GEPA सारखी साधने तुम्हाला ध्येय (goal) आणि मेट्रिक परिभाषित करण्याची परवानगी देतात. त्यानंतर सिस्टीम ते ध्येय गाठण्यासाठी सर्वोत्तम प्रॉम्प्ट शोधते.
यामुळे प्रॉम्प्टिंग एका 'कंपाइल्ड आर्टिफॅक्ट' (compiled artifact) मध्ये रूपांतरित होते. जर एखादे नवीन, स्वस्त मॉडेल आले, तर तुम्ही घाबरू नका. तुम्ही फक्त नवीन मॉडेलवर तुमचे मेट्रिक्स चालवता आणि प्रॉम्प्ट पुन्हा तयार करता.
ज्याप्रमाणे इंजिनीअर्स असेंब्ली लँग्वेजकडून कंपायलरकडे वळले, त्याचप्रमाणे AI इंजिनीअर्सनी स्ट्रिंग्सचे मॅन्युअल ट्युनिंग करण्याऐवजी मेट्रिक्स ऑप्टिमाइझ करण्याकडे वळले पाहिजे.
मॉडेलला जादूच्या शब्दांनी मनवण्याचा प्रयत्न करणे थांबवा. मोजण्यायोग्य स्पेसिफिकेशन्ससह (measurable specifications) बांधणी करण्यास सुरुवात करा.
Optional learning community: https://t.me/GyaanSetuAi