AI कॉन्टेक्स्ट इंजिनिअरिंग: प्रॉम्प्ट्स पुरेसे का नाहीत
दोन वर्षांपूर्वी, प्रत्येकजण प्रॉम्प्ट इंजिनिअरिंगबद्दल (prompt engineering) बोलत होता.
लोक कोड लिहिण्यासाठी किंवा तज्ज्ञांसारखे वागण्यासाठी प्रॉम्प्ट्स शेअर करत होते. कल्पना साधी होती: चांगला प्रॉम्प्ट म्हणजे चांगला निकाल.
पण वास्तविक AI उत्पादने तयार करणारे इंजिनिअर्सना एक सत्य उमजले. प्रॉम्प्ट हा या कोड्याचे केवळ एक भाग आहे.
Claude, Cursor किंवा GitHub Copilot सारखी आधुनिक AI साधने केवळ एका प्रॉम्प्टवर अवलंबून नसतात. ती कॉन्टेक्स्ट इंजिनिअरिंगचा (Context Engineering) वापर करतात.
प्रॉम्प्ट इंजिनिअरिंग विचारते: "मी मॉडेलला काय विचारले पाहिजे?"
कॉन्टेक्स्ट इंजिनिअरिंग विचारते: "चांगल्या उत्तरासाठी मॉडेलला कोणत्या माहितीची आवश्यकता आहे?"
एका डेव्हलपरचा विचार करा. जर तुम्ही म्हणालात "ॲपमध्ये बिघाड झाला आहे," तर ते तुम्हाला मदत करू शकणार नाहीत. ते तुम्हाला अनेक प्रश्न विचारतील.
जर तुम्ही एरर लॉग्स (error logs), स्टॅक ट्रेसेस (stack traces) आणि अलीकडील डिप्लॉयमेंट्स (recent deployments) दिले, तर ते ते वेगाने दुरुस्त करतात. ते अधिक हुशार झाले नाहीत, तर तुम्ही त्यांना अधिक चांगला कॉन्टेक्स्ट दिला.
AI देखील याच पद्धतीने काम करते.
जर तुम्ही AI ला SQL क्वेरी विचारली, तर ते कदाचित अंदाज लावेल. जर तुम्ही त्याला टेबलची नावे, कॉलमचे प्रकार आणि विशिष्ट नियम दिले, तर उत्तर अचूक मिळते. प्रॉम्प्ट साधाच राहिला, पण कॉन्टेक्स्ट बदलला.
प्रोडक्शन AI सिस्टममध्ये, मॉडेलला तुमच्या मजकुरापेक्षा खूप जास्त माहिती मिळते. त्याला अनेकदा खालील गोष्टी मिळतात:
- सिस्टम सूचना (System instructions)
- संभाषणाचा इतिहास (Conversation history)
- डेटाबेस रेकॉर्ड्स (Database records)
- प्रोजेक्ट फाइल्स (Project files)
- टूल आउटपुट्स (Tool outputs)
एक AI कोडिंग असिस्टंट तुम्ही कशाबद्दल बोलत आहात हे जाणतो, कारण तो तुमच्या ओपन फाइल्स आणि फोल्डर स्ट्रक्चर पाहू शकतो. तुम्ही फक्त चार शब्द टाईप करता, पण मॉडेलला हजारो टोकन्सचा (tokens) डेटा मिळतो.
प्रॉम्प्टमधील शब्दांची रचना सुधारण्यात तासनतास घालवणे थांबवा. त्याऐवजी, स्वतःला विचारा: "मॉडेलकडे कोणती माहिती कमी आहे?"
"मॅजिक" प्रॉम्प्ट शोधण्यापेक्षा चांगली डॉक्युमेंटेशन, API स्कीमा किंवा बिझनेस रूल्स देणे अधिक प्रभावी ठरते.
कॉन्टेक्स्ट इंजिनिअरिंग म्हणजे मॉडेलला योग्य वेळी योग्य डेटा देणे होय.
भाग २ मध्ये, मी खालील गोष्टींचा समावेश करेन:
- कॉन्टेक्स्ट विंडोज आणि टोकन्स (Context windows and tokens)
- अधिक कॉन्टेक्स्ट नेहमीच चांगला का नसतो
- AI मध्ये मेमरी कशी काम करते
उत्कृष्ट AI सिस्टम्स केवळ तुम्ही टाईप केलेल्या शब्दांवर नाही, तर पडद्यामागील डेटावर अवलंबून असतात.
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi