AI Context Engineering: ஏன் வெறும் ப்ராம்ப்ட்கள் மட்டும் போதாது?
இரண்டு ஆண்டுகளுக்கு முன்பு, அனைவரும் prompt engineering பற்றிப் பேசிக்கொண்டிருந்தார்கள்.
குறியீடுகளை (code) எழுத அல்லது நிபுணர்களைப் போலச் செயல்பட மக்கள் ப்ராம்ப்ட்களைப் பகிர்ந்து கொண்டனர். இதன் கருத்து எளிமையானது: ஒரு சிறந்த ப்ராம்ப்ட் சிறந்த முடிவைத் தரும்.
ஆனால் உண்மையான AI தயாரிப்புகளை உருவாக்கும் பொறியாளர்கள் ஒரு உண்மையை உணர்ந்தார்கள். ஒரு புதிரின் ஒரு பகுதி மட்டுமே ப்ராம்ப்ட்.
Claude, Cursor அல்லது GitHub Copilot போன்ற நவீன AI கருவிகள் ஒரு தனி ப்ராம்ப்ட்டை மட்டும் நம்பியிருக்கவில்லை. அவை Context Engineering-ஐப் பயன்படுத்துகின்றன.
Prompt engineering கேட்கிறது: "நான் மாடலிடம் (model) என்ன கேட்க வேண்டும்?"
Context engineering கேட்கிறது: "மாடல் சிறப்பாகப் பதிலளிக்க அதற்கு என்ன தகவல் தேவை?"
ஒரு டெவலப்பரைப் பற்றி யோசித்துப் பாருங்கள். நீங்கள் "the app is broken" என்று சொன்னால், அவர்களால் உங்களுக்கு உதவ முடியாது. அவர்கள் பல கேள்விகளைக் கேட்பார்கள்.
நீங்கள் error logs, stack traces மற்றும் சமீபத்திய deployments ஆகியவற்றை வழங்கினால், அவர்கள் அதை விரைவாகச் சரிசெய்துவிடுவார்கள். அவர்கள் புத்திசாலியாக மாறவில்லை; நீங்கள் அவர்களுக்குச் சிறந்த சூழலை (context) வழங்கினீர்கள்.
AI-யும் அதே வழியில் செயல்படுகிறது.
நீங்கள் ஒரு AI-யிடம் SQL query கேட்டால், அது யூகிக்கக்கூடும். ஆனால் நீங்கள் அதற்கு table பெயர்கள், column வகைகள் மற்றும் குறிப்பிட்ட விதிகளை வழங்கினால், பதில் துல்லியமாக இருக்கும். ப்ராம்ப்ட் எளிமையாகவே இருந்தது, ஆனால் சூழல் (context) மாறியது.
பயன்பாட்டு நிலையில் உள்ள (production) AI அமைப்புகளில், மாடல் உங்கள் உரையை விட மேலான பல விஷயங்களைப் பெறுகிறது. அது பெரும்பாலும் இதைப் பெறுகிறது:
- System instructions
- Conversation history
- Database records
- Project files
- Tool outputs
ஒரு AI coding assistant நீங்கள் எதைப் பற்றிப் பேசுகிறீர்கள் என்பதைத் தெரிந்து கொள்கிறது, ஏனெனில் அது உங்கள் திறந்திருக்கும் கோப்புகள் (files) மற்றும் ஃபோல்டர் கட்டமைப்பைப் (folder structure) பார்க்கிறது. நீங்கள் நான்கு வார்த்தைகளைத் தட்டச்சு செய்கிறீர்கள், ஆனால் மாடல் ஆயிரக்கணக்கான tokens தரவுகளைப் பெறுகிறது.
ஒரு ப்ராம்ப்ட்டின் வார்த்தைகளைச் செம்மைப்படுத்த மணிக்கணக்கில் செலவிடுவதை நிறுத்துங்கள். அதற்குப் பதிலாக, உங்களிடமே கேட்டுக்கொள்ளுங்கள்: "மாடலுக்கு எந்தத் தகவல் விடுபட்டுள்ளது?"
ஒரு "மந்திர" (magic) ப்ராம்ப்ட்டைத் தேடுவதை விட, சிறந்த ஆவணங்கள் (documentation), API schemas அல்லது வணிக விதிகளை (business rules) வழங்குவது சிறப்பாகச் செயல்படும்.
Context engineering என்பது சரியான நேரத்தில் மாடலுக்குச் சரியான தரவை வழங்குவதைப் பற்றியது.
பகுதி 2-இல், நான் பின்வருவனவற்றை விளக்குவேன்:
- Context windows மற்றும் tokens
- ஏன் அதிக context எப்போதும் சிறந்தது அல்ல
- AI-இல் memory எவ்வாறு செயல்படுகிறது
சிறந்த AI அமைப்புகள் நீங்கள் தட்டச்சு செய்யும் வார்த்தைகளை மட்டும் நம்பியிருக்காமல், திரைக்குப் பின்னால் உள்ள தரவுகளைச் சார்ந்தே இருக்கின்றன.
Optional learning community: https://t.me/GyaanSetuAi