ఏజెంటిక్ ఇంజనీరింగ్ ఎదుగుదల: ప్రాంప్ట్ డెట్
సాధారణ ఇంగ్లీష్లో ప్రాంప్ట్లను రాయడం ఒక మాయలా అనిపిస్తుంది. మీరు ఏమి కోరుకుంటున్నారో టైప్ చేస్తే, ఒక ప్రోటోటైప్ ప్రత్యక్షమవుతుంది. కానీ దీర్ఘకాలిక వ్యవస్థల విషయానికి వస్తే, ఈ మాయ ఒక ఉచ్చుగా మారుతుంది.
మీరు బహుశా ప్రాంప్ట్ డెట్ను (prompt debt) పేరుకుపోసుకుంటున్న అవకాశం ఉంది.
ఖచ్చితమైన ఇంజనీరింగ్ను ఉపయోగించే బదులు, ఒక మోడల్ను నియంత్రించడానికి మీరు సహజ భాషను (natural language) ఉపయోగించినప్పుడు ప్రాంప్ట్ డెట్ ఏర్పడుతుంది. ఇది మూడు భారీ సమస్యలను సృష్టిస్తుంది:
- ఇటరేషన్ (Iteration) నెమ్మదిస్తుంది. ఒక లోపాన్ని సరిదిద్దడానికి మీరు మరిన్ని పదాలను జోడిస్తారు, కానీ ఆ పదాలు మరొక దానిని దెబ్బతీస్తాయి. త్వరలోనే, మీ ప్రాంప్ట్ పునరావృతమైన సూచనల గందరగోళంగా మారుతుంది.
- మీ బృందం నియంత్రణను కోల్పోతుంది. అన్నీ క్యాపిటల్ లెటర్స్లో ఉన్న హెచ్చరికలు మరియు ఎడ్జ్ కేస్లతో (edge cases) నిండిన ప్రాంప్ట్ను తోటి ఉద్యోగి చదవడం లేదా నిర్వహించడం అసాధ్యం.
- మీరు ఒకే మోడల్కు పరిమితమైపోతారు. ఒక మోడల్ కోసం ప్రత్యేకంగా రూపొందించిన ప్రాంప్ట్, కొత్త మరియు మెరుగైన వెర్షన్లో తరచుగా విఫలమవుతుంది. తమ సిస్టమ్ దెబ్బతింటుందనే భయంతో బృందాలు పాత, ఖరీదైన మోడళ్లకే పరిమితమవుతాయి.
మీరు వెయిట్స్తో (weights) పోరాడుతున్నందున ఇది జరుగుతుంది. ఒక మోడల్ మీ సూచనను వ్యతిరేకించినప్పుడు, మీరు దానిని మళ్ళీ మళ్ళీ చెబుతారు. ప్రతి పునరావృతమైన లేదా నొక్కి చెప్పబడిన సూచన ఒక మచ్చ (scar tissue) వంటిది. మోడల్ యొక్క శిక్షణ మీ ఉద్దేశ్యానికి వ్యతిరేకంగా ఎక్కడ పోరాడుతుందో ఇది చూపిస్తుంది.
ఇంజనీరింగ్ కోసం సహజ భాష చాలా అస్పష్టంగా ఉంటుంది. పదజాలంలో చిన్న మార్పులు కూడా మోడల్ ప్రవర్తనను మార్చేయగలవు. ప్రాంప్ట్లో ఉన్న సంబంధం లేని వాస్తవాలు కూడా మోడల్ స్పందించే విధానాన్ని మార్చవచ్చు.
దీనిని మీరు ఎలా సరిదిద్దాలి?
మీరు ప్రాంప్ట్లను మాన్యువల్గా రాయడం ఆపివేసి, కొలమానాలతో (measurements) ప్రవర్తనను నిర్దేశించడం ప్రారంభించాలి.
- ప్రాంప్ట్ అనేది మోడల్ అనుసరిస్తుందని మీరు ఆశించే ఒక పేరాగ్రాఫ్.
- మెట్రిక్ (metric) అనేది మోడల్ తప్పనిసరిగా నెరవేర్చాల్సిన ఒక ఒప్పందం.
ఇంజనీరింగ్ భవిష్యత్తు "ప్రాంప్టింగ్" నుండి "ప్రోగ్రామింగ్" వైపు మారుతోంది. DSPy మరియు GEPA వంటి సాధనాలు ఒక లక్ష్యాన్ని మరియు మెట్రిక్ను నిర్వచించడానికి మీకు అనుమతిస్తాయి. ఆ తర్వాత సిస్టమ్ ఆ లక్ష్యాన్ని చేరుకోవడానికి ఉత్తమమైన ప్రాంప్ట్ కోసం వెతుకుతుంది.
ఇది ప్రాంప్టింగ్ను ఒక కంపైల్డ్ ఆర్టిఫాక్ట్గా (compiled artifact) మారుస్తుంది. ఒకవేళ కొత్త, చౌకైన మోడల్ వచ్చినట్లయితే, మీరు కంగారు పడాల్సిన అవసరం లేదు. మీరు కేవలం కొత్త మోడల్పై మీ మెట్రిక్స్ను రన్ చేసి, ప్రాంప్ట్ను మళ్ళీ రూపొందించుకోవచ్చు.
ఇంజనీర్లు అసెంబ్లీ లాంగ్వేజ్ నుండి కంపైలర్లకు మారినట్లే, AI ఇంజనీర్లు స్ట్రింగ్స్ను మాన్యువల్గా ట్యూన్ చేయడం నుండి మెట్రిక్స్ను ఆప్టిమైజ్ చేయడం వైపు మారాలి.
మాయా పదాలతో మోడల్ను మభ్యపెట్టడం ఆపండి. కొలవదగిన స్పెసిఫికేషన్లతో (measurable specifications) నిర్మించడం ప్రారంభించండి.
Optional learning community: https://t.me/GyaanSetuAi