એજન્ટિક એન્જિનિયરિંગનો ઉદય: પ્રોમ્પ્ટ ડેટ (Prompt Debt)
સાદા અંગ્રેજીમાં પ્રોમ્પ્ટ લખવા એ જાદુ જેવું લાગે છે. તમે જે ઈચ્છો છો તે ટાઈપ કરો છો, અને એક પ્રોટોટાઇપ દેખાય છે. પરંતુ લાંબા ગાળાની સિસ્ટમ્સ માટે, આ જાદુ એક જાળ બની જાય છે.
તમે કદાચ પ્રોમ્પ્ટ ડેટ (prompt debt) જમા કરી રહ્યા છો.
પ્રોમ્પ્ટ ડેટ ત્યારે થાય છે જ્યારે તમે ચોક્કસ એન્જિનિયરિંગનો ઉપયોગ કરવાને બદલે મોડેલને નિયંત્રિત કરવા માટે નેચરલ લેંગ્વેજ (કુદરતી ભાષા) નો ઉપયોગ કરો છો. આનાથી ત્રણ મોટી સમસ્યાઓ ઊભી થાય છે:
- ઇટરેશન (Iteration) ધીમું પડી જાય છે. તમે એક ભૂલ સુધારવા માટે વધુ ટેક્સ્ટ ઉમેરો છો, પરંતુ તે ટેક્સ્ટ બીજી કોઈ વસ્તુ બગાડી નાખે છે. ટૂંક સમયમાં, તમારો પ્રોમ્પ્ટ પુનરાવર્તિત સૂચનાઓનો ગૂંચવણભર્યો માળખું બની જાય છે.
- તમારી ટીમ નિયંત્રણ ગુમાવે છે. મોટા અક્ષરોમાં ચેતવણીઓ (all-caps warnings) અને એજ કેસીસ (edge cases) થી ભરેલો પ્રોમ્પ્ટ સાથીદાર માટે વાંચવો કે મેનેજ કરવો અશક્ય હોય છે.
- તમે એક જ મોડેલમાં ફસાઈ જાઓ છો. એક મોડેલ માટે ટ્યુન કરેલ પ્રોમ્પ્ટ ઘણીવાર નવા અને વધુ સારા વર્ઝનમાં નિષ્ફળ જાય છે. ટીમો જૂના અને મોંઘા મોડેલ્સ પર જ અટકી રહે છે કારણ કે તેમને તેમની સિસ્ટમ બગડવાનો ડર હોય છે.
આવું એટલા માટે થાય છે કારણ કે તમે 'વેઇટ્સ' (weights) સાથે લડી રહ્યા છો. જ્યારે મોડેલ તમારી સૂચનાનો વિરોધ કરે છે, ત્યારે તમે તેને ફરીથી દોહરાવો છો. દરેક પુનરાવર્તિત અથવા ભાર મૂકેલી સૂચના એ 'સ્કાર ટિશ્યુ' (scar tissue) સમાન છે. તે દર્શાવે છે કે મોડેલનું ટ્રેનિંગ તમારા ઈરાદા સામે લડી રહ્યું છે.
એન્જિનિયરિંગ માટે નેચરલ લેંગ્વેજ ખૂબ જ અસ્પષ્ટ છે. શબ્દોમાં નાના ફેરફારો મોડેલના વર્તનને બદલી શકે છે. પ્રોમ્પ્ટમાં અસંબંધિત તથ્યો પણ મોડેલ કેવી રીતે પ્રતિસાદ આપે છે તે બદલી શકે છે.
તમે આને કેવી રીતે ઠીક કરશો?
તમારે હાથથી પ્રોમ્પ્ટ લખવાનું બંધ કરવું જોઈએ અને માપદંડો (measurements) સાથે વર્તનને સ્પષ્ટ કરવાનું શરૂ કરવું જોઈએ.
- પ્રોમ્પ્ટ એ એક ફકરો છે જે તમે આશા રાખો છો કે મોડેલ તેનું પાલન કરશે.
- મેટ્રિક (metric) એ એક કરાર છે જે મોડેલે સંતોષવો જ જોઈએ.
એન્જિનિયરિંગનું ભવિષ્ય "પ્રોમ્પ્ટિંગ" થી "પ્રોગ્રામિંગ" તરફ આગળ વધી રહ્યું છે. DSPy અને GEPA જેવા સાધનો તમને લક્ષ્ય (goal) અને મેટ્રિક વ્યાખ્યાયિત કરવાની મંજૂરી આપે છે. ત્યારબાદ સિસ્ટમ તે લક્ષ્યને પ્રાપ્ત કરવા માટે શ્રેષ્ઠ પ્રોમ્પ્ટ શોધે છે.
આ પ્રોમ્પ્ટિંગને એક 'કમ્પાઈલ્ડ આર્ટિફેક્ટ' (compiled artifact) માં ફેરવે છે. જો નવું, સસ્તું મોડેલ આવે, તો તમારે ગભરાવાની જરૂર નથી. તમે ફક્ત નવા મોડેલ સામે તમારા મેટ્રિક્સ ચલાવો છો અને પ્રોમ્પ્ટ ફરીથી જનરેટ કરો છો.
જેમ એન્જિનિયરો એસેમ્બલી લેંગ્વેજથી કમ્પાઈલર્સ તરફ આગળ વધ્યા, તેમ AI એન્જિનિયરોએ સ્ટ્રિંગ્સના હેન્ડ-ટ્યુનિંગથી મેટ્રિક્સના ઓપ્ટિમાઇઝેશન તરફ આગળ વધવું જોઈએ.
જાદુઈ શબ્દોથી મોડેલને મનાવવાનું બંધ કરો. માપી શકાય તેવા સ્પષ્ટીકરણો (measurable specifications) સાથે નિર્માણ કરવાનું શરૂ કરો.
Optional learning community: https://t.me/GyaanSetuAi