Kupanda kwa Uhandisi wa Agentic: Deni la Prompt
Kuandika prompt kwa Kiingereza cha kawaida kunahisi kama uchawi. Unachapa unachotaka, na mfano (prototype) unatokea. Lakini kwa mifumo ya muda mrefu, uchawi huu unakuwa mtego.
Inawezekana unajikusanyia deni la prompt.
Deni la prompt hutokea unapotumia lugha ya asili kudhibiti modeli badala ya kutumia uhandisi sahihi. Hii inasababisha matatizo makubwa matatu:
- Mzunguko wa marekebisho (iteration) unachelewa. Unaongeza maandishi zaidi ili kurekebisha hitilafu moja, lakini maandishi hayo yanaharibu kitu kingine. Punde si punde, prompt yako inakuwa mchanganyiko wa maelekezo yanayojirudia.
- Timu yako inapoteza udhibiti. Prompt iliyojaa maonyo ya herufi kubwa na hali zisizotarajiwa (edge cases) haiwezekani kwa mfanyakazi mwenzako kuisoma au kuidhibiti.
- Unajifunga kwenye modeli moja. Prompt iliyorekebishwa kwa ajili ya modeli moja mara nyingi hushindwa kwenye toleo jipya na bora zaidi. Timu hukwama kwenye modeli za zamani na ghali kwa sababu zinaogopa kuharibu mfumo wao.
Hii hutokea kwa sababu unapambana na uzito (weights). Modeli inapopinga maelekezo yako, unayajirudia. Kila maelekezo yanayojirudia au yaliyosisitizwa ni tishu ya kovu (scar tissue). Inaonyesha mahali mafunzo ya modeli yanapopingana na nia yako.
Lugha ya asili haina usahihi wa kutosha kwa uhandisi. Mabadiliko madogo katika maneno yanaweza kubadilisha tabia ya modeli. Hata ukweli usiohusiana kwenye prompt unaweza kubadilisha jinsi modeli inavyojibu.
Unalitatua vipi hili?
Lazima uache kuandika prompt kwa mkono na uanze kubainisha tabia kwa vipimo.
- Prompt ni aya unayotumai modeli itafuata.
- Kipimo (metric) ni mkataba ambao modeli lazima itimize.
Mustakabali wa uhandisi unahamia kutoka "prompting" kwenda "programming." Zana kama DSPy na GEPA zinakuwezesha kuainisha lengo na kipimo. Kisha mfumo unatafuta prompt bora zaidi ya kufikia lengo hilo.
Hii inageuza prompting kuwa artifact iliyochanganuliwa (compiled artifact). Ikiwa modeli mpya na rahisi zaidi itakuja, usipaniki. Unafanya tu vipimo vyako dhidi ya modeli mpya na kutengeneza upya prompt.
Kama vile wahandisi walivyohamia kutoka lugha ya assembly kwenda kwa compilers, wahandisi wa AI lazima wahame kutoka kurekebisha strings kwa mkono kwenda kuboresha vipimo (metrics).
Acha kuivuta modeli kwa maneno ya uchawi. Anza kujenga kwa maelezo yanayoweza kupimika.
Optional learning community: https://t.me/GyaanSetuAi