Kutenga Barua Pepe za LLM katika Mitiririko ya Kazi ya Otomatiki
Wakati wakala wa LLM anapoanza kutuma barua pepe au kuidhinisha tiketi, tatizo linabadilika. Sasa si kuhusu kama prompt yako inafanya kazi. Sasa, mfumo wako unategemea tabaka tatu: uamuzi, utekelezaji, na uhakiki.
Ukichanganya tabaka hizi, timu yako itapata shida kuelewa kile ambacho wakala alifanya hasa.
Hatua ya barua pepe mara nyingi huonekana kama mwisho wa mtiririko wa kazi (workflow). Kiuhalisia, ndipo makosa yanapoonekana kwanza. Wakala anaweza kuainisha ombi kwa usahihi lakini akalituma kwa mtu asiyefaa au akatumia kiungo kilichopitwa na wakati. Lazima utenge majaribio (tests) na ufuatiliaji (traces).
Muundo thabiti haujaribu kujaribu akili yote kwa mara moja. Badala yake, gawanya mfumo wako katika mikataba midogo:
- Mkataba wa Ingizo (Input Contract): Bainisha data ambayo wakala anatumia na ni hatua gani anaweza kuomba.
- Mkataba wa Utekelezaji (Execution Contract): Bainisha jinsi hatua inavyokuwa barua pepe mahususi.
- Mkataba wa Uangalizi (Observability Contract): Unganisha logi, ujumbe uliopokelewa, na hali ya mwisho ya mfumo.
Weka mantiki ya barua pepe nje ya prompt huru. LLM inaweza kupendekeza hatua kama "send_followup_email". Hata hivyo, modeli haipaswi kuamua vichwa vya habari (headers), wapokeaji, au sera za kujaribu tena (retry policies). Tumia kodi ya kiamu (deterministic code) kwa tafsiri hizi.
Mtazamo huu unapunguza hatari za kiutendaji. LLM inapendekeza, mfumo unathibitisha, na mtekelezaji anatuma.
Ili kudumisha uoni wa wazi, fuatilia ishara hizi nne:
- Uamuzi uliofanywa na wakala na muktadha uliotumika.
- Amri ya mwisho iliyotumwa kwa mtekelezaji wa barua pepe.
- Ujumbe uliopokelewa katika sanduku la barua pepe lililotengwa.
- Athari ya mwisho baada ya kubofya kiungo au kuthibitisha hatua.
Tumia trace_id inayoshirikiwa kuanzia tukio la awali hadi bofyo la mwisho. Hii inakusaidia kupata makosa haraka. Utajua kama hitilafu ilitokea kwenye modeli, sera ya zana (tool policy), au mfanyakazi (worker).
Fuata orodha hii ya ukaguzi (checklist) kwa otomatiki bora:
- Kila utekelezaji una
trace_idyake. - LLM inaomba hatua tu ndani ya schema halali.
- Mtekelezaji wa barua pepe unathibitisha tena mpokeaji na kiolezo (template).
- Kila mazingira ya jaribio yanatumia sanduku lake la barua pepe lililotengwa.
- Bofyo la mwisho linathibitisha mabadiliko ya hali yanayotarajiwa.
- Logi zinakuwezesha kufuatilia kesi bila kukisia.
Kutenganisha hatua hizi kunaongeza kazi kidogo. Lakini inakupa kitu cha thamani: uwezo wa kueleza kwa nini barua pepe ilitumwa au kwa nini ilifeli.
Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi