𝗨𝗵𝗮𝗻𝗱𝗶𝘀𝗶 𝘄𝗮 𝗠𝘂𝗸𝘁𝗮𝘁𝗵𝗮 𝗸𝘄𝗮 𝗪𝗮𝗵𝗮𝗻𝗱𝗶𝘀𝗶 𝘄𝗮 𝗣𝗿𝗼𝗺𝗽𝘁

Watu wanasema uhandisi wa prompt umekufa. Wanasema uhandisi wa muktadha umeuchukua nafasi. Hii si kweli.

Uhandisi wa prompt ni sehemu tu ya uhandisi wa muktadha. Prompting ni kile unachosema. Uhandisi wa muktadha ni kila kitu ambacho modeli inaona. Hii inajumuisha system prompts, maelezo ya zana (tool definitions), nyaraka zilizopatikana (retrieved documents), na kumbukumbu (memory).

Prompt yako ni kipande kimoja tu cha fumbo kubwa zaidi. Eneo la kazi limekuwa kubwa zaidi.

Usijaribu kutumia madirisha makubwa ya muktadha (context windows) kutatua kila kitu. Dirisha la tokeni milioni halimaanishi kuwa kuna tokeni milioni za usikivu wenye manufaa. Kuongeza ingizo (input) kunaweza hata kufanya modeli zifanye kazi vibaya zaidi.

Lazima uangalie matatizo makuu mawili:

• Kupotea katikati (Lost in the middle): Modeli huzingatia zaidi mwanzo na mwisho wa prompt. Zinapata shida wakati data muhimu inapokuwa katikati. • Kuoza kwa muktadha (Context rot): Uwezo wa kufikiri na kukumbuka hupungua kadiri urefu wa ingizo unavyoongezeka. Hata kazi rahisi zinakuwa ngumu kwa modeli wakati dirisha linapokuwa limejaa.

Lengo ni kupata seti ndogo zaidi ya tokeni zenye ishara nyingi (high-signal tokens) zinazoweza kukamilisha kazi. Chukulia dirisha lako la muktadha kama bajeti.

Tumia mifumo hii sita kudhibiti bajeti yako:

• Upangaji wa bajeti ya usikivu (Attention budgeting): Ondoa maandishi yote ya ziada na yasiyo ya lazima. Tumia maudhui yenye ishara nyingi pekee. • Mpangilio wa upatikanaji (Retrieval placement): Weka data muhimu mwanzoni au mwishoni. Epuka kuweka taarifa muhimu katikati. • Uundaji wa matokeo ya zana (Tool-result formatting): Rudisha data iliyofupishwa. Usiweke vitu vikubwa vya API (API objects) moja kwa moja kwenye dirisha. • Usanifu wa schema (Schema design): Tumia matokeo yaliyopangwa (structured outputs). Weka viwango vya uingizaji (nesting levels) chini ili kuzuia makosa. • Utenganishaji wa system vs. turn: Weka sheria za msingi kwenye system prompt. Weka data mahususi kwenye user turns. • Kumbukumbu na ufupishaji (Memory and compaction): Hifadhi hali (state) nje ya dirisha. Fupisha data za zamani ili kuendeleza mada.

Uhandisi wa muktadha si RAG pekee. Ni kuhusu mpangilio na kiasi. Ikiwa tayari unafanya prompt vizuri, hauuanzi upya mchakato. Unajifunza kudhibiti bajeti ambayo prompt yako inatumia.

Chanzo: https://dev.to/anoopk/context-engineering-for-people-who-already-know-how-to-prompt-2pj1

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi