এজেন্টিক ইঞ্জিনিয়ারিংয়ের উত্থান: প্রম্পট ডেট (Prompt Debt)
সাধারণ ইংরেজিতে প্রম্পট লেখা অনেকটা জাদুর মতো মনে হয়। আপনি যা চান তা টাইপ করেন এবং একটি প্রোটোটাইপ তৈরি হয়ে যায়। কিন্তু দীর্ঘমেয়াদী সিস্টেমের ক্ষেত্রে, এই জাদু একটি ফাঁদে পরিণত হয়।
আপনি সম্ভবত প্রম্পট ডেট (prompt debt) সঞ্চয় করছেন।
প্রম্পট ডেট তখনই ঘটে যখন আপনি সুনির্দিষ্ট ইঞ্জিনিয়ারিংয়ের পরিবর্তে একটি মডেলকে নিয়ন্ত্রণ করতে প্রাকৃতিক ভাষা (natural language) ব্যবহার করেন। এটি তিনটি বিশাল সমস্যা তৈরি করে:
- ইটারেশন (Iteration) ধীর হয়ে যায়। একটি ত্রুটি ঠিক করতে আপনি আরও টেক্সট যোগ করেন, কিন্তু সেই টেক্সটটি অন্য কিছু নষ্ট করে দেয়। শীঘ্রই, আপনার প্রম্পটটি পুনরাবৃত্তিমূলক নির্দেশনার একটি বিশৃঙ্খলায় পরিণত হয়।
- আপনার টিম নিয়ন্ত্রণ হারিয়ে ফেলে। বড় হাতের অক্ষরে লেখা সতর্কতা (all-caps warnings) এবং এজ কেস (edge cases) দিয়ে ভরা একটি প্রম্পট কোনো সহকর্মীর পক্ষে পড়া বা পরিচালনা করা অসম্ভব হয়ে পড়ে।
- আপনি একটি নির্দিষ্ট মডেলে আটকে যান। একটি মডেলের জন্য টিউন করা প্রম্পট প্রায়শই নতুন এবং উন্নত সংস্করণে ব্যর্থ হয়। টিমগুলো পুরনো এবং ব্যয়বহুল মডেলে আটকে থাকে কারণ তারা তাদের সিস্টেম নষ্ট হওয়ার ভয় পায়।
এটি ঘটে কারণ আপনি মডেলের ওয়েটসের (weights) বিরুদ্ধে লড়াই করছেন। যখন একটি মডেল আপনার নির্দেশ মেনে নিতে বাধা দেয়, আপনি সেটি বারবার বলেন। প্রতিটি পুনরাবৃত্ত বা জোর দেওয়া নির্দেশ হলো এক ধরণের স্কার টিস্যু (scar tissue)। এটি নির্দেশ করে যে মডেলের ট্রেনিং আপনার উদ্দেশ্যের বিরুদ্ধে কাজ করছে।
ইঞ্জিনিয়ারিংয়ের জন্য প্রাকৃতিক ভাষা অত্যন্ত অস্পষ্ট। শব্দচয়নে সামান্য পরিবর্তন একটি মডেলের আচরণ বদলে দিতে পারে। এমনকি প্রম্পটে থাকা অপ্রাসঙ্গিক তথ্যও একটি মডেলের প্রতিক্রিয়া পরিবর্তন করতে পারে।
আপনি এটি কীভাবে সমাধান করবেন?
আপনাকে হাতে লিখে প্রম্পট লেখা বন্ধ করতে হবে এবং পরিমাপের (measurements) মাধ্যমে আচরণ নির্দিষ্ট করা শুরু করতে হবে।
- একটি প্রম্পট হলো একটি অনুচ্ছেদ যা আপনি আশা করেন মডেলটি অনুসরণ করবে।
- একটি মেট্রিক (metric) হলো একটি চুক্তি যা মডেলটিকে অবশ্যই পূরণ করতে হবে।
ইঞ্জিনিয়ারিংয়ের ভবিষ্যৎ "প্রম্পটিং" থেকে "প্রোগ্রামিং"-এর দিকে এগিয়ে যাচ্ছে। DSPy এবং GEPA-এর মতো টুলগুলো আপনাকে একটি লক্ষ্য এবং একটি মেট্রিক সংজ্ঞায়িত করতে দেয়। সিস্টেমটি তখন সেই লক্ষ্য পূরণের জন্য সেরা প্রম্পটটি খুঁজে বের করে।
এটি প্রম্পটিংকে একটি কম্পাইল্ড আর্টিফ্যাক্টে (compiled artifact) পরিণত করে। যদি একটি নতুন, সস্তা মডেল আসে, তবে আপনি আতঙ্কিত হবেন না। আপনি কেবল নতুন মডেলটির বিপরীতে আপনার মেট্রিকগুলো চালাবেন এবং প্রম্পটটি পুনরায় তৈরি করবেন।
প্রকৌশলীরা যেভাবে অ্যাসেম্বলি ল্যাঙ্গুয়েজ থেকে কম্পাইলারে চলে এসেছেন, এআই ইঞ্জিনিয়ারদেরও একইভাবে স্ট্রিং হ্যান্ড-টিউন করা থেকে মেট্রিক অপ্টিমাইজ করার দিকে এগিয়ে যেতে হবে।
জাদুকরী শব্দ দিয়ে মডেলকে প্ররোচিত করা বন্ধ করুন। পরিমাপযোগ্য স্পেসিফিকেশন দিয়ে তৈরি করা শুরু করুন।
Optional learning community: https://t.me/GyaanSetuAi