بخش سخت عاملهای هوش مصنوعی انجام دادن نیست، بلکه برنامهریزی است
ساخت یک عامل هوش مصنوعی که وظایف را انجام دهد آسان است. اما ساخت عاملی که آنها را به درستی برنامهریزی کند، دشوار است.
من یک CLI ساختهام که در آن یک جمله تایپ میکنید و یک LLM روی حسابهای واقعی شما عملیات انجام میدهد. من از دو حالت استفاده میکنم: حالت مستقیم (Direct mode) و حالت برنامهریزی (Plan mode).
حالت مستقیم برای سرعت است. حالت برنامهریزی برای امنیت است. در حالت برنامهریزی، عامل قبل از دست زدن به دادههای شما، هر مرحله را به شما نشان میدهد.
در اینجا نحوه ساخت یک برنامهریز قابل اعتماد را توضیح میدهم:
• Split the brain یک عامل نمیتواند همزمان هم برنامهریزی و هم اجرا را انجام دهد. یک عامل برنامهریز میخواهد فکر کند، در حالی که یک عامل اجراکننده میخواهد عمل کند. من آنها را به دو عامل مختلف با دو سیستم پرامپت (system prompt) متفاوت تقسیم کردم. این کار مانع از درگیری آنها با یکدیگر میشود.
• Give the agent eyes برنامهریزی که حدس میزند، خطرناک است. نسخه اول من برنامهها را بر اساس فرضیات میساخت. اما اکنون، برنامهریز از ابزارهای فقط-خواندنی (read-only) استفاده میکند تا ابتدا دادههای شما را بررسی کند. او قبل از نوشتن حتی یک مرحله، فیلدهای واقعی Salesforce شما را بررسی میکند.
• Prefill the answers عاملها اغلب سوالات بدی میپرسند. اگر سوالات زیادی بپرسند، در نهایت شما مجبور میشوید کار را برای آنها انجام دهید. من این را تغییر دادم. برنامهریز همچنان سوال میپرسد، اما یک پاسخ پیشنهادی هم ارائه میدهد. شما فقط آن را تایید یا اصلاح میکنید. این کار باعث میشود برنامه بدون نیاز به ورود دستی دادهها، دقیق باقی بماند.
• Pass the