واقعاً عامل هوش مصنوعی برای چه کسی است؟
اصطلاح «عامل هوش مصنوعی» (AI agent) برای افراد مختلف معانی متفاوتی دارد. رابطه شما با یک عامل به نقش شما بستگی دارد. شکاف بین این نقشها باعث بروز مشکلات بزرگی در کسبوکار میشود.
محصولات برای افراد اشتباهی ساخته میشوند. هیئتمدیرهها انتظاراتی دارند که مهندسان نمیتوانند برآورده کنند. کاربران ابزارهایی دریافت میکنند که درکشان نمیکنند.
در اینجا نحوه نگاه نقشهای مختلف به عاملهای هوش مصنوعی آمده است:
کاربر معمولی آنها میخواهند ابزار مانند یک کلید برق کار کند. آنها اهمیتی به مدلها یا حافظه نمیدهند. آنها فقط میخواهند کار در اولین تلاش انجام شود. ترس اصلی آنها این است که عامل کاری را انجام دهد که از او خواسته نشده است.
علاقهمند به تغییرات و آزمون آنها از پرامپتهای سفارشی و ابزارهای اتوماسیون استفاده میکنند. آنها سیستمهایی میسازند که در یک محیط کنترلشده بهطور کامل کار میکنند. آنها زمانی دچار مشکل میشوند که عاملها پاسخهای مطمئن اما غلط میدهند یا زمانی که تغییر در یک API جریان کاری آنها را مختل میکند.
مدیر اجرایی تمرکز آنها بر دستاوردهایی است که عاملها ایجاد میکنند، مانند سرعت بیشتر در کار یا کاهش هزینهها. آنها اغلب پیش از آنکه بدانند آیا فناوری واقعاً کار میکند یا خیر، به سرمایهگذاران وعده میدهند. این امر باعث ایجاد فشار بر تمام تیمهای فنی در مراحل بعدی میشود.
مهندس QA آنها به بازتولیدپذیری و تعاریف روشن از «درست بودن» نیاز دارند. عاملها این کار را دشوار میکنند. خروجی هر بار تغییر میکند و شکستها اغلب آنقدر ظریف هستند که با تستهای سنتی قابل شناسایی نیستند.
تیم IT آنها مسئولیت استقرار (deployment) را بر عهده میگیرند. آنها با مسائلی مانند «تخریب تصادفی» (stochastic degradation) روبرو هستند که در آن مدل بدون هیچ کد خطای مشخصی، عملکرد ضعیفی از خود نشان میدهد. آنها به مستنداتی نیاز دارند که هنوز وجود ندارند.
مدیر پایگاه داده (DBA) آنها دادههایی را که به عامل تغذیه میشوند، مدیریت میکنند. آنها با مشکلات جدیدی مانند مدیریت ذخیرهسازهای برداری (vector stores) و ردیابی میزان قدیمی بودن شاخص بازیابی (retrieval index) روبرو هستند. آنها اغلب خطاهای دادهای را قبل از هر کس دیگری پیدا میکنند.
توسعهدهنده آنها باید هم مهندس و هم نویسنده پرامپت باشند. عیبیابی (Debugging) سختترین بخش است. برای یک پاسخ اشتباه از مدل، هیچ
stack traceای وجود ندارد. رفع یک مشکل ممکن است سه مشکل جدید ایجاد کند.معمار سیستم آنها عامل را به عنوان سیستمی از مرزها و وابستگیها میبینند. آنها باید تصمیم بگیرند که اجزا چگونه با یکدیگر ارتباط برقرار کنند تا از شکست کامل سیستم جلوگیری شود.
فناوری مشکل اصلی نیست. مشکل، شکاف بین این افراد است. همه آنها از یک ابزار واحد استفاده میکنند، اما درباره اینکه این ابزار باید چه کاری انجام دهد یا در صورت بروز خطا، مسئولیت آن با کیست، با یکدیگر گفتگو نمیکنند.
منبع: https://dev.to/scythe2/who-is-an-ai-agent-actually-for-a-user-type-field-guide-5760
جامعه یادگیری اختیاری: https://t.me/GyaanSetuAi