پنجرهی کسب تخصص در هوش مصنوعی در حال بسته شدن است
مردم طوری دربارهی دموهای هوش مصنوعی و سیستمهای عملیاتی صحبت میکنند که انگار یکی هستند. اما اینطور نیست.
شکاف عظیمی بین یک دموهای پرزرقوبرق و سیستمی که در دنیای واقعی کار میکند، وجود دارد.
همه هر چیزی را «عامل» (agent) مینامند. یک چتبات با حافظه، یک عامل است. یک اسکریپت با یک حلقه، یک عامل است. این اشتباه است. این خطا منجر به مهندسی ضعیف میشود.
در نهایت، شما کارهای ساده را بیش از حد مهندسی میکنید و کارهای دشوار را کمتر از حد لازم.
تعریف واقعی این است: یک عامل (agent) یک هدف دارد. خودش مرحلهی بعدی را تصمیم میگیرد. خطاها را مدیریت میکند. میداند چه زمانی یک وظیفه تمام شده است. هر چیز دیگری صرفاً یک فراخوانی تابع (function call) است.
چگونه تفاوت را تشخیص دهیم: • اگر یک انسان مجبور باشد هر مرحله را هدایت کند، این یک رابط چت است. • اگر سیستمی از یک فراخوانی ابزارِ شکستخورده بازیابی شود، آن یک عامل است. • اگر سیستمی یک هدف را به زیروظایف تقسیم کند، یک عامل واقعی است.
تیمهای موفق فقط به دنبال مدلهای جدید نیستند. آنها بر سه مورد تمرکز میکنند:
- طراحی ابزار: رابط کاربری چقدر تمیز است؟
- مدیریت خطا: وقتی یک ابزار هیچ خروجیای ندارد چه اتفاقی میافتد؟
- مشاهدهپذیری (Observability): چرا عامل آن تصمیم را گرفت؟
فریمورکی که استفاده میکنید اهمیت کمتری نسبت به الگوهایی دارد که دنبال میکنید. LangChain یا CrewAI فقط ابزار هستند. آنچه اهمیت دارد، معماری است.
از این الگوها استفاده کنید:
- برنامهریزی و سپس اجرا: از یک مرحله برای برنامهریزی و از مرحلهای مجزا برای اقدام استفاده کنید.
- جداسازی بازیابی از استدلال: واکشی دادهها و استفاده از دادهها، دو وظیفهی متفاوت هستند.
- تحویل صریح (Explicit handoffs): وقتی یک عامل کار را به عامل دیگری میسپارد، از لاگهای ساختاریافته استفاده کنید.
RAG نیز باعث ایجاد مشکلاتی شده است. اکثر افراد در بخشبندی (chunking) شکست میخورند. اگر تکههای شما (chunks) بافت متن (context) را قطع کنند، مدل دچار توهم (hallucination) میشود. قبل از اینکه مدل را سرزنش کنید، باید بخشبندی و متادیتای خود را اصلاح کنید.
مدلها بهتر خواهند شد. توکنها ارزانتر خواهند شد. اما این چالش مهندسی را حل نمیکند.
چالش واقعی، ساختن سیستمهایی است که بتوانید به آنها اعتماد کنید. شما به حاکمیت (governance) و استفادهی قابل اعتماد از ابزار نیاز دارید.
مهندسانی که تا دو سال دیگر اهمیت خواهند داشت، مهندسان پرامپت (prompt engineers) نیستند. آنها طراحان سیستم هستند. آنها هوش مصنوعیای میسازند که دیگران بتوانند آن را نگهداری کنند.
Optional learning community: https://t.me/GyaanSetuAi