𝗢𝗽𝗲𝗻-𝗦𝗼𝘂𝗿𝗰𝗲 𝗟𝗟𝗠 𝗔𝗴𝗲𝗻𝘁𝘀 𝗮𝗻𝗱 𝗟𝗼𝗰𝗮𝗹 𝗔𝗜 𝗖𝗼𝗽𝗶𝗹𝗼𝘁𝘀

اکنون می‌توانید سیستم‌های پیچیده هوش مصنوعی را روی سخت‌افزار خودتان بسازید. هوش مصنوعی محلی از چت‌های ساده فراتر رفته است. ابزارهای متن‌باز جدید به شما اجازه می‌دهند بدون نیاز به APIهای گران‌قیمت ابری، عامل‌ها (agents) و سیستم‌های تحلیلی را اجرا کنید.

در اینجا سه به‌روزرسانی مهم در حوزه هوش مصنوعی محلی آورده شده است:

  • ByteDance DeerFlow این یک فریم‌ورک برای ساخت عامل‌های خودمختار است. این ابزار از محیط‌های ایزوله (sandboxes)، حافظه‌ها و زیر-عامل‌ها (subagents) برای مدیریت وظایف طولانی مانند تحقیق و کدنویسی استفاده می‌کند. این فریم‌ورک ساختار لازم برای اجرای جریان‌های کاری پیچیده عامل‌ها را با استفاده از مدل‌های محلی روی GPU خودتان فراهم می‌کند.

  • Self-Hosted Stock Analysis این پروژه گیت‌هاب از LLMها برای تحلیل سهام در بازارهای مختلف استفاده می‌کند. این پروژه اخبار لحظه‌ای و داده‌های بازار را برای ایجاد یک داشبورد تصمیم‌گیری استخراج می‌کند. از آنجایی که این پروژه خود-میزبان (self-hosted) است، می‌توانید با استفاده از استنتاج (inference) محلی و کوانتیزاسیون (quantization)، آن را به صورت رایگان اجرا کنید. این پروژه الگویی برای استفاده از مدل‌های متن‌باز با داده‌های مالی است.

  • Real-Time Desktop AI Copilots ساخت یک دستیار هوش مصنوعی (AI copilot) برای تماس‌های زنده دشوار است. توسعه‌دهندگان در حال حل مشکلات تأخیر (latency) هستند که برای تبدیل گفتار به متن در لحظه و پردازش LLM ضروری است. این کار شامل بهینه‌سازی بارگذاری مدل و استفاده از موتورهای استنتاج کارآمد است تا اطمینان حاصل شود که هوش مصنوعی روی سیستم‌های دسکتاپ معمولی به سرعت پاسخ می‌دهد.

این ابزارها نشان می‌دهند که برای ساخت هوش مصنوعی پیشرفته، نیازی به بودجه‌های کلان ابری ندارید. شما فقط به فریم‌ورک‌های متن‌باز مناسب و مدل‌های محلی بهینه‌سازی شده نیاز دارید.

منبع: https://dev.to/soytuber/open-source-llm-agents-local-ai-copilots-deerflow-stock-analysis-desktop-inference-508f

انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi