סוכני AI: זיכרון מול ידע
לרוב סוכני ה-AI יש רק זיכרון. זיכרון פירושו שהם זוכרים את השם שלך או את ההעדפות שלך. זה לא מספיק.
כדי להוסיף ערך אמיתי, סוכן זקוק לידע.
זיכרון הוא "ראיתי את זה". ידע הוא "אני יכול להשתמש בזה".
רוב המסגרות (frameworks) משתמשות ב-context caching. הן שומרות יומני צ'אט או זוגות פשוטים של מפתח-ערך (key-value pairs). זה לא בסיס ידע. סוכן עם זיכרון בלבד אינו יכול ללמוד מאתר אינטרנט, מסרטון או מספר טכני. חסרה לו שכבת איסוף (collection layer).
בנה את הסוכן שלך עם שלוש השכבות הללו:
- שכבת איסוף (Collection Layer): שואבת נתונים מדפי אינטרנט, סרטונים, מסמכים וספרים.
- שכבת ניתוח (Analysis Layer): משתמשת ב-AI כדי לסכם, לחלץ מילות מפתח ולאמת עובדות.
- שכבת אחסון (Storage Layer): מארגנת את הנתונים בשלוש רמות.
שלוש רמות האחסון עובדות כך:
- רמת Hot (Hermes Memory Tool): משתמשת במהירות של ננו-שניות לשליפה מדויקת של מפתח-ערך.
- רמת Warm (Hindsight Vector DB): משתמשת במהירות של מילי-שניות לצורך דמיון סמנטי.
- רמת Cold (gbrain Knowledge Graph): משתמשת במהירות של שניות לצורך הסקה מורכבת וקישורים.
כשאתה מבצע חיפוש, המערכת עוקבת אחר נתיב גיבוי (fallback path). היא מתחילה ב-FTS5. אם זה נכשל, היא עוברת ל-Hindsight. אם גם זה נכשל, היא עוברת ל-gbrain. זה חוסך לך טוקנים של LLM על ידי עצירה ברגע שנמצאה התאמה.
דוגמה לתהליך עבודה עבור סרטון:
- הורדת סרטון באמצעות yt-dlp.
- המרת דיבור לטקסט באמצעות Whisper.
- חילוץ טקסט מפריימים באמצעות OCR.
- שימוש ב-LLM ליצירת סיכום מובנה.
- שמירה בגרף הידע.
פקודה אחת יכולה להפעיל את כל השרשרת הזו.
הפסק לבנות סוכנים שרק זוכרים מה אמרת. בנה סוכנים שסופגים מידע מהעולם. כאשר סוכן מחבר נתונים חדשים מהרשת לידע הקיים שלך, הוא מתחיל להבין באמת.
מקור: https://dev.to/manoir_yantai_f22f01340f0/ai-dai-li-de-ji-yi-kun-jing-cong-ji-zhu-dao-zhi-dao--2g9n
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi