GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

My Agent Orchestrator Blew $1-2 M Worth of Opus Tokens Per Task

The orchestrator’s sub-agents inherited the parent’s settings, defaulted to the pricey Opus tier, rewrote the cache each call and ran endless loops until a reviewer approved, inflating a simple job into a multi-million-token expense.

AI · 2 min read

הארכת מרווחי ה-Polls של Neon ל-15 דקות הפחיתה משמעותית את עלויות המחשוב

על ידי הגדלת מרווח הרענון בצד הלקוח מ-30 שניות ל-15 דקות, מסד הנתונים של Neon יכול היה להישאר במצב idle מספיק זמן כדי לבצע scale to zero, ובכך לבטל את חיוב המחשוב לפי שנייה שגרם בעבר לזינוק בלוח הבקרה של עלויות Vercel.

AI · 2 min read

פרצת GhostApproval מאפשרת לעוזרי תכנות מבוססי AI לדרוס את מפתחות ה-SSH שלך

Wiz Research מצאה שקישור סימבולי (symlink) זדוני של project_settings.json יכול להטעות שישה כלי תכנות AI מרכזיים ולגרום להם לכתוב ישירות לתוך ~/.ssh/id_rsa, כאשר דיאלוג האישור מציג רק את שם הקישור הסימבולי ולא את נתיב הקובץ האמיתי.

AI · 3 min read

Claude Tiering Cuts API Spend 35% and Slashes Latency to 27 s

The author built a static lookup that maps tasks by ambiguity to Haiku, Sonnet or Opus, and added a two-failure escalation rule. Over four weeks the system kept quality while driving API spend to 65% of the original and cutting median turnaround from 42 s to 27 s.

AI · 3 min read

FaceHugger RCE עוקף את מנגנון ה-Trust Gate של Diffusers ומאפשר הרצת קוד בעת טעינת המודל

באג ה-FaceHugger מנצל תנאי מרוץ (race condition) בשלבי טעינה דו-שלביים, המאפשר לקוד זדוני שהוזרק בבקשה השנייה לרוץ גם כאשר `trust_remote_code` כבוי, ובכך מסכן משימות CI/CD, קונטיינרים ושירותי inference ארגוניים.

AI · 2 min read

הריצו 5 מודלי LLM חדשים לכתיבת קוד על מחשב נייד משנת 2026 עם רק 16 GB RAM

כל חמשת המודלים רצים על סביבות ריצה קלות כמו Ollama, LM Studio או llama.cpp, וכל אחד מהם מציע התמחות ייחודית — השלמה אוטומטית, ניפוי שגיאות עמוק, בניית מבנה JSON, צריכת זיכרון נמוכה במיוחד או תיעוד רב-לשוני — כך שתוכלו לשלב בין כלים שונים מבלי לעזוב את המחשב הנייד שלכם.

AI · 3 min read

OpenAI מפרסמת שרשורי iMessage של אפל כדי להטיל אשמה על כשלים בבקרת הגישה

OpenAI שחררה צילומי מסך מ-iMessage המראים כי מהנדסי אפל פנו שוב ושוב לעובד לשעבר, צ'אנג ליואו, בבקשה לקבלת שרטוטים שבועות לאחר עזיבתו ב-22 בינואר; צעד זה מציג את המחלוקת ככישלון של בקרת הגישה הפנימית של אפל ולא כתוצאה משיטות הגיוס של OpenAI.

AI · 3 min read

MiniMax Open Sourced a Video Model with A Catch

MiniMax Open Sourced a Video Model with A Catch MiniMax released the H3 video model as open weight. Most news outlets focus on that part. They miss the most important detail. The…

AI · 3 min read

TensorSharp Lets .NET Teams Drop Python and Embed LLM Inference Natively

TensorSharp is a pure-C# inference engine that runs GGUF models on Windows, macOS and Linux, supporting CPU, CUDA, MLX, Metal and Vulkan. Benchmarks show it often beats llama.cpp on prefill latency while keeping decode speed competitive, letting .NET services embed AI without a Python sidecar.

AI · 2 min read