GyaanSetu AI

AI, machine learning and LLM insights.

1317 articlesDeep, practical knowledge

Nemotron 3.5 Lightning-ന്റെ Switchyard Router ഇൻഫറൻസ് ചെലവ് ഇരട്ടിയാക്കിയേക്കാം

Nvidia-യുടെ പുതിയ Nemotron 3.5 Lightning, 30 B MoE മോഡൽ വെറും 3 B ആക്ടീവ് പാരാമീറ്ററുകൾ ഉപയോഗിച്ച് പ്രവർത്തിപ്പിക്കുന്നു. എന്നാൽ മോഡലുകൾ മാറ്റുന്ന സമയത്ത് ഇതിന്റെ NeMo Switchyard റൂട്ടിംഗ് ലെയറിന് കാഷഡ് പ്രോംപ്റ്റുകൾ (cached prompts) ഒഴിവാക്കാൻ സാധിക്കുന്നത് ഒരു ഇൻഫറൻസ് റിക്വസ്റ്റിന്റെ ചെലവ് ഫലപ്രദമായി ഇരട്ടിയാക്കാൻ കാരണമായേക്കാം.

AI · 3 min read

On-Device AI Gets a Boost as Muse Glimmer Lets Hobbyists Run 30B Model Locally

Muse Glimmer’s 30-billion-parameter model is quantized to about 17 GB, fitting on GPUs with 24 GB VRAM or Apple Silicon Macs via the llama.cpp runtime. While it shines for on-device agents, its safety tests show higher violation rates than rivals, so developers should add extra safeguards.

AI · 4 min read

EU Makes AI Software a Product, Slaps Strict Liability on Developers by Dec 2026

The revised Directive (EU) 2024/2853 defines any software—downloaded, embedded or cloud-based—as a product, imposing strict liability on manufacturers, importers, component providers and even fine-tuners. Companies must audit code, document training data and update insurance before the Dec 9 2026 de

AI · 3 min read

ഡാറ്റാബേസ് പാസ്‌വേഡുകൾ വെളിപ്പെടുത്താതെ തന്നെ Workers-ന് pgvector ഉപയോഗിക്കാൻ Hyperdrive അനുവദിക്കുന്നു

Workers-നും PostgreSQL-നും ഇടയിൽ പ്രവർത്തിക്കുന്ന Hyperdrive, എഡ്ജിൽ നിലവിലുള്ള കണക്ഷനുകൾ വീണ്ടും ഉപയോഗിക്കുന്നു. ഇതിലൂടെ ഓരോ റിക്വസ്റ്റും ചെലവേറിയ ഓതന്റിക്കേഷൻ പ്രക്രിയകൾ ഒഴിവാക്കാനും, AI അധിഷ്ഠിത വെക്റ്റർ ക്വറികളുടെ സമയം മില്ലിസെക്കൻഡുകൾ കുറയ്ക്കാനും സാധിക്കുന്നു.

AI · 3 min read

Free Beta Saves About 3% on Your Claude Agent Bills, Not 14%

The beta header compresses Claude’s tool-call output, shaving ~14% off those tokens, but because output tokens are a fraction of the total, most users see only a ~3% reduction in their overall API bill, plus a slight latency gain.

AI · 3 min read

Prompt Flow-യുടെ സുരക്ഷാ അപ്‌ഡേറ്റുകൾ 2026-ൽ അവസാനിക്കുന്നു – സ്ഥാപനങ്ങൾ കംപ്ലയൻസ് റിസ്ക് നേരിടുന്നു

2026 ഏപ്രിൽ 20 മുതൽ Prompt Flow-യ്ക്ക് പുതിയ ഫീച്ചറുകൾ ലഭിക്കുന്നത് നിർത്തലാക്കും, ഒരു വർഷത്തിന് ശേഷം ഇത് പൂർണ്ണമായും പിൻവലിക്കപ്പെടും. ഇത് അതിന്റെ റൺടൈം ഇമേജുകൾക്ക് സുരക്ഷാ പാച്ചുകൾ ഇല്ലാതാക്കും. കംപ്ലയൻസ് പ്രശ്നങ്ങൾ ഉണ്ടാകുന്നതിന് മുമ്പ് ഡെവലപ്പർമാർ Agent Framework-ലേക്ക് മാറണമെന്ന് മൈക്രോസോഫ്റ്റ് നിർദ്ദേശിക്കുന്നു.

AI · 3 min read

Amazon Auto-Enrolls Twitch Streams in AI Training—Creators Must Opt Out

Twitch’s chief product officer said an opt-in model would get zero participation, so the platform now defaults to inclusion. Creators can only escape by navigating a hidden toggle in Channel Settings, and Twitch can’t confirm whether past streams are already in Amazon’s models.

AI · 4 min read

Twitch Gives Streamers One-Click Opt-Out of Amazon AI Training

The default-on toggle lives in Twitch’s Security and Privacy tab; flipping it stops all live streams, VODs, clips, chat and uploads from feeding Amazon’s generative-AI pipelines while keeping on-platform moderation and recommendation tools active.

AI · 3 min read

Sandbar Raises $23M Series A to Build a Custom Push-to-Talk AI Ring

Sandbar’s Stream ring uses a deliberate push-to-talk button, sidestepping privacy concerns that have doomed many always-on wearables, while its fully custom hardware—backed by $36 million total funding—targets professional and social settings alike.

AI · 2 min read

From $6.6B to $13.3B: Lovable Doubles Valuation in Under a Year

The round was led by Menlo Ventures and the Scaleup Europe Fund, with Regent among a dozen other investors. Lovable hit a $500 million annualized run-rate and now runs 60 million projects on a vertically integrated AI stack.

AI · 3 min read

FastAPI 0.140-0.141 പ്ലെയിൻ ഡിക്റ്റുകൾ തിരികെ നൽകുമ്പോൾ രഹസ്യ വിവരങ്ങൾ ചോർത്തുന്നു

Pydantic-ന്റെ Secret-ന്റെ ഒരു സബ്ക്ലാസ് ഒരു റോ ഡിക്റ്റിലോ (raw dict) ലിസ്റ്റിലോ ഉൾപ്പെടുത്തുകയും, എൻഡ്പോയിന്റിൽ ഒരു റെസ്പോൺസ് മോഡൽ ഇല്ലാതിരിക്കുകയും ചെയ്യുമ്പോൾ മാത്രമാണ് ഈ ബഗ് സംഭവിക്കുന്നത്; ഇത് രഹസ്യ വിവരങ്ങൾ മാസ്ക് ചെയ്യാതെ തന്നെ ക്ലയന്റുകൾക്ക് അയക്കാൻ കാരണമാകുന്നു.

AI · 2 min read