AI, machine learning and LLM insights.
२८ जुलै २०२६ पासून उपलब्ध होणारे MCP व्हर्जन २, इनिशियलाइज हँडशेक, Mcp-Session-Id हेडर आणि तीन जुन्या सबसिस्टम्स काढून टाकते, ज्यामुळे हा प्रोटोकॉल पूर्णपणे स्टेटलेस (stateless) होतो. यामुळे आता टीम्स कोणत्याही सेशन-अॅफिनिटी मर्यादांशिवाय ऑटोस्केल्ड किंवा सर्व्हरलेस पॉड्सवर काम करू शकतील.
Inferentia2 INF2.24xlarge ने CPU रेफरन्सचा अगदी तसाच टोकन स्ट्रीम पुनरुत्पादित केला, परंतु दोन्ही रनमध्ये चॅट टेम्पलेट आणि टर्न मार्कर्स नसलेला चुकीचा प्रॉम्प्ट दिला गेल्यामुळे Gemma-4 अर्थहीन मजकुराच्या अनंत लूपमध्ये अडकले. हार्डवेअरने केवळ रेफरन्स कोडमधील त्रुटीची (bug) पुनरावृत्ती केली.
मॉडेलचे नाव, टोकन संख्या, कामाचा प्रकार आणि प्रति-कॉल खर्च नोंदवणारा PostgreSQL लॉगिंग लेअर वापरून, संशोधकाला असे आढळले की कच्च्या SEC शोध निकालांमुळे प्रॉम्प्ट्सचा आकार वाढत होता. या निकालांचा सारांश तयार करून आणि साध्या तपासण्यांसाठी स्वस्त मॉडेलचा वापर केल्यामुळे ३१% बचत झाली आणि अचूकता देखील वाढली.
The loan uses SambaNova’s SN50 inference chips as collateral, a first-of-its-kind asset class that promises up to 16x faster token processing, lower power draw and simpler cooling than traditional GPU farms.
टॉर्वल्ड्स यांनी मेलिंग लिस्टला सांगितले की, नवीन 'Sashiko reviewer' सारख्या AI टूल्सना विरोध करणाऱ्या कोणालाही फक्त कर्नल फोर्क करता येईल. याद्वारे त्यांनी आपला असा दृष्टिकोन स्पष्ट केला की, तांत्रिक गुणवत्ता ही वैचारिक विरोधापेक्षा श्रेष्ठ असते.
हे रिपॉझिटरी CLI, टर्मिनल UI आणि रनटाइमसाठी Rust सोर्स कोड प्रदान करते, ज्यामुळे तुम्हाला कॉन्टेक्स्ट कसा तयार केला जातो, टूल्सचे नियोजन कसे केले जाते आणि एडिट्स कसे व्यवस्थापित केले जातात, हे तपासता येते – आणि वर्कफ्लोमध्ये कोणताही अडथळा न आणता तुम्ही मूळ मॉडेल देखील बदलू शकता.
Moonshot AI चे Kimi K3, हे २.८ ट्रिलियन पॅरामीटर असलेले एक ओपन-वेट मॉडेल असून, त्याने वास्तविक जगातील AA-Briefcase बेंचमार्कवर GPT-5.6 पेक्षा जास्त गुण मिळवले आहेत. हे आता API द्वारे उपलब्ध आहे आणि याचे वेट्स २७ जुलै रोजी सार्वजनिकरित्या प्रसिद्ध केले जाणार आहेत.
The latest versions add task orchestration, approval workflows, testing rigs and UI-aware browsing, letting an AI pick tickets, run autonomous agents, get human sign-off and ship visual previews—all from a single console.
ही सेवा केवळ अमेरिकेतील डेव्हलपर्ससाठी उपलब्ध असून, यामध्ये प्रत्येक १० लाख इनपुट टोकन्ससाठी $1.25 आणि प्रत्येक १० लाख आउटपुट टोकन्ससाठी $4.25 शुल्क आकारले जाते. नवीन खात्यांसाठी $20 चे क्रेडिट मिळेल आणि आंतरराष्ट्रीय वापरकर्त्यांसाठी वेटलिस्ट आहे.
The Sepsis Model That Learned To Predict The Doctor In 2021, Michigan Medicine tested the Epic Sepsis Model. They looked at 38,455 hospital stays. Epic claimed its accuracy was hi…
PrismML’s Bonsai 27B shrinks from a 54.7 GB full-precision model to a 3.9 GB 1-bit file, fitting on a flagship iPhone while retaining 89.5% of its quality. The claim relies on Apple’s MLX stack and delivers about 11 tokens per second, but memory, heat and battery impacts remain unmeasured.
OpenAI च्या अंतर्गत GPT-Red मॉडेलने GPT-5.6 Sol लाइनमधील त्रुटी सहा पटीने कमी केल्या आहेत, परंतु संशोधन पेपरमध्ये केवळ सिद्धांत दिला आहे—डाउनलोड करण्यायोग्य साधन उपलब्ध नाही—ज्यामुळे लहान टीम्सना स्वतःचे डिटरमिनिस्टिक टेस्ट्स तयार करावे लागतील.
आता SDK मध्ये प्रत्येक टूलसाठी Zod-आधारित कॉन्टेक्स्ट स्कीमा प्रदान करणे अनिवार्य आहे, आणि रनटाइममध्ये Vercel हे सुनिश्चित करते की केवळ घोषित केलेली फील्ड्सच पास केली जात आहेत; कोणत्याही अतिरिक्त किंवा गहाळ की आढळल्यास एक्झिक्यूशन थांबवले जाते.
स्वतःचे LLM चालवण्याचा खरा खर्च विरुद्ध API. ओपन वेट्स मोफत आहेत, पण ते चालवणे मोफत नाही. अनेक लोकांना वाटते की ओपन मॉडेल सेल्फ-होस्ट केल्याने पैशांची बचत होते. पण ही एक चूक आहे. तुम्हाला पाहावे लागेल...
मॉडेलचे आउटपुट हे एडिट करण्यायोग्य मजकूर मानून, Deep Interaction डेव्हलपर्सना चुकीचा तर्क (reasoning step) अचूकपणे शोधण्यास, तो पुन्हा लिहिण्यास आणि एक संक्षिप्त प्रॉम्प्ट पुन्हा फीड करण्यास मदत करते—ज्यामुळे STEM बेंचमार्कवर दुरुस्तीच्या दरात २५% वाढ आणि टोकन वापरामध्ये ४०% घट झाली आहे.
मी एका आठवड्यासाठी माझ्या क्लाउड ऑप्स (Cloud Ops) चालवण्यासाठी एका AI एजंटला संधी दिली. मी माझ्या क्लाउड ऑपरेशन्स चालवण्यासाठी एका AI एजंटला सात दिवस दिले. हे एक वास्तविक वातावरण होते, डेमो नाही. मी त्याला माझ्या मॉनिटरिंगचा रीड ॲक्सेस दिला...
नवीन amazon-opensearch-service स्किलमुळे पॉलिसी सिक्वेन्सिंग आणि इन्स्टन्स सायझिंगचा वेग वाढतो, परंतु Serverless NextGen वर वेक्टर सर्च कॉन्फिगर करण्यास सांगितल्यावर ते डिफॉल्टनुसार क्लासिक FAISS सेटिंग्ज वापरते, ज्यामुळे डिप्लॉयमेंटमध्ये अपयश येते.
या दोन लाँचमुळे ओपन-वेट मॉडेल्स आता उपेक्षित प्रकल्पांकडून मुख्य प्रवाहातील AI कडे वळत आहेत, ज्यामुळे कंपन्यांना Apache 2.0 अंतर्गत स्वतःच्या सर्व्हरवर (on-premises) अवाढव्य मॉडेल्स चालवण्याचा पर्याय मिळत आहे आणि कोडिंगच्या कामांमध्ये ते क्लोज्ड-सोर्स मॉडेल्सच्या कामगिरीशी स्पर्धा करण्यास सक्षम आहेत.
हे फ्रेमवर्क UI, API, डेटा, परवानगी आणि पॉलिसी अशा पाच ड्रिफ्ट श्रेणी परिभाषित करते आणि स्वायत्त एजंट कार्यान्वित होण्यापूर्वी विसंगती शोधण्यासाठी हलके कॉन्ट्रॅक्ट मॅप आणि प्री-फ्लाइट स्कॅन्सचा वापर करते, ज्यामुळे 'सायलेंट फेल्युअर' आणि खर्चिक पुनरावृत्ती टाळता येते.
Model Context Protocol (MCP) कनेक्टर्समुळे, Claude द्वारे तयार केलेला कोड आता थेट चॅटमधून डेटाबेस, क्लाउड सेवा किंवा Slack वापरू शकतो. यामुळे कॉपी-पेस्ट करण्याची प्रक्रिया संपते आणि डेव्हलपर्सना वास्तविक डेटासह त्वरित चाचणी करणे शक्य होते.
A missing verification step let the agent skip its ‘do’ phase, so it spent a full day drafting 1,858 internal reflections without ever invoking a real tool, exposing a self-loop trap that can cripple any tool-driven assistant.
Moonshot’s hype touts a 2.8-trillion-parameter model and low per-token rates, yet the model’s Mixture-of-Experts design and excessive verbosity drive output to 130 million tokens—over twice the volume of competing models—inflating real-world spend.
The new situational-awareness benchmark forces models to answer meta-questions like “Are you an AI?” and to adjust responses when the dialogue changes, revealing that many high-scoring LLMs still claim to be human or hide their limits.
AI एजंटला स्वच्छ JavaScript रिझल्ट्स आणि स्क्रीनशॉट दिसले, परंतु क्रोमच्या हिडन-टॅब थ्रॉटलिंगमुळे requestAnimationFrame कॉलबॅक थांबले, ज्यामुळे कॅनव्हास पेंट झाला नाही. दृश्यमान टॅबमध्ये टेस्ट चालवणे किंवा 'पिक्सेल-नॉन-एम्प्टी' चेक जोडणे याने ही चुकीची पास (false pass) स्थिती सुधारता येते.
