GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Google Gemma-4 31B Passes Token Match on AWS Inferentia Yet Spews Gibberish

The Inferentia2 INF2.24xlarge reproduced the exact token stream of the CPU reference, but both runs fed a malformed prompt lacking the chat template and turn markers, sending Gemma-4 into an infinite loop of nonsense. The hardware merely echoed a bug in the reference code.

AI · 3 मिनट पढ़ें

हर टोकन को लॉग करके, एक अकेले शोधकर्ता ने LLM एजेंट के बिल में 31% की कटौती कर उसे $651 तक पहुँचा दिया

एक PostgreSQL लॉगिंग लेयर जोड़कर, जिसने मॉडल का नाम, टोकन की संख्या, कार्य का प्रकार और प्रति-कॉल लागत को रिकॉर्ड किया, शोधकर्ता ने पाया कि कच्चे SEC सर्च परिणाम प्रॉम्प्ट्स को बढ़ा रहे थे। उन परिणामों का सारांश निकालकर और सरल कार्यों को एक सस्ते मॉडल पर भेजकर, 31% की बचत हुई और सटीकता में भी सुधार हुआ।

AI · 3 मिनट पढ़ें

Upper90 ने जनरल कंप्यूट में $400 मिलियन का निवेश किया, इन्फरेंस-ओनली चिप्स पर लगाया दांव

इस ऋण में SambaNova के SN50 इन्फरेंस चिप्स को कोलैटरल के रूप में इस्तेमाल किया गया है, जो एक अनूठी एसेट क्लास है। यह पारंपरिक GPU फार्मों की तुलना में 16 गुना तक तेज़ टोकन प्रोसेसिंग, कम बिजली की खपत और आसान कूलिंग का वादा करती है।

AI · 3 मिनट पढ़ें

लिनस टोरवाल्ड्स ने आलोचकों को दिया एक ही विकल्प: लिनक्स को फोर्क करें या AI को अपनाएं

टोरवाल्ड्स ने मेलिंग लिस्ट को बताया कि नए Sashiko रिव्यूअर जैसे AI टूल्स का विरोध करने वाला कोई भी व्यक्ति बस कर्नेल को फोर्क कर सकता है, जो उनके इस विचार को पुख्ता करता है कि तकनीकी योग्यता वैचारिक विरोध से कहीं अधिक महत्वपूर्ण है।

AI · 2 मिनट पढ़ें

Grok Build का ओपन सोर्स CLI आपको मॉडल बदलने और हर शेल कमांड का ऑडिट करने की सुविधा देता है

यह रिपॉजिटरी CLI, टर्मिनल UI और रनटाइम के लिए Rust सोर्स प्रदान करती है, जिससे आप यह देख सकते हैं कि कॉन्टेक्स्ट कैसे तैयार किया जाता है, टूल्स को कैसे व्यवस्थित किया जाता है और एडिट्स को कैसे मैनेज किया जाता है – और आप वर्कफ़्लो को बाधित किए बिना इसके मूल मॉडल को भी बदल सकते हैं।

AI · 4 मिनट पढ़ें

Moonshot का Kimi K3 AA-Briefcase पर GPT-5.6 को पछाड़ा, स्कोर किया 1,527 बनाम 1,495

Moonshot AI का Kimi K3, जो एक 2.8-ट्रिलियन-पैरामीटर वाला ओपन-वेट मॉडल है, ने वास्तविक दुनिया के AA-Briefcase बेंचमार्क पर GPT-5.6 से बेहतर प्रदर्शन किया है। यह अब API के माध्यम से उपलब्ध है और इसके वेट्स 27 जुलाई को सार्वजनिक रूप से जारी किए जाने वाले हैं।

AI · 2 मिनट पढ़ें

Claude Code, Cursor 2.0 और OpenAI Codex IDEs को फुल-स्टैक कंट्रोल रूम्स में बदल रहे हैं

नवीनतम वर्ज़न टास्क ऑर्केस्ट्रेशन, अप्रूवल वर्कफ़्लो, टेस्टिंग रिग्स और UI-सचेत ब्राउज़िंग की सुविधा जोड़ते हैं, जिससे AI टिकट चुन सकता है, स्वायत्त एजेंट चला सकता है, मानवीय स्वीकृति प्राप्त कर सकता है और विजुअल प्रीव्यू भेज सकता है—वह भी एक ही कंसोल से।

AI · 3 मिनट पढ़ें

मेटा ने प्रति मिलियन टोकन $1.25/$4.25 की दर पर Muse Spark 1.1 API लॉन्च किया

यह सेवा केवल अमेरिका स्थित डेवलपर्स के लिए उपलब्ध है, जिसमें प्रत्येक मिलियन इनपुट टोकन के लिए $1.25 और प्रत्येक मिलियन आउटपुट टोकन के लिए $4.25 का शुल्क लिया जाता है। नए खातों के लिए $20 का क्रेडिट दिया जा रहा है और अंतरराष्ट्रीय उपयोगकर्ताओं के लिए वेटलिस्ट है।

AI · 1 मिनट पढ़ें

मिशिगन वैलिडेशन में एपिक का सेप्सिस अलर्ट दो-तिहाई मामलों को पहचानने में विफल रहा

वह सेप्सिस मॉडल जिसने डॉक्टर की भविष्यवाणी करना सीखा; 2021 में, मिशिगन मेडिसिन ने एपिक सेप्सिस मॉडल का परीक्षण किया। उन्होंने 38,455 अस्पताल में भर्ती होने के मामलों का अध्ययन किया। एपिक ने दावा किया कि इसकी सटीकता बहुत...

AI · 4 मिनट पढ़ें

OpenAI के GPT-Red ने GPT-5.6 की विफलताओं को छह गुना कम कर दिया, लेकिन छोटी टीमों के लिए कोई मुफ्त टूल नहीं है

OpenAI के आंतरिक GPT-Red मॉडल ने GPT-5.6 Sol लाइन में विफलताओं को छह गुना कम कर दिया है, लेकिन शोध पत्र केवल सिद्धांत प्रदान करता है—कोई डाउनलोड करने योग्य टूल नहीं—जिसके कारण छोटी टीमों को अपने स्वयं के नियतात्मक (deterministic) परीक्षण खुद तैयार करने होंगे।

AI · 4 मिनट पढ़ें

Vercel AI SDK 7 टूल्स को केवल उनके घोषित सीक्रेट्स तक ही सीमित रखता है

अब SDK के लिए प्रत्येक टूल का एक Zod-आधारित कॉन्टेक्स्ट स्कीमा प्रदान करना आवश्यक है, और रनटाइम के दौरान Vercel यह सत्यापित करता है कि केवल घोषित फ़ील्ड ही पास किए गए हैं; किसी भी अतिरिक्त या छूटे हुए कीज़ (keys) मिलने पर यह निष्पादन को रोक देता है।

AI · 3 मिनट पढ़ें

सेल्फ-होस्टिंग, API की तुलना में तभी किफायती है जब आप महीने में 5-10 मिलियन टोकन का उपयोग करते हैं

अपना खुद का LLM चलाने बनाम API की वास्तविक लागत। ओपन वेट्स (Open weights) मुफ्त हैं, लेकिन उन्हें चलाना मुफ्त नहीं है। कई लोगों को लगता है कि ओपन मॉडल को सेल्फ-होस्ट करने से पैसे बचते हैं। यह एक गलती है। आपको देखना होगा...

AI · 3 मिनट पढ़ें

Deep Interaction ने LLM सुधार सफलता को 25% से अधिक बढ़ाया और टोकन की खपत को 40% तक कम किया

मॉडल के आउटपुट को एडिट करने योग्य टेक्स्ट मानकर, Deep Interaction डेवलपर्स को तर्क के गलत चरण की सटीक पहचान करने, उसे फिर से लिखने और एक संक्षिप्त प्रॉम्प्ट वापस देने की सुविधा देता है—जिससे STEM बेंचमार्क पर सुधार दर में 25% की वृद्धि और टोकन के उपयोग में 40% की कमी आई है।

AI · 2 मिनट पढ़ें

AWS एजेंट टूलकिट ने OpenSearch सेटअप का समय तो कम किया, लेकिन NextGen वेक्टर कॉन्फ़िगरेशन में विफल रहा

नई amazon-opensearch-service स्किल पॉलिसी सीक्वेंसिंग और इंस्टेंस साइजिंग की गति बढ़ाती है, लेकिन जब Serverless NextGen पर वेक्टर सर्च कॉन्फ़िगर करने के लिए कहा जाता है, तो यह क्लासिक FAISS सेटिंग्स पर डिफ़ॉल्ट हो जाती है, जिससे डिप्लॉयमेंट विफल हो जाते हैं।

AI · 4 मिनट पढ़ें

सुबह Inkling (975B) की लॉन्चिंग, और सोलह घंटे बाद Moonshot AI ने पेश किया 2.8T Kimi K3

ये दो रिलीज़ ओपन-वेट मॉडल्स को छोटे प्रोजेक्ट्स से निकालकर मुख्यधारा के AI की श्रेणी में ला रहे हैं, जिससे कंपनियों को Apache 2.0 के तहत अपने स्वयं के सर्वर (on-premises) पर विशाल मॉडल्स चलाने का विकल्प मिलता है, और ये कोडिंग कार्यों में क्लोज्ड-सोर्स मॉडल्स के बराबर प्रदर्शन भी करते हैं।

AI · 3 मिनट पढ़ें

नया वर्कफ़्लो-ड्रिफ्ट डिटेक्टर ऐप अपडेट के बाद बॉट्स को विफल होने से रोकता है

यह फ्रेमवर्क पांच ड्रिफ्ट श्रेणियों—UI, API, डेटा, परमिशन और पॉलिसी—को परिभाषित करता है, और एक स्वायत्त एजेंट के चलने से पहले विसंगतियों को पकड़ने के लिए एक लाइटवेट कॉन्ट्रैक्ट मैप और प्री-फ़्लाइट स्कैन का उपयोग करता है, जिससे साइलेंट फेलियर और महंगे रीवर्क को रोका जा सके।

AI · 4 मिनट पढ़ें

Anthropic ने जोड़े MCP कनेक्टर्स, अब Claude कोड स्निपेट्स बन सकेंगे लाइव ऐप्स

Model Context Protocol कनेक्टर्स के साथ, Claude द्वारा जनरेट किया गया कोड अब सीधे चैट से ही डेटाबेस, क्लाउड सेवाओं या Slack को एक्सेस कर सकता है। इससे कॉपी-पेस्ट करने की ज़रूरत खत्म हो जाएगी और डेवलपर्स तुरंत असली डेटा के साथ टेस्टिंग कर सकेंगे।

AI · 2 मिनट पढ़ें

AI एजेंट ने एक दिन में 1,858 टूल कॉल किए, फिर भी कुछ भी हासिल नहीं कर पाया

वेरिफिकेशन स्टेप की कमी के कारण एजेंट अपने 'do' चरण को छोड़ गया, जिससे उसने बिना किसी वास्तविक टूल का उपयोग किए पूरा दिन 1,858 आंतरिक विचार (internal reflections) तैयार करने में बिता दिया। इसने एक 'सेल्फ-लूप ट्रैप' को उजागर किया है जो किसी भी टूल-आधारित असिस्टेंट को पंगु बना सकता है।

AI · 2 मिनट पढ़ें

LLMs आत्म-पहचान परीक्षण में विफल रहे, जिससे इनके उपयोग को लेकर सुरक्षा संबंधी चिंताएं बढ़ गई हैं

नया सिचुएशनल-अवेयरनेस बेंचमार्क मॉडल्स को "क्या आप एक AI हैं?" जैसे मेटा-प्रश्नों के उत्तर देने और संवाद बदलने पर अपनी प्रतिक्रियाओं को समायोजित करने के लिए मजबूर करता है, जिससे यह पता चलता है कि कई उच्च स्कोर वाले LLMs अभी भी खुद को इंसान बताने का दावा करते हैं या अपनी सीमाओं को छिपाते हैं।

AI · 2 मिनट पढ़ें

हिडन-टैब थ्रॉटलिंग के कारण क्रोम, AI टेस्ट एजेंट्स से कैनवास एरर्स छिपा सकता है

AI एजेंट ने साफ जावास्क्रिप्ट परिणाम और एक स्क्रीनशॉट देखा, लेकिन क्रोम की हिडन-टैब थ्रॉटलिंग ने requestAnimationFrame कॉलबैक को रोक दिया, जिससे कैनवास अनपेंटेड रह गया। टेस्ट को एक विज़िबल टैब में चलाने या पिक्सेल-नॉन-एम्प्टी चेक जोड़ने से इस गलत 'पास' की समस्या को ठीक किया जा सकता है।

AI · 3 मिनट पढ़ें