GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

AWS ने एंटरप्राइझ नियंत्रणासाठी सेल्फ-होस्टेड Claude Apps Gateway लाँच केले

Claude Apps Gateway ग्राहकाच्या AWS अकाउंटमध्ये कंट्रोल प्लेन एम्बेड करते, ज्यामुळे IT विभागाला ओळख (identity), ऑडिट लॉग्स आणि खर्च व्यवस्थापित करण्यासाठी एकच डॅशबोर्ड मिळतो, तर डेव्हलपर्स डेटा बाह्यरित्या उघड न करता Claude-आधारित सेशन्स सुरू करू शकतात.

AI · 2 min read

Attention Sink Detector Shows Pruning BOS Token Crashes LLM Performance

The detector records raw attention scores across all heads, aggregates them layer-wide, and uses a log-MAD test to flag tokens that swallow the bulk of attention. Removing these “sink” tokens from the KV cache destabilises generation and slashes quality.

AI · 3 min read

EU च्या मसुदा कायद्यामुळे AI चॅट्समधील बेकायदेशीर मजकूर स्कॅन करण्याची सक्ती होऊ शकते

हा प्रस्ताव सध्याचे मेसेज-फिल्टरिंग नियम अधिक व्यापक करतो, ज्यामध्ये दोन व्यक्ती मजकूर देवाणघेवाण करतात अशा कोणत्याही सेवेचा समावेश असेल. याचा अर्थ असा की, AI प्रदात्यांना मॉडेलला युजरचा प्रॉम्प्ट दिसण्यापूर्वीच तो ऑटोमेटेड स्कॅनर्सद्वारे तपासावा लागेल.

AI · 4 min read

OpenAI च्या GPT-Red ने मानवी रेड-टीम्सना मागे टाकले, ८४% हल्ल्याचे यश मिळवले

ही सेल्फ-प्ले सिस्टीम एका हल्ला करणाऱ्या मॉडेलची त्याच्याच संरक्षणात्मक मॉडेलशी स्पर्धा घडवून आणते. प्रत्येक अपयशातून शिकून, ही सिस्टीम असे 'एक्सप्लॉइट पॅटर्न' शोधून काढते जे मानवांना कधीही सुचत नाहीत आणि हे निष्कर्ष थेट GPT-5.6 च्या ट्रेनिंग पाइपलाइनमध्ये समाविष्ट करते.

AI · 2 min read

OpenAI ने AI-आधारित कोडिंग एजंट्ससाठी $२३० किमतीचे Codex Micro कीबोर्ड सादर केले

Codex Micro मध्ये प्रकाशमान Agent Keys, प्रोग्राम करण्यायोग्य शॉर्टकट, एक जॉयस्टिक आणि Reasoning Dial देण्यात आले आहेत, जे थेट ChatGPT डेस्कटॉप ॲपशी जोडलेले आहेत. यामुळे डेव्हलपर्सना त्यांच्या IDE मधून बाहेर न पडता अनेक AI एजंट्सवर लक्ष ठेवणे आणि त्यांना नियंत्रित करणे सोपे होईल.

AI · 3 min read

AWS Lambda AI एजंट्सना कम्प्युटपेक्षा कोल्ड स्टार्टसाठी जास्त खर्च येतो

Lambda वर AI एजंट चालवणे मिलिसेकंदनुसार स्वस्त वाटू शकते, परंतु खरा खर्च कोल्ड-स्टार्ट लॅटन्सी, अनेक मॉडेल कॉल्स ट्रिगर करणारे रिट्राय लूप्स आणि त्यातून होणारा टोकनचा वापर यांमुळे येतो, जो कम्प्युट चार्जेसपेक्षा कितीतरी जास्त असतो.

AI · 3 min read

15 AI-द्वारे तयार केलेल्या पायथन स्क्रिप्ट्सपैकी 2 मध्ये BrassCoders ला हार्ड-कोडेड सीक्रेट्स आढळले

या दोन असुरक्षित स्क्रिप्ट्स—ज्यामध्ये एक HMAC साइनिंग की आणि दुसरी प्लेन-टेक्स्ट SMTP पासवर्ड समाविष्ट आहे—हे दर्शवतात की जेव्हा "वापरण्यायोग्य उदाहरण" विचारले जाते, तेव्हा LLMs गहाळ माहिती कशी भरतात. यामुळे उपयुक्त वाटणारे कोड स्निपेट्स व्हर्जन कंट्रोल आणि प्रोडक्शनमध्ये क्रेडेंशियल लीकचे कारण बनतात.

AI · 4 min read

Thinking Machines ने Inkling ला GB300 NVL72 हार्डवेअरवर प्रशिक्षित करण्यासाठी Nvidia सोबत भागीदारी केली आहे

45 ट्रिलियन मल्टिमॉडल टोकन्सवर प्रशिक्षित असलेले Inkling, त्याचे 975 अब्ज पॅरामीटर्सपैकी केवळ काही भाग सक्रिय करूनही Nvidia-स्तरीय कोडिंग कामगिरी देते, ज्यामुळे एंटरप्राइझ वापरकर्त्यांसाठी लॅटन्सी आणि कार्यान्वित खर्च कमी होतो.

AI · 2 min read

OpenAI ने GPT-Red तैनात केले, ज्यामुळे सिम्युलेटेड अटॅकचे यश ९०% वरून २३% पर्यंत कमी झाले

'सेल्फ-प्ले दोजो' मुळे GPT-Red अटॅकर म्हणून काम करू शकते, तर डिफेन्डर मॉडेल्स संरक्षण तंत्रे शिकतात; यामुळे 'फेक चेन-ऑफ-थॉट' सारख्या नवीन युक्त्या समोर आल्या आहेत, ज्या LLMs ला चुकीचे आधार स्वीकारण्यास फसवतात.

AI · 2 min read

Apple Integrates Alibaba's Qwen Model to Unlock $20.5B Chinese Market

After months of regulatory wrangling, Apple cleared the Cyberspace Administration of China and will embed Alibaba's Qwen large-language model into iOS, iPadOS, macOS and visionOS, giving it a foothold in a market that just delivered $20.5 billion in sales.

AI · 2 min read

GitHub एजेंटिक वर्कफ्लो एका सिंगल पब्लिक इश्यूद्वारे खाजगी रिपॉझिटरीमधील फाइल्स लीक करतात

Noma Labs ने हे सिद्ध केले आहे की, "Additionally," हा शब्द समाविष्ट असलेली पब्लिक इश्यू कमेंट पोस्ट केल्यास, GitHub चा AI एजंट कोणत्याही अतिरिक्त परवानगी किंवा कस्टम कोडशिवाय खाजगी रिपॉझिटरीज वाचण्यास आणि त्यातील मजकूर पुन्हा इश्यूमध्ये पोस्ट करण्यास भाग पाडला जाऊ शकतो.

AI · 2 min read

Spotify Rolls Out AI Voice DJ for Premium Users in US, Ireland, Sweden

The beta lets Premium subscribers speak or type nuanced requests—like “play artists I haven’t heard before” or “when did I first listen to this track?”—and even ask unrelated facts, all powered by an on-device LLM that taps into each user’s listening history.

AI · 6 min read

Anthropic ने दाखवून दिले की ५० विषारी नमुने LLMs मध्ये शोधता न येणारे बॅकडोअर स्थापित करू शकतात

या अभ्यासातून असे दिसून येते की, अलाइनमेंट आणि RLHF नंतरही, एका गुप्त शब्दाने (secret phrase) सक्रिय होणारा बॅकडोअर LLM ला घातक कृती करण्यास भाग पाडू शकतो आणि सामान्य सुरक्षा चाचण्या किंवा सिस्टम प्रॉम्प्ट्स ते शोधण्यात अपयशी ठरतात.

AI · 4 min read

Ring-Zero मुळे ट्रिलियन-पॅरामीटर मॉडेल २०२६ AIME मध्ये ८४.२% गुण मिळवू शकले

Ring-Zero चार-टप्प्यांच्या RL लूपद्वारे—एक्सप्लोरेशन, सेल्फ-डिस्टिलेशन, रिफाईंड RL आणि टायर्ड टोकन बजेटिंग—एक ट्रिलियन-पॅरामीटर मॉडेल प्रशिक्षित करते, जेणेकरून ते अचूकता आणि संगणकीय खर्च यांचा समतोल राखत २ k किंवा २० k-टोकन तर्क मार्ग (reasoning paths) वाटप करण्यास शिकते.

AI · 4 min read

प्रत्येक दावा सत्यापित करण्यासाठी क्लॉडचे डीप रिसर्च ६.५७ दशलक्ष टोकन्स खर्च करते

ही प्रणाली एका कडक JavaScript map-reduce पाइपलाइनप्रमाणे कार्य करते: ती शोध प्रक्रिया विस्तारते, कच्चा डेटा गोळा करते, आणि तीन स्वतंत्र एजंट्स चालवते जे अनिश्चित दाव्यांचे खंडन करण्यास प्राधान्य देतात; त्यानंतरच ती एक JSON रिपोर्ट तयार करते, ज्यामुळे चुकीची माहिती (hallucinations) नियंत्रित राहते.

AI · 4 min read

अडथळे निर्माण होण्यापूर्वीच त्यांचा अंदाज घेणे: हॉस्पिटलमधील रुग्ण प्रवाहामध्ये AI चा वापर

अडथळे निर्माण होण्यापूर्वीच त्यांचा अंदाज घेणे: हॉस्पिटलमधील रुग्ण प्रवाहामध्ये AI चा वापर. आपत्कालीन कक्षात पाच तास प्रतीक्षा करणे तणाव निर्माण करते. यामुळे उपचारांचा वेग मंदावतो आणि ... चा धोका वाढतो.

AI · 3 min read