GyaanSetu AI

AI, machine learning and LLM insights.

1515 articlesDeep, practical knowledge

કેશ સાઇડ-ચેનલ એટેક્સ ચાલતા AI મોડલ્સમાંથી ડેટા ચોરી શકે છે

કેશ રીડ/રાઈટ ટાઈમિંગ પર દેખરેખ રાખીને, હુમલાખોરો ઇનપુટ ડેટા અને મોડલના શીખેલા વજન (weights) ના ભાગો બંનેનો અંદાજ લગાવી શકે છે, જે એક એવી નબળાઈ છે જે કોન્સ્ટન્ટ-ટાઇમ કોડ અથવા મોડલ એન્ક્રિપ્શન હોવા છતાં પણ યથાવત રહે છે.

AI · 3 min read

Downstream Electron 42.6.0 Stops Linux Message-Box Crashes

The downstream maintainer reordered two GTK calls, preventing a null-pointer dereference that caused segmentation faults for Qt-based Electron apps on Linux. The same change sits in an open upstream PR, but users get the fix now with version 42.6.0.

AI · 2 min read

Honcho Swaps Long-Lived DB Sessions for Short Ones to Cut LLM Latency

The Honcho team discovered that keeping a database connection open while waiting on slow LLM or embedding calls can hog the connection pool. By moving to pre-flight reads, closing the session, and reopening only for writes, they reduced latency and improved scalability.

AI · 1 min read

350M LLM એજન્ટ સંપૂર્ણપણે તમારા બ્રાઉઝરમાં ચાલે છે—ઝીરો ક્લાઉડ ફી

આ આસિસ્ટન્ટ મોડેલના વેટ્સને સ્ટેટિક વેબપેજ સાથે લાવે છે અને આઠ ટૂલ્સની ફ્રોઝન યાદી, ગ્રામર-કન્સ્ટ્રેઈન્ડ ડેકોડિંગ અને RAG નો ઉપયોગ કરે છે, જે બધું જ માત્ર એક 16 GB GPU પર 30 M ટોકન્સ પર તાલીમ પામેલું છે.

AI · 3 min read

Attention Sink Detector Shows Pruning BOS Token Crashes LLM Performance

The detector records raw attention scores across all heads, aggregates them layer-wide, and uses a log-MAD test to flag tokens that swallow the bulk of attention. Removing these “sink” tokens from the KV cache destabilises generation and slashes quality.

AI · 3 min read

EU નો ડ્રાફ્ટ કાયદો AI ચેટ્સમાં ગેરકાયદેસર સામગ્રી શોધવા માટે સ્કેનિંગ કરવાની ફરજ પાડી શકે છે

આ પ્રસ્તાવ હાલના મેસેજ-ફિલ્ટરિંગ નિયમોને એવી કોઈપણ સેવાઓ સુધી વિસ્તૃત કરે છે જ્યાં બે લોકો ટેક્સ્ટ દ્વારા વાતચીત કરે છે, જેનો અર્થ એ છે કે AI પ્રદાતાઓએ મોડેલ દ્વારા પ્રોમ્પ્ટ જોવામાં આવે તે પહેલાં જ દરેક યુઝર પ્રોમ્પ્ટને ઓટોમેટેડ સ્કેનર્સ દ્વારા તપાસવો પડશે.

AI · 4 min read

OpenAI એ AI-સંચાલિત કોડિંગ એજન્ટ્સ માટે $230નું Codex Micro કીબોર્ડ રજૂ કર્યું

Codex Micro માં પ્રકાશિત એજન્ટ કીઝ, પ્રોગ્રામેબલ શોર્ટકટ્સ, એક જોઈસ્ટિક અને રીઝનિંગ ડાયલ આપવામાં આવ્યા છે, જે સીધા ChatGPT ડેસ્કટોપ એપ સાથે જોડાયેલ છે, જેથી ડેવલપર્સ તેમના IDE છોડ્યા વિના મલ્ટીપલ AI એજન્ટ્સનું મોનિટરિંગ અને નિયંત્રણ કરી શકે.

AI · 3 min read

AWS Lambda AI Agents Pay More for Cold Starts Than Compute

Running an AI agent on Lambda may look cheap by the millisecond, but the real expense comes from cold-start latency, retry loops that trigger multiple model calls, and the resulting token consumption that dwarfs the compute charge.

AI · 3 min read

BrassCoders Finds Hard-Coded Secrets in 2 of 15 AI-Generated Python Scripts

The two vulnerable scripts—one embedding an HMAC signing key, the other a plain-text SMTP password—demonstrate how LLMs fill in missing values when asked for a “usable example,” turning handy snippets into credential leaks across version control and production.

AI · 4 min read

Thinking Machines એ GB300 NVL72 હાર્ડવેર પર Inkling ને તાલીમ આપવા માટે Nvidia સાથે ભાગીદારી કરી છે

45 ટ્રિલિયન મલ્ટિમોડલ ટોકન્સ પર તાલીમ પામેલું Inkling, તેના 975 બિલિયન પેરામીટર્સના માત્ર એક અંશને સક્રિય કરીને Nvidia સ્તરનું કોડિંગ પરફોર્મન્સ આપે છે, જે એન્ટરપ્રાઇઝ વપરાશકર્તાઓ માટે લેટન્સી અને ઓપરેશનલ ખર્ચમાં મોટો ઘટાડો કરે છે.

AI · 2 min read