GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

MCP v2 હેન્ડશેક અને સેશન આઈડીને દૂર કરી રહ્યું છે, જે સાચા સર્વરલેસ સ્કેલિંગને સક્ષમ બનાવે છે

28 જુલાઈ 2026 થી લાઈવ થનારું MCP વર્ઝન 2, ઇનિશિયલાઇઝ હેન્ડશેક, Mcp-Session-Id હેડર અને ત્રણ લેગસી સબસિસ્ટમ્સને દૂર કરીને પ્રોટોકોલને સંપૂર્ણપણે સ્ટેટલેસ બનાવે છે. હવે ટીમો સેશન-એફિનિટીના અવરોધો વિના ઓટોસ્કેલ અથવા સર્વરલેસ પોડ્સ પર કાર્ય કરી શકે છે.

AI · 3 min read

Google Gemma-4 31B Passes Token Match on AWS Inferentia Yet Spews Gibberish

The Inferentia2 INF2.24xlarge reproduced the exact token stream of the CPU reference, but both runs fed a malformed prompt lacking the chat template and turn markers, sending Gemma-4 into an infinite loop of nonsense. The hardware merely echoed a bug in the reference code.

AI · 3 min read

Solo Researcher Cuts LLM Agent Bill 31% to $651 by Logging Every Token

By adding a PostgreSQL logging layer that captured model name, token count, task type, and per-call cost, the researcher identified that raw SEC search results were inflating prompts. Summarizing those results and routing simple checks to a cheaper model drove the 31% savings and nudged accuracy up

AI · 3 min read

Upper90 જનરલ કમ્પ્યુટમાં $400 મિલિયનનું રોકાણ કરી રહ્યું છે, ઇન્ફરન્સ-ઓન્લી ચિપ્સ પર દાવ લગાવી રહ્યું છે

આ લોન માટે SambaNova ની SN50 ઇન્ફરન્સ ચિપ્સને કોલેટરલ તરીકે ઉપયોગમાં લેવામાં આવે છે, જે એક અનોખી એસેટ ક્લાસ છે જે પરંપરાગત GPU ફાર્મ્સ કરતા 16 ગણી ઝડપી ટોકન પ્રોસેસિંગ, ઓછો પાવર વપરાશ અને સરળ કૂલિંગનું વચન આપે છે.

AI · 3 min read

લિનસ ટોરવાલ્ડ્સનો ટીકાકારોને એક જ વિકલ્પ: લિનક્સને ફોર્ક કરો અથવા AI ને અપનાવો

ટોરવાલ્ડ્સે મેઇલિંગ લિસ્ટને જણાવ્યું હતું કે નવા Sashiko રિવ્યુઅર જેવા AI ટૂલ્સનો વિરોધ કરનાર કોઈપણ વ્યક્તિ સરળતાથી કર્નલને ફોર્ક કરી શકે છે, જે તેમના એ મંતવ્ય પર ભાર મૂકે છે કે ટેકનિકલ યોગ્યતા વૈચારિક અવરોધો કરતા વધુ મહત્વની છે.

AI · 2 min read

OpenAI ના GPT-Red એ GPT-5.6 ની નિષ્ફળતાઓમાં છ ગણો ઘટાડો કર્યો, પરંતુ નાની ટીમો માટે કોઈ મફત સાધન નથી

OpenAI ના આંતરિક GPT-Red મોડેલે GPT-5.6 Sol લાઇન માં નિષ્ફળતાઓને છ ગણી ઘટાડી દીધી છે, પરંતુ સંશોધન પત્ર માત્ર સિદ્ધાંત આપે છે—ડાઉનલોડ કરી શકાય તેવું કોઈ સાધન નથી—જેના કારણે નાની ટીમોએ તેમના પોતાના નિશ્ચિત (deterministic) પરીક્ષણો જાતે જ બનાવવા પડશે.

AI · 4 min read

મહિનામાં 5-10 મિલિયન ટોકન્સ પછી જ સેલ્ફ-હોસ્ટિંગ API ખર્ચ કરતા સસ્તું પડે છે

તમારું પોતાનું LLM ચલાવવાનો વાસ્તવિક ખર્ચ વિરુદ્ધ API. ઓપન વેટ્સ (Open weights) મફત છે, પરંતુ તેને ચલાવવાનો ખર્ચ નથી. ઘણા લોકો માને છે કે ઓપન મોડેલને સેલ્ફ-હોસ્ટ કરવાથી પૈસા બચે છે. આ એક ભૂલ છે. તમારે જોવું પડશે...

AI · 3 min read

Deep Interaction દ્વારા LLM સુધારણાની સફળતામાં 25% થી વધુનો વધારો અને ટોકન્સના વપરાશમાં 40% નો ઘટાડો

મોડેલના આઉટપુટને એડિટેબલ ટેક્સ્ટ તરીકે ગણીને, Deep Interaction ડેવલપર્સને ભૂલભરેલા તર્કના સ્ટેપને ચોક્કસ રીતે ઓળખવામાં, તેને ફરીથી લખવામાં અને સંક્ષિપ્ત પ્રોમ્પ્ટ પાછો મોકલવામાં મદદ કરે છે—જેના પરિણામે STEM બેન્ચમાર્ક પર સુધારણા દરમાં 25% નો વધારો અને ટોકન વપરાશમાં 40% નો ઘટાડો થયો છે.

AI · 2 min read

AI ઓન-કોલ એજન્ટે એક અઠવાડિયામાં રિઝોલ્યુશનનો સરેરાશ સમય 45 મિનિટથી ઘટાડીને 20 મિનિટ કર્યો

મેં એક અઠવાડિયા માટે મારા ક્લાઉડ ઓપ્સ ચલાવવા માટે AI એજન્ટને કામ સોંપ્યું. મેં એક AI એજન્ટને મારા ક્લાઉડ ઓપરેશન્સ ચલાવવા માટે સાત દિવસ આપ્યા. આ એક વાસ્તવિક વાતાવરણ હતું, ડેમો નહીં. મેં તેને મારા મોનિટરિંગ... માટે રીડ એક્સેસ આપ્યો...

AI · 4 min read

AWS એજન્ટ ટૂલકિટ OpenSearch સેટઅપનો સમય ઘટાડે છે પરંતુ NextGen વેક્ટર કોન્ફિગરેશનમાં ભૂલ કરે છે

નવી amazon-opensearch-service સ્કિલ પોલિસી સિક્વન્સિંગ અને ઇન્સ્ટન્સ સાઈઝિંગને ઝડપી બનાવે છે, પરંતુ જ્યારે Serverless NextGen પર વેક્ટર સર્ચ કોન્ફિગર કરવાનું કહેવામાં આવે છે, ત્યારે તે ક્લાસિક FAISS સેટિંગ્સ પર ડિફોલ્ટ સેટ થઈ જાય છે, જેના કારણે ડિપ્લોયમેન્ટ નિષ્ફળ જાય છે.

AI · 4 min read

AI Agent Made 1,858 Tool Calls in a Day Yet Delivered Nothing

A missing verification step let the agent skip its ‘do’ phase, so it spent a full day drafting 1,858 internal reflections without ever invoking a real tool, exposing a self-loop trap that can cripple any tool-driven assistant.

AI · 2 min read