GyaanSetu AI

AI, machine learning and LLM insights.

1599 articlesDeep, practical knowledge

Solo Researcher Cuts LLM Agent Bill 31% to $651 by Logging Every Token

By adding a PostgreSQL logging layer that captured model name, token count, task type, and per-call cost, the researcher identified that raw SEC search results were inflating prompts. Summarizing those results and routing simple checks to a cheaper model drove the 31% savings and nudged accuracy up

AI · 3 min read

Upper90 نے جنرل کمپیوٹ میں 400 ملین ڈالر کی سرمایہ کاری کی، انفرنس-اونلی چپس پر داؤ لگایا

یہ قرض SambaNova کی SN50 انفرنس چپس کو بطور ضمانت استعمال کرتا ہے، جو کہ اپنی نوعیت کا پہلا ایسا اثاثہ ہے جو روایتی GPU فارمز کے مقابلے میں 16 گنا تک تیز ٹوکن پروسیسنگ، کم بجلی کے استعمال اور آسان کولنگ کا وعدہ کرتا ہے۔

AI · 3 min read

لائنس ٹوروالڈز نے ناقدین کو ایک ہی انتخاب دیا: لینکس کو فورک کریں یا اے آئی کو اپنائیں

ٹوروالڈز نے میلنگ لسٹ کو بتایا کہ نئے Sashiko ریویوئر جیسے اے آئی ٹولز کے مخالف کوئی بھی شخص محض کرنل کو فورک کر سکتا ہے، جس سے ان کے اس نظریے کی عکاسی ہوتی ہے کہ تکنیکی برتری نظریاتی مزاحمت پر غالب آتی ہے۔

AI · 2 min read

Grok Build کا اوپن سورس CLI آپ کو ماڈلز تبدیل کرنے اور ہر شیل کمانڈ کا آڈٹ کرنے کی اجازت دیتا ہے

یہ ریپوزٹری CLI، ٹرمینل UI، اور رن ٹائم کے لیے Rust سورس فراہم کرتی ہے، جس سے آپ یہ جائزہ لے سکتے ہیں کہ سیاق و سباق (context) کیسے ترتیب دیا جاتا ہے، ٹولز کو کیسے منظم کیا جاتا ہے، اور ایڈٹس کو کیسے مینیج کیا جاتا ہے—اور آپ ورک فلو کو متاثر کیے بغیر بنیادی ماڈل کو بھی تبدیل کر سکتے ہیں۔

AI · 4 min read

میٹا نے 1.25 ڈالر / 4.25 ڈالر فی ملین ٹوکنز پر Muse Spark 1.1 API لانچ کر دی

یہ سروس، جو صرف امریکہ میں مقیم ڈویلپرز کے لیے دستیاب ہے، ہر ملین ان پٹ ٹوکنز کے لیے 1.25 ڈالر اور ہر ملین آؤٹ پٹ ٹوکنز کے لیے 4.25 ڈالر وصول کرے گی، جبکہ نئے اکاؤنٹس کے لیے 20 ڈالر کا کریڈٹ اور بین الاقوامی صارفین کے لیے ویٹ لسٹ کی سہولت بھی موجود ہے۔

AI · 1 min read

مشی گن میں تصدیق کے دوران ایپک کے سیپسس الرٹ نے دو تہائی کیسز کو نظر انداز کر دیا

وہ سیپسس ماڈل جس نے ڈاکٹر کی پیش گوئی کرنا سیکھا۔ 2021 میں، مشی گن میڈیسن نے ایپک سیپسس ماڈل کا تجربہ کیا۔ انہوں نے 38,455 ہسپتال میں قیاموں کا جائزہ لیا۔ ایپک نے دعویٰ کیا کہ اس کی درستگی بہت زیادہ تھی...

AI · 4 min read

OpenAI کے GPT-Red نے GPT-5.6 کی ناکامیوں میں چھ گنا کمی کی، لیکن چھوٹی ٹیموں کے لیے کوئی مفت ٹول دستیاب نہیں۔

OpenAI کے اندرونی GPT-Red ماڈل نے GPT-5.6 Sol لائن میں ناکامیوں کو چھ گنا کم کر دیا ہے، لیکن تحقیقی مقالہ صرف نظریات پیش کرتا ہے اور کوئی ڈاؤن لوڈ کے قابل ٹول (harness) فراہم نہیں کرتا، جس کی وجہ سے چھوٹی ٹیموں کو اپنے خود مختار ٹیسٹ خود تیار کرنے ہوں گے۔

AI · 4 min read

Vercel AI SDK 7 ٹولز کو صرف ان کے اعلان کردہ سیکرٹس تک محدود رکھتا ہے

اب SDK کے لیے ضروری ہے کہ ہر ٹول ایک Zod پر مبنی کانٹیکسٹ اسکیمہ فراہم کرے، اور رن ٹائم پر Vercel اس بات کی تصدیق کرتا ہے کہ صرف اعلان کردہ فیلڈز ہی پاس کی گئی ہیں، اور کسی بھی اضافی یا غائب شدہ کیز کی صورت میں عمل درآمد روک دیتا ہے۔

AI · 3 min read

اے آئی آن کال ایجنٹ نے ایک ہفتے میں مسائل کے حل کے اوسط وقت کو 45 منٹ سے کم کر کے 20 منٹ کر دیا

میں نے ایک ہفتے کے لیے اپنے کلاؤڈ آپریشنز ایک اے آئی ایجنٹ کے حوالے کر دیے۔ میں نے ایک اے آئی ایجنٹ کو اپنے کلاؤڈ آپریشنز چلانے کے لیے سات دن دیے۔ یہ ایک حقیقی ماحول تھا، کوئی ڈیمو نہیں تھا۔ میں نے اسے اپنے مانیٹرنگ... تک ریڈ ایکسیس دے دی تھی۔

AI · 4 min read

AWS ایجنٹ ٹول کٹ OpenSearch سیٹ اپ کا وقت تو کم کرتا ہے لیکن NextGen ویکٹر کنفیگریشن میں دشواری کا شکار ہے۔

نئی amazon-opensearch-service اسکل پالیسی سیکوئنسنگ اور انسٹنس سائزنگ کے عمل کو تیز کرتی ہے، لیکن جب Serverless NextGen پر ویکٹر سرچ کنفیگر کرنے کا کہا جائے تو یہ خود بخود کلاسیک FAISS سیٹنگز پر منتقل ہو جاتی ہے، جس کے نتیجے میں ڈیپلائمنٹ میں ناکامی ہوتی ہے۔

AI · 4 min read

Inkling (975B) کی صبح لانچنگ، سولہ گھنٹے بعد Moonshot AI نے 2.8T Kimi K3 متعارف کرایا

یہ دوہری ریلیز اوپن ویٹ ماڈلز کو معمولی پروجیکٹس سے نکال کر مرکزی دھارے کی AI تک لے آئی ہیں، جس سے کمپنیوں کو Apache 2.0 کے تحت اپنے مقامی سرورز پر بڑے ماڈلز چلانے کا اختیار ملتا ہے، جبکہ یہ کوڈنگ کے کاموں میں کلوزڈ سورس ماڈلز جیسی کارکردگی فراہم کرنے کی صلاحیت بھی رکھتے ہیں۔

AI · 3 min read

نیا ورک فلو ڈرفٹ ڈیٹیکٹر ایپ اپ ڈیٹس کے بعد بوٹس کو ناکام ہونے سے روکتا ہے

یہ فریم ورک ڈرفٹ کی پانچ اقسام—UI، API، ڈیٹا، اجازت (permission)، اور پالیسی—کی وضاحت کرتا ہے، اور خود مختار ایجنٹ کے چلنے سے پہلے ہی غلطیوں کو پکڑنے کے لیے ایک ہلکے پھلکے کنٹریکٹ میپ اور پری فلائٹ اسکینز کا استعمال کرتا ہے، تاکہ خاموش ناکامیوں اور مہنگے دوبارہ کام سے بچا جا سکے۔

AI · 4 min read

اینتھروپک نے MCP کنیکٹرز کا اضافہ کیا، جس سے کلاڈ کوڈ اسنیپٹس اب لائیو ایپس میں تبدیل ہو سکیں گے

ماڈل کانٹیکسٹ پروٹوکول (MCP) کنیکٹرز کے ذریعے، کلاڈ کے ذریعے تیار کردہ کوڈ اب براہ راست چیٹ سے ڈیٹا بیس، کلاؤڈ سروسز یا Slack کو کال کر سکتا ہے، جس سے کاپی پیسٹ کا مرحلہ ختم ہو جائے گا اور ڈویلپرز کو فوری طور پر حقیقی ڈیٹا کے ساتھ ٹیسٹ کرنے کی سہولت ملے گی۔

AI · 2 min read

AI Agent Made 1,858 Tool Calls in a Day Yet Delivered Nothing

A missing verification step let the agent skip its ‘do’ phase, so it spent a full day drafting 1,858 internal reflections without ever invoking a real tool, exposing a self-loop trap that can cripple any tool-driven assistant.

AI · 2 min read

Moonshot AI کا Kimi K3 سستی API کا وعدہ کرتا ہے، لیکن آؤٹ پٹ کے اخراجات حریفوں کے مقابلے میں دگنے ہیں۔

Moonshot کا دعویٰ 2.8 ٹریلین پیرامیٹر والے ماڈل اور کم فی ٹوکن قیمتوں پر مبنی ہے، تاہم ماڈل کا Mixture-of-Experts ڈیزائن اور ضرورت سے زیادہ طوالت آؤٹ پٹ کو 130 ملین ٹوکنز تک پہنچا دیتی ہے—جو کہ حریف ماڈلز کے مقابلے میں دوگنا سے بھی زیادہ ہے—اور اس سے اصل اخراجات میں اضافہ ہوتا ہے۔

AI · 3 min read

LLMs خود شناسی کے ٹیسٹ میں ناکام، جس سے ان کے استعمال کے حوالے سے حفاظتی خدشات پیدا ہو رہے ہیں

صورتحال سے آگاہی کا نیا بینچ مارک ماڈلز کو ایسے میٹا سوالات کے جواب دینے پر مجبور کرتا ہے جیسے "کیا آپ ایک AI ہیں؟" اور مکالمہ بدلنے پر اپنے جوابات کو تبدیل کرنے پر، جس سے یہ انکشاف ہوا ہے کہ بہت سے زیادہ اسکور حاصل کرنے والے LLMs اب بھی انسان ہونے کا دعویٰ کرتے ہیں یا اپنی حدود کو چھپاتے ہیں۔

AI · 2 min read