GyaanSetu AI

AI, machine learning and LLM insights.

1515 articlesDeep, practical knowledge

کوئی براہ راست نقصان نہیں، کوئی حکمِ امتناعی نہیں: کس طرح معاشی نقصان کے ٹیسٹ نے بھارت میں OpenAI کو بچا لیا

جج امت بنسل نے یہ نتیجہ اخذ کیا کہ OpenAI کے GPT-4 اور GPT-4o نے ANI کے مضامین کا استعمال صرف ریئل ٹائم ریٹریول (فوری معلومات کے حصول) کے ذریعے کیا، نہ کہ یادداشت (memorization) کے ذریعے، اور ایجنسی کو کوئی براہ راست مالی نقصان نہیں ہوا، جس کی وجہ سے عدالت نے اس ٹریننگ کو ایک قانونی تحقیقی سرگرمی کے طور پر تسلیم کر لیا۔

AI · 4 min read

OpenAI نے دریافت کیا کہ ChatGPT کے ذریعے ماہرانہ سوالات کا 43.5 فیصد غیر ماہرین کے سپرد کیا جا رہا ہے

کام سے متعلق 800,000 پرامپٹس کے تجزیے میں ہر درخواست کو ایک O*NET پیشے سے جوڑا گیا ہے، جس سے یہ انکشاف ہوا ہے کہ اعلیٰ مہارت والے سوالات کا تقریباً نصف حصہ اپنے شعبے سے باہر کے صارفین کے ذریعے حل کیا جا رہا ہے—یہ تبدیلی مارکیٹنگ اور انجینئرنگ میں سب سے زیادہ نمایاں ہے۔

AI · 2 min read

اینتھروپک کا کلاڈ سادہ گوگل سرچ کے ذریعے کسی کو بھی نجی چیٹس تلاش کرنے کی اجازت دیتا ہے

ریڈٹ کے صارفین نے دریافت کیا کہ کلاڈ کے شیئر-چیٹ یو آر ایل (URLs) کرال کیے جا رہے تھے، جس کے نتیجے میں گوگل کے سرچ رزلٹس پر ایسی نجی گفتگو سامنے آ رہی تھی جس میں کم عمر بچوں کے فون نمبر، کلینیکل ٹرائل کا ڈیٹا، کارپوریٹ کے اندرونی دستاویزات اور یہاں تک کہ کوڈ کے ٹکڑے بھی شامل تھے۔

AI · 5 min read

ستیا نڈیلا کا کہنا ہے کہ ایک ہی اے آئی وینڈر پر انحصار آپ کے کاروبار کو تباہ کر سکتا ہے

نڈیلا نے خبردار کیا ہے کہ پرامپٹس اور اندرونی ڈیٹا کو کسی ایک LLM سروس کے حوالے کرنے سے کمپنی کا علم ایک غیر شفاف 'بلیک باکس' میں قید ہو جاتا ہے۔ وہ ایک "AI گیٹ وے" کی تجویز دیتے ہیں جو ڈیٹا کو مقامی طور پر محفوظ رکھتا ہے اور کمپنیوں کو اپنی مرضی سے ماڈلز تبدیل کرنے کی سہولت دیتا ہے۔

AI · 3 min read

خودکار منظوری دینے والے AI ایجنٹس ایک README فائل کے ذریعے ہیکرز کو کوڈ چلانے کی اجازت دیتے ہیں

'Friendly Fire' کے مقالے نے یہ ثابت کیا کہ README فائل میں ایک نقصان دہ کمانڈ شامل کرنے سے ایک غیر نگرانی شدہ AI ایجنٹ سے کوئی بھی کوڈ چلایا جا سکتا ہے۔ مصنفین نے بعد میں اسی خامی کو اپنے بلاگ آٹومیشن پائپ لائن میں بھی دوبارہ دیکھا، جس سے حملے کا ایک چھپا ہوا راستہ سامنے آیا۔

AI · 3 min read

ڈویلپرز نے ڈکٹیشن کی مشکل کو صرف ایک ٹیپ تک کم کرنے پر سینڈ بار کے اسٹریم رنگ (Sandbar’s Stream Ring) کی تعریف کی۔

اسٹریم رنگ کے واحد کنٹرولز ایک ٹچ پیڈ اور بلوٹوتھ لنک ہیں، جو صارفین کو صرف ایک بار دبا کر ایپل نوٹس جیسی ایپس میں براہ راست بولنے کی سہولت دیتے ہیں۔ فہمی کے ڈیمو میں دکھایا گیا کہ یہ رنگ فون کو ان لاک کیے بغیر فوری اور درست متن فراہم کرتا ہے۔

AI · 3 min read

اے آئی ایجنٹس کو مالی نقصان کا خطرہ ہے جب تک کہ جینی کوایفیشینٹ (Genie Coefficient) لفظی غلطیوں کو کم نہ کر دے

جینی کوایفیشینٹ (Genie Coefficient) صارف کے اصل ارادے اور اے آئی ایجنٹ کے لفظی نتائج کے درمیان فرق کی پیمائش کرتا ہے، اور ایسے پرخطر رویوں کی نشاندہی کرتا ہے جو حساس شعبوں میں ڈیٹا کی چوری، مالی نقصان، یا ریگولیٹری جرمانے کا باعث بن سکتے ہیں۔

AI · 3 min read

اب ڈویلپرز GPT-Live کو کوڈ کے کام بول کر دے سکتے ہیں، جس سے ونڈو سوئچنگ کی ضرورت ختم ہو جائے گی

ChatGPT ڈیسک ٹاپ ایپ میں شامل GPT-Live، ڈویلپرز کو آواز کے ذریعے "run static-analysis" یا "add unit tests" جیسے کمانڈز دینے کی سہولت فراہم کرتا ہے، جہاں ماڈل آواز کے ذریعے کام کی تصدیق کرتا ہے اور متوازی ورک فلو (parallel workflows) شروع کرتا ہے—یہ تمام سہولیات پیڈ سبسکرائبرز کے لیے دستیاب ہیں۔

AI · 2 min read

آڈٹ ایجنٹ کی مہارتیں: ایک خطرے کا ماڈل

آڈٹ ایجنٹ کی مہارتیں: ایک خطرے کا ماڈل۔ کیا آپ کسی اجنبی کی دی ہوئی کوئی بھی USB ڈرائیو لگائیں گے؟ غالباً آپ ایسا نہیں کریں گے۔ زیادہ تر لوگ خطرے سے واقف ہوتے ہیں۔ پھر بھی، ڈویلپرز ڈیجیٹل طور پر اسی طرح کے...

AI · 3 min read

Mozilla Bets Real-Time AI Content Will Offset Falling Search Revenue

The daily crossword is built by feeding the latest news into a large language model, which generates word-clue pairs that a mathematical solver turns into a printable grid. Mozilla says the extra stickiness could help recoup the higher compute bills and keep users from drifting to external search si

AI · 2 min read

اوپن ویٹ ماڈلز اب Vercel کے 29% AI ٹوکنز کو چلا رہے ہیں، جو اپریل میں 11% تھے

Vercel کے جون کے گیٹ وے ڈیٹا سے معلوم ہوتا ہے کہ سستے، اوپن ویٹ ماڈلز دو ماہ کے دوران تمام ٹوکنز کے محض ایک دسویں حصے سے بڑھ کر تقریباً ایک تہائی تک پہنچ گئے ہیں، جس میں صرف DeepSeek اکیلے اس ٹریفک کے پانچویں حصے سے زیادہ کا حصہ رکھتا ہے۔

AI · 3 min read

کمزور DMARC پالیسیاں راتوں رات پورے AI ایجنٹ بیڑے کو بلیک لسٹ کر سکتی ہیں

آپ کے AI ایجنٹس کا انفراسٹرکچر تباہ ہو رہا ہے۔ ہر کوئی کہتا ہے کہ AI ایجنٹس کو ان باکس حاصل کرنے کے لیے صرف ایک API کال کی ضرورت ہوتی ہے۔ وہ غلط ہیں۔ میں نے یہ دیکھنے کے لیے 671,693 ڈومینز کو اسکین کیا کہ اصل میں کیا ہو رہا ہے...

AI · 3 min read

میٹرک درست ہونے کے بعد RAG ری کال 60% سے بڑھ کر 90% ہو گیا

مصنف نے دریافت کیا کہ نام نہاد "مسز" (misses) کا تین چوتھائی حصہ دراصل اس مطلوبہ حقیقت پر مشتمل تھا جو ٹیسٹ اسکرپٹ کی توقع کے مطابق کسی دوسرے صفحے پر موجود تھی۔ میٹرک کو فیکٹ لیول ری کال (fact-level recall) میں تبدیل کرنے سے یہ 90% جواب کی درستگی کے عین مطابق ہو گیا۔

AI · 2 min read

ایمبیڈڈ جیما اے آئی 8 ڈالر کے ESP32 آلات کو ناقابلِ سراغ دھمکی آمیز ذرائع میں تبدیل کر رہا ہے

ایک آزاد ڈویلپر نے گوگل کے جیما ماڈل کو 28.9 ملین پیرامیٹرز تک محدود کیا اور اسے ESP32-S3 کی محدود ریم اور فلیش میں سمو دیا، جس سے ایسے سستے ہارڈ ویئر پر مکمل طور پر آف لائن انفرنس ممکن ہو گئی ہے جسے کسی بھی سینسر یا پہننے کے قابل (wearable) آلے میں چھپایا جا سکتا ہے۔

AI · 1 min read