𝗟𝗟𝗠𝘀 𝗯𝗮𝗺𝗼𝘂𝗸𝗮𝗯𝗹𝗮 𝗚𝗲𝗻𝗲𝗿𝗮𝘁𝗶𝘃𝗲 𝗔𝗜
Generative AI ایک وسیع اصطلاح ہے۔ LLMs اسی گروپ کے اندر ماڈلز کی ایک مخصوص قسم ہے۔ بہتر سسٹمز بنانے کے لیے آپ کو ان کے تکنیکی فرق کو سمجھنے کی ضرورت ہے۔
LLMs اگلے ٹوکن (token) کی پیش گوئی کرنے کے لیے Transformers کا استعمال کرتے ہیں۔ یہ autoregressive عمل کے ذریعے کام کرتے ہیں۔
LLM کیسے کام کرتا ہے:
- ماڈل ایک پرامپٹ (prompt) لیتا ہے۔
- یہ ٹیکسٹ کو ٹوکنز (tokens) میں تبدیل کرتا ہے۔
- یہ اگلے ٹوکن کے امکان (probability) کا حساب لگاتا ہے۔
- یہ جملے بنانے کے لیے اس لوپ کو دہراتا ہے۔
Diffusion ماڈلز مختلف طریقے سے کام کرتے ہیں۔ وہ شور (noise) کو الٹ کر (reversing) تصاویر تخلیق کرتے ہیں۔
Diffusion ماڈل کیسے کام کرتا ہے:
- سسٹم کا آغاز رینڈم شور (random noise) سے ہوتا ہے۔
- یہ مرحلہ وار شور کو ختم کرتا ہے۔
- یہ تصویر ظاہر کرنے کے لیے ایک پیٹرن پر عمل کرتا ہے۔
- یہ denoising کی رہنمائی کے لیے پرامپٹس کا استعمال کرتا ہے۔
ایک مختصر موازنہ: • LLM: Autoregressive Transformers کا استعمال کرتا ہے۔ آؤٹ پٹ ٹیکسٹ ٹوکنز ہوتے ہیں۔ • Diffusion: Iterative denoising کا استعمال کرتا ہے۔ آؤٹ پٹ پکسلز (pixels) ہوتے ہیں۔ • GAN: Adversarial training کا استعمال کرتا ہے۔ آؤٹ پٹ مصنوعی ڈیٹا (synthetic data) ہوتا ہے۔
ان ماڈلز کے درمیان سرحدیں بدل رہی ہیں۔ زیادہ تر جدید سسٹمز اب Transformer backbones کا استعمال کرتے ہیں۔ آرکیٹیکچر اب compositional ہوتا جا رہا ہے۔ اس کا مطلب ہے کہ مختلف قسم کے ماڈلز ایک ہی سسٹم میں مل کر کام کریں گے۔