اے آئی ڈیٹیکٹرز محض اندازے لگا رہے ہیں
اے آئی ڈیٹیکٹرز اکثر انسانی تحریر کو مشین کے ذریعے تیار کردہ قرار دے دیتے ہیں۔ بہت سی کمپنیاں بھرتی یا گریڈنگ کے لیے ان ٹولز کا استعمال کرتی ہیں۔ وہ اس اسکور کو ایک حقیقت کے طور پر لیتی ہیں۔ یہ حقیقت نہیں ہے۔
یہ ٹولز آپ کی تحریر کے معنی نہیں پڑھتے۔ یہ مشین کے آؤٹ پٹ کے امکان کا اندازہ لگانے کے لیے ریاضی کا استعمال کرتے ہیں۔
وہ تین اہم چیزوں پر غور کرتے ہیں:
- Perplexity: یہ اس بات کی پیمائش کرتا ہے کہ آپ کے الفاظ کتنے قابلِ پیش گوئی ہیں۔ اے آئی اگلے سب سے ممکنہ لفظ کا انتخاب کرتی ہے۔ انسانی تحریر اکثر غیر متوقع ہوتی ہے۔ کم perplexity اے آئی جیسی نظر آتی ہے۔
- Burstiness: یہ جملوں کے تنوع کی پیمائش کرتا ہے۔ انسان چھوٹے اور لمبے جملوں کا امتزاج استعمال کرتے ہیں۔ اے آئی اکثر ایک مستقل تال (rhythm) استعمال کرتی ہے۔ کم تنوع اے آئی جیسا لگتا ہے۔
- Classifiers: یہ ماڈلز انسانی اور مشین کے نمونوں کا مطالعہ کرتے ہیں۔ وہ پیٹرنز کی بنیاد پر اندازہ لگاتے ہیں۔ اگر ماڈل کوئی نیا لکھنے کا انداز دیکھے تو وہ ناکام ہو جاتا ہے۔
واٹر مارکنگ ایک اور طریقہ ہے۔ یہ الفاظ کے انتخاب میں پیٹرنز کو چھپا دیتا ہے۔ اگر کوئی متن میں ترمیم کرے یا اسے پیرافریز (paraphrase) کرے تو یہ طریقہ ناکام ہو جاتا ہے۔
ان ٹولز میں سنگین خامیاں ہیں:
- اچھی تحریر اے آئی جیسی نظر آتی ہے۔ واضح، سادہ اور منظم نثر میں perplexity کم ہوتی ہے۔ آپ جتنا بہتر لکھتے ہیں، ٹول کی نظر میں آپ اتنے ہی زیادہ روبوٹک نظر آتے ہیں۔
- غیر مقامی بولنے والوں کے خلاف تعصب۔ اسٹینفورڈ کی ایک تحقیق میں پایا گیا کہ ڈیٹیکٹرز غیر مقامی انگریزی بولنے والوں کو زیادہ کثرت سے نشان زد کرتے ہیں۔ ان ٹولز کے لیے سادہ جملہ سازی مشین کے آؤٹ پٹ جیسی نظر آتی ہے۔
- دھوکہ دینا آسان ہے۔ چند مترادفات یا معمولی ترامیم ڈیٹیکٹر کو ناکام بنا دیتی ہیں۔ یہ عمل ایماندار لکھاریوں کو سزا دیتا ہے جبکہ کم محنت کرنے والے اے آئی صارفین کو آسانی سے گزرنے دیتا ہے۔
یہاں تک کہ OpenAI نے 2023 میں اپنے ڈیٹیکٹر کا استعمال بھی بند کر دیا کیونکہ وہ درست نہیں تھا۔ اگر تخلیق کار خود اپنے اے آئی کو نہیں پہچان سکتے، تو زیادہ درستگی کا دعویٰ کرنے والے کسی تھرڈ پارٹی ٹول پر بھروسہ نہ کریں۔
ان اسکورز کو محفوظ طریقے سے کیسے استعمال کریں:
- کسی ایک اسکور پر عمل نہ کریں۔ ایک غلط الزام طلباء یا ملازمت کے متلاشیوں کو حقیقی نقصان پہنچا سکتا ہے۔
- عمل (process) کو چیک کریں۔ امکان کے اسکور کے بجائے ایڈٹ ہسٹری اور ڈرافٹس کو دیکھیں۔
- غیر یقینی صورتحال کو ظاہر کریں۔ اگر آپ یہ ٹولز استعمال کرتے ہیں، تو انسانی یا اے آئی کے بائنری لیبل کے بجائے اعتماد کی ایک حد (range of confidence) دکھائیں۔
اے آئی ڈیٹیکٹرز پیٹرن میچرز ہیں۔ وہ اشاروں کے لیے تو مفید ہیں لیکن ثبوت کے طور پر خطرناک ہیں۔
ماخذ: https://dev.to/ricco020/ai-text-detectors-are-mostly-guessing-how-they-actually-work-2ibl
اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi