اے آئی چیٹ بوٹس ہولوکاسٹ کے انکار کو ہوا دے رہے ہیں
UNESCO اور اقوام متحدہ نے ایک وارننگ جاری کی ہے۔ جنریٹیو اے آئی (Generative AI) لوگوں کو ہولوکاسٹ کے انکار اور جھوٹی تاریخ پھیلانے میں مدد دے رہی ہے۔
بدنیتی پر مبنی عناصر اے آئی کا استعمال بڑے پیمانے پر جعلی مواد تیار کرنے کے لیے کر رہے ہیں۔ وہ اس کا استعمال جعلی عینی شاہدین کے بیانات اور تبدیل شدہ تاریخی تصاویر بنانے کے لیے کرتے ہیں۔
موجودہ حفاظتی اصول اکثر ناکام ہو جاتے ہیں۔ صارفین سادہ پرامپٹس (prompts) کے ذریعے فلٹرز کو نظر انداز کرنے کے طریقے تلاش کر لیتے ہیں۔ وہ براہ راست انکار کے لیے نہیں کہتے، بلکہ اس کے بجائے اے آئی سے ایسی افسانوی کہانیاں لکھنے کو کہتے ہیں جو تاریخی حقائق پر سوال اٹھاتی ہوں۔
رپورٹ میں کئی بڑے خطرات کی نشاندہی کی گئی ہے:
- اے آئی ماڈلز ٹریننگ ڈیٹا کی بنیاد پر الفاظ کی پیش گوئی کرتے ہیں۔ اگر اس ڈیٹا میں سازشی نظریات شامل ہوں، تو اے آئی جھوٹے دعوے پیش کرتا ہے۔
- خودکار اسکرپٹس ایک ہی وقت میں ہزاروں جعلی مضامین تیار کر دیتے ہیں۔
- "سافٹ ڈینائل" (Soft denial) نسل کشی کی شدت کو کم کرنے کے لیے غیر جانبدارانہ زبان استعمال کرتا ہے۔ مشینوں کے لیے اسے پکڑنا مشکل ہوتا ہے۔
- ڈیپ فیکس (Deepfakes) جھوٹ کو حقیقت دکھانے کے لیے کلون شدہ آوازوں اور ویڈیوز کا استعمال کرتے ہیں۔
- امیج جنریٹرز ایسے واقعات کی حقیقت پسندانہ تصاویر بناتے ہیں جو کبھی پیش ہی نہیں آئے۔
زبانوں کے حوالے سے فرق بھی موجود ہے۔ حفاظتی اصول اکثر انگریزی میں تو مضبوط ہوتے ہیں لیکن عربی، فرانسیسی یا جرمن جیسی زبانوں میں کمزور ہوتے ہیں۔ اس سے غلط معلومات کو عالمی سطح پر پھیلنے کا موقع ملتا ہے۔
UNESCO چاہتا ہے کہ ٹیک کمپنیاں زیادہ ذمہ داری لیں۔ ان کا مشورہ ہے کہ کمپنیوں کو ان نتائج (outputs) کے لیے جوابدہ ہونا چاہیے جو ثابت شدہ تاریخی حقائق کے منافی ہوں۔
کچھ کمپنیاں سرکاری آرکائیوز کے مقابلے میں حقائق کی جانچ کے لیے خصوصی نظام استعمال کرتی ہیں۔ تاہم، یہ ابھی تک ایک معیاری طریقہ کار نہیں بنا ہے۔
ہمیں بہتر ڈیجیٹل خواندگی کی ضرورت ہے۔ آپ کو یہ سمجھنا چاہیے کہ اے آئی ماڈلز کیسے کام کرتے ہیں اور وہ معلومات کو کس طرح تشکیل دیتے ہیں۔
Source: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
Optional learning community: https://t.me/GyaanSetuAi