کبھی کبھی ردعمل پروڈکٹ مینوئل سے بھی زیادہ تیزی سے آ جاتا ہے۔ میٹا کو یہ سبق ایک مشکل طریقے سے سیکھنا پڑا جب اس نے خاموشی سے متعارف کروایا

کبھی کبھی ردعمل پروڈکٹ مینوئل سے بھی زیادہ تیزی سے پہنچ جاتا ہے۔ Meta کو یہ سبق بڑی مشکل سے سیکھنا پڑا جب اس نے خاموشی سے اپنے Muse Image AI ماڈل کے اندر ایک نئی صلاحیت متعارف کرائی، لیکن چند ہی دنوں بعد تنقید کے طوفان کے باعث اسے واپس لینا پڑا۔ اس ٹول کے ذریعے Instagram کا کوئی بھی صارف محض اپنے پرامپٹ (prompt) میں کسی عوامی اکاؤنٹ کو ٹیگ کر کے AI تصاویر تیار کر سکتا تھا۔ @-mention ٹائپ کر کے، صارفین سسٹم کو اس قابل بنا سکتے تھے کہ وہ متعلقہ اکاؤنٹ کی شبیہ، جمالیات یا پوسٹ کردہ مواد سے اخذ کردہ نئی بصری تصاویر تیار کرے۔ Meta نے اب اس فیچر کو مکمل طور پر غیر فعال کر دیا ہے۔ یہ واقعہ کمپنی کی اپنے پلیٹ فارمز پر جنریٹیو AI کو ضم کرنے کی حالیہ کوششوں میں سب سے اچانک پیچھے ہٹنے والے واقعات میں سے ایک ہے۔

وہ فیچر جس نے اشتعال پیدا کیا

اس کا طریقہ کار سادہ تھا، اور یہی اصل مسئلہ تھا۔ ایک صارف Meta AI کھول سکتا تھا، اس تصویر کی وضاحت کر سکتا تھا جو وہ چاہتا تھا، اور ایک عوامی Instagram ہینڈل کا حوالہ دے سکتا تھا۔ ماڈل پھر اس اکاؤنٹ کی عوامی طور پر نظر آنے والی تصاویر کا تجزیہ کرتا اور ایسی مشابہ تصاویر تیار کرتا جو اس شخص کے چہرے، جسم، لباس کے انداز یا فنی انداز کی عکاسی کرتی تھیں۔ اداکاروں، فوٹوگرافروں، ماڈلز اور روزمرہ کے صارفین کے لیے جنہوں نے اپنی پروفائلز کو عوامی (public) رکھا ہوا تھا، اس کا مطلب یہ تھا کہ ان کی ڈیجیٹل شناختوں کو کسی براہ راست درخواست یا وارننگ کے بغیر دوبارہ ترتیب (remix) دیا جا سکتا تھا۔

Meta نے اس فنکشن کو تخلیقی عمل کو تیز کرنے والے ٹول کے طور پر پیش کیا۔ کمپنی نے غالباً یہ تصور کیا ہوگا کہ مداح اپنے پسندیدہ تخلیق کاروں یا فنکاروں کے اسٹائلائزڈ پورٹریٹ بنائیں گے یا بصری موضوعات پر کام کریں گے۔ لیکن ارادے اور عملدرآمد کے درمیان ایک بہت بڑا فرق تھا۔ چونکہ اس ٹول کے لیے اکاؤنٹ کے مالک کی واضح رضامندی کی ضرورت نہیں تھی، اس لیے ہر عوامی پروفائل کی بورڈ استعمال کرنے والے کسی بھی شخص کے لیے ممکنہ خام مال بن گئی۔ نجی (private) اکاؤنٹس متاثر نہیں ہوئے، لیکن لاکھوں صارفین جن کی پروفائلز پیشہ ورانہ یا سماجی وجوہات کی بنا پر عوامی ہیں، ان کے لیے پلیٹ فارم نے عملی طور پر ان کی شبیہ کو الگورتھمک دوبارہ استعمال کے لیے کھلا قرار دے دیا۔ یہ روایتی معنوں میں ڈیٹا کی بڑی مقدار میں سکریپنگ (scraping) نہیں تھی۔ یہ حقیقی لوگوں کی ہدف شدہ اور آن ڈیمانڈ سنتھیسز (synthesis) تھی۔

ناقدین نے فوری طور پر اشارہ کیا کہ اس نے ڈیجیٹل رضامندی کی بنیادی منطق کو ہی الٹ دیا ہے۔ زیادہ تر پلیٹ فارمز جو ذاتی تصاویر کے تیسرے فریق کے استعمال کی اجازت دیتے ہیں، یہاں تک کہ سروس کی وسیع شرائط کے تحت بھی، کسی کو اپنی مرضی سے کسی کی ظاہری شکل کا کلون بنانے کا اختیار نہیں دیتے۔ یہ فرق اہمیت رکھتا ہے۔ ٹریننگ ڈیٹا سیٹ کے لیے عوامی تصاویر کی غیر فعال سکریپنگ ایک اخلاقی جنگ ہے؛ جبکہ مخصوص افراد سے منسلک فعال، صارف کے زیرِ ہدایت ڈیپ فیک (deepfake) کی تیاری بالکل مختلف معاملہ ہے۔ عوامی اکاؤنٹس کو AI سنتھیسز کے لیے آسان ہدف بنا کر، Meta نے عوامی موجودگی اور شناخت کے حقوق کی عوامی طور پر دستبرداری کے درمیان لکیر کو دھندلا دیا ہے۔

رازداری کے خطرات اور "آپٹ آؤٹ" کا مسئلہ

تنقید مختلف سمتوں سے آئی، اور یہ کافی سخت تھی۔ رازداری کے علمبرداروں، تخلیقی یونینوں اور حفاظتی تنظیموں نے اس بات کی نشاندہی کرنے کے لیے ایک ساتھ آواز اٹھائی کہ Meta نے اس سسٹم کو الٹی سمت سے بنایا ہے۔

نیشنل سینٹر آن سیکسول ایکسپلائٹیشن کی ایگزیکٹو ڈائریکٹر، ہیلی میک نارامنا نے خبردار کیا کہ یہ فیچر سیکس ٹورشن (sextortion) اور دیگر دھوکہ دہی کے لیے ایک واضح ہتھیار بن سکتا ہے۔ ان کا خدشہ محض فرضی نہیں تھا۔ جیسے جیسے جنریٹیو ٹولز میں بہتری آئی ہے، تصویر پر مبنی بدسلوکی میں اضافہ ہوا ہے۔ ایک ایسا سسٹم جو کسی بھی صارف کو فوری طور پر دوسرے شخص کی شبیہ کے قریب ترین شکل بنانے اور اسے کسی بھی منظر میں رکھنے کی اجازت دیتا ہے، اس عمل کی رکاوٹ کو ختم کر دیتا ہے جس کے لیے پہلے کم از کم کچھ تکنیکی مہارت کی ضرورت ہوتی تھی۔ Meta کے اس فیچر نے بنیادی طور پر تصویر پر مبنی استحصال کے پہلے مرحلے کو صنعتی شکل دے دی۔

معاملات کو مزید پیچیدہ بنانے والی چیز تھی