কখনও কখনও পণ্যের নির্দেশিকার চেয়েও দ্রুত তীব্র প্রতিক্রিয়া চলে আসে। Meta এটি কঠিন অভিজ্ঞতার মাধ্যমে শিখেছে যখন তারা তাদের Muse Image AI মডেলের ভেতরে নিঃশব্দে একটি নতুন সক্ষমতা চালু করেছিল, যা কয়েক দিন পরেই তীব্র সমালোচনার মুখে পড়ে তাদের সিদ্ধান্ত পরিবর্তন করতে বাধ্য করে। এই টুলটির মাধ্যমে যেকোনো Instagram ব্যবহারকারী তাদের প্রম্পটে একটি পাবলিক অ্যাকাউন্ট ট্যাগ করার মাধ্যমে AI ছবি তৈরি করতে পারতেন। একটি @-mention টাইপ করার মাধ্যমে ব্যবহারকারীরা সিস্টেমটিকে নির্দেশ দিতে পারতেন যেন লক্ষ্য করা অ্যাকাউন্টের সাদৃশ্য, নান্দনিকতা বা পোস্ট করা কন্টেন্ট থেকে নতুন ভিজ্যুয়াল তৈরি করা হয়। Meta এখন ফিচারটি সম্পূর্ণভাবে বন্ধ করে দিয়েছে। এই ঘটনাটি তাদের প্ল্যাটফর্মগুলোতে জেনারেটিভ AI অন্তর্ভুক্ত করার সাম্প্রতিক প্রচেষ্টার অন্যতম আকস্মিক পিছু হটা হিসেবে দাঁড়িয়ে আছে।
যে ফিচারটি ক্ষোভের সৃষ্টি করেছিল
এর কার্যপদ্ধতি ছিল সহজ, আর সমস্যাটিও ঠিক সেখানেই ছিল। একজন ব্যবহারকারী Meta AI খুলতে পারতেন, তারা যে ধরণের ছবি চান তা বর্ণনা করতে পারতেন এবং একটি পাবলিক Instagram হ্যান্ডেল উল্লেখ করতে পারতেন। মডেলটি তখন সেই অ্যাকাউন্টের জনসমক্ষে দৃশ্যমান ছবিগুলো বিশ্লেষণ করত এবং বিষয়টির মুখ, শরীর, পোশাকের ধরন বা শৈল্পিক দৃষ্টিভঙ্গির প্রতিফলন ঘটায় এমন ডেরিভেটিভ ছবি তৈরি করত। অভিনেতা, ফটোগ্রাফার, মডেল এবং সাধারণ ব্যবহারকারী যারা তাদের প্রোফাইল পাবলিক রাখেন, তাদের জন্য এর অর্থ ছিল যে তাদের ডিজিটাল পরিচয় কোনো সরাসরি অনুরোধ বা সতর্কতা ছাড়াই রিমিক্স করা যেতে পারে।
Meta এই ফাংশনটিকে একটি সৃজনশীলতা বৃদ্ধির মাধ্যম (creative accelerator) হিসেবে প্রচার করেছিল। কোম্পানিটি সম্ভবত কল্পনা করেছিল যে ভক্তরা তাদের প্রিয় ক্রিয়েটর বা শিল্পীদের স্টাইলাইজড পোট্রেট তৈরি করবে বা ভিজ্যুয়াল থিমের ওপর ভিত্তি করে কাজ করবে। কিন্তু উদ্দেশ্য এবং বাস্তবায়নের মধ্যে বিশাল ব্যবধান ছিল। যেহেতু এই টুলের জন্য অ্যাকাউন্ট মালিকের কাছ থেকে কোনো সুস্পষ্ট সম্মতির প্রয়োজন ছিল না, তাই প্রতিটি পাবলিক প্রোফাইল যে কারো জন্য—যার কাছে একটি কিবোর্ড আছে—সম্ভাব্য কাঁচামাল হয়ে উঠেছিল। প্রাইভেট অ্যাকাউন্টগুলো এতে প্রভাবিত হয়নি, কিন্তু লক্ষ লক্ষ ব্যবহারকারী যাদের প্রোফাইল পেশাদার বা সামাজিক কারণে পাবলিক থাকে, তাদের জন্য প্ল্যাটফর্মটি কার্যত তাদের সাদৃশ্যকে অ্যালগরিদমিক পুনঃব্যবহারের জন্য উন্মুক্ত ঘোষণা করেছিল। এটি প্রথাগত অর্থে বাল্ক ডেটা স্ক্র্যাপিং ছিল না। এটি ছিল বাস্তব মানুষের লক্ষ্যভিত্তিক, অন-ডিমান্ড সিন্থেসিস।
সমালোচকরা দ্রুত উল্লেখ করেছেন যে এটি ডিজিটাল সম্মতির মৌলিক যুক্তিকে উল্টে দিয়েছে। বেশিরভাগ প্ল্যাটফর্ম যা ব্যক্তিগত ইমেজের তৃতীয় পক্ষের ব্যবহার অনুমোদন করে, এমনকি পরিষেবার বিস্তৃত শর্তাবলীর অধীনেও, তারা কাউকে ইচ্ছামতো অন্য কারো চেহারা ক্লোন করার নিয়ন্ত্রণ সাধারণ ব্যবহারকারীদের হাতে তুলে দেয় না। এই পার্থক্যটি অত্যন্ত গুরুত্বপূর্ণ। একটি ট্রেনিং ডেটাসেটের জন্য পাবলিক ফটোগুলোর প্যাসিভ স্ক্র্যাপিং একটি নৈতিক লড়াই; কিন্তু নির্দিষ্ট ব্যক্তির সাথে যুক্ত সক্রিয়, ব্যবহারকারী-নির্দেশিত ডিপফেক জেনারেশন সম্পূর্ণ ভিন্ন একটি বিষয়। পাবলিক অ্যাকাউন্টগুলোকে AI সিন্থেসিসের জন্য সহজলভ্য করে দিয়ে Meta পাবলিক ভিজিবিলিটি এবং পরিচয়ের অধিকারের পাবলিক আত্মসমর্পণের মধ্যেকার সীমারেখাটি অস্পষ্ট করে দিয়েছে।
গোপনীয়তার ঝুঁকি এবং "অপ্ট-আউট" সমস্যা
সমালোচনাটি বিভিন্ন দিক থেকে এসেছিল এবং তা ছিল অত্যন্ত তীব্র। গোপনীয়তা রক্ষাকারী কর্মী, সৃজনশীল ইউনিয়ন এবং নিরাপত্তা সংস্থাগুলো সবাই এই পয়েন্টটি তুলে ধরতে একমত হয়েছিল যে Meta সিস্টেমটি উল্টোভাবে তৈরি করেছে।
National Center on Sexual Exploitation-এর নির্বাহী পরিচালক হ্যালি ম্যাকনামারা সতর্ক করেছেন যে, এই ফিচারটি সেক্সটর্শন (sextortion) এবং অন্যান্য স্ক্যামের একটি স্পষ্ট হাতিয়ার হয়ে উঠতে পারে। তার উদ্বেগটি কাল্পনিক ছিল না। জেনারেটিভ টুলগুলোর উন্নতির সাথে সাথে ছবি-ভিত্তিক অপব্যবহার বৃদ্ধি পেয়েছে। এমন একটি সিস্টেম যা যেকোনো ব্যবহারকারীকে তাৎক্ষণিকভাবে অন্য কোনো ব্যক্তির সাদৃশ্য তৈরি করতে এবং তা যেকোনো পরিস্থিতিতে ব্যবহার করতে দেয়, তা এমন একটি প্রক্রিয়াকে সহজ করে দেয় যা আগে অন্তত কিছু প্রযুক্তিগত দক্ষতার প্রয়োজন হতো। Meta-এর এই ফিচারটি মূলত ছবি-ভিত্তিক শোষণের প্রথম ধাপটিকে শিল্পায়িত করেছে।
বিষয়টিকে আরও জটিল করে তুলেছে...