TikTok একটি AI-চালিত ডিপফেক ডিটেক্টর পরীক্ষা করা শুরু করেছে, যা মার্কিন ক্রিয়েটরদের তাদের অনুমতি ছাড়া AI-জেনারেটেড বা কৃত্রিমভাবে তৈরি করা তাদের চেহারার সংস্করণগুলো প্ল্যাটফর্মে খুঁজে বের করতে সাহায্য করবে। এই অপ্ট-ইন পরিষেবাটি এমন সব সিন্থেটিক ভিডিও এবং ছবি শনাক্ত করবে যা কোনো ক্রিয়েটরের অবয়ব বা চেহারা ব্যবহার করে তৈরি করা হয়েছে।
কেন এই পদক্ষেপটি গুরুত্বপূর্ণ
জেনারেটিভ AI এখন এমন অতি-বাস্তবসম্মত (hyper-realistic) ভিডিও তৈরি করতে পারে, যা যেকোনো মানুষের মুখ যেকোনো শরীরে বসিয়ে দিতে সক্ষম।
টুলটি কীভাবে কাজ করে
মার্কিন যুক্তরাষ্ট্রের ক্রিয়েটরদের একটি ছোট দল যারা এই পরিষেবায় অংশ নিতে চেয়েছেন, তারা একটি ড্যাশবোর্ড পাবেন যেখানে TikTok-এর সিস্টেম এমন সব কন্টেন্ট তালিকাভুক্ত করবে যেগুলোকে AI তাদের যাচাইকৃত চেহারার বৈশিষ্ট্যের সাথে মিল রয়েছে বলে শনাক্ত করেছে। ক্রিয়েটররা এই ফলাফলগুলো পর্যালোচনা করবেন এবং তাদের ছবি বা অবয়ব অপব্যবহারকারী পোস্ট বা অ্যাকাউন্টের বিরুদ্ধে রিপোর্ট করবেন।
অপব্যবহার রোধ করতে, TikTok প্রতিটি অংশগ্রহণকারীকে Jumio নামক একটি তৃতীয় পক্ষের ভেরিফিকেশন সার্ভিসের মাধ্যমে একটি কঠোর পরিচয় যাচাইকরণ সম্পন্ন করতে বাধ্য করে। এই যাচাইকরণের জন্য রিয়েল-টাইম সেলফি স্ক্যান এবং সরকারিভাবে ইস্যু করা একটি পরিচয়পত্র প্রয়োজন। TikTok জানিয়েছে যে তারা আপলোড করা আইডিগুলো সংরক্ষণ করে না; এটি কেবল ডিটেকশন ইঞ্জিনের ভেতরে চেহারার মিল খুঁজে বের করার জন্য ফেসিয়াল ডেটা ব্যবহার করে।
বৃহত্তর প্রতিযোগিতা
ডিপফেক সুরক্ষা ব্যবস্থা চালু করা প্রথম প্ল্যাটফর্ম TikTok নয়। YouTube সম্প্রতি সকল প্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য অনুরূপ একটি ডিটেকশন ফিচার চালু করেছে, যা ডিজিটাল পরিচয় রক্ষার জন্য শিল্পের একটি সম্মিলিত প্রচেষ্টাকে নির্দেশ করে। লার্জ ল্যাঙ্গুয়েজ মডেল এবং ডিফিউশন মডেলগুলো উন্নত হওয়ার সাথে সাথে, সিন্থেটিক "ডিজিটাল হিউম্যান" ফিডে এত দ্রুত ছড়িয়ে পড়ছে যে ম্যানুয়াল মডারেটরদের পক্ষে তা সামলানো কঠিন হয়ে পড়ছে।
পরবর্তী পদক্ষেপ কী
এই পরীক্ষামূলক প্রকল্পটি বর্তমানে মার্কিন যুক্তরাষ্ট্র এবং স্বেচ্ছায় অংশগ্রহণকারী ক্রিয়েটরদের মধ্যেই সীমাবদ্ধ।
মূল কথা: TikTok-এর ডিপফেক ডিটেকশন পরীক্ষাটি ক্রিয়েটরদের পরিচয় সুরক্ষায় একটি সক্রিয় পদক্ষেপ হিসেবে চিহ্নিত হচ্ছে; এর প্রভাব নির্ভর করবে কঠোর ভেরিফিকেশন এবং ক্রিয়েটরদের প্রত্যাশিত সহজলভ্যতার মধ্যে এটি কতটা ভারসাম্য বজায় রাখতে পারে তার ওপর।