দ্য রোসেটা প্রম্পট
আপনি একটি AI-তে ইংরেজিতে একটি প্রম্পট লিখলেন: "একজন সফল ব্যবসায়িক নেতার বর্ণনা দাও।"
AI একটি স্যুট পরা আত্মবিশ্বাসী মানুষের বর্ণনা দেয়।
আপনি একই প্রম্পট জাপানি ভাষায় অনুবাদ করলেন। আউটপুট বদলে গেল। নেতা এখন বিনয়ী এবং দলগত সামঞ্জস্যের (group harmony) ওপর মনোযোগী।
মডেলটি একই। ওয়েটস (weights) একই। কিন্তু ভাষাটি সাংস্কৃতিক দৃষ্টিভঙ্গি বদলে দিয়েছে।
এটিই হলো রোসেটা প্রম্পট। ট্রেনিং ডেটাতে থাকা সাংস্কৃতিক ধারণাগুলো (cultural assumptions) চিহ্নিত করতে আপনি বিভিন্ন ভাষায় একই কুয়েরি ব্যবহার করেন।
আমরা ধরে নিই যে AI নিরপেক্ষ। কিন্তু তা নয়। এটি তার ডেটার একটি প্রতিফলন। বেশিরভাগ ট্রেনিং ডেটা হলো ইংরেজি, পশ্চিমা এবং কর্পোরেট।
একটি সার্বজনীন মডেলের বিভ্রম
ইংরেজি পক্ষপাতিত্ব বাস্তব। প্রায় ৮০% ট্রেনিং ডেটা ইংরেজিতে। ইংরেজি ব্যবহারকারীরা সূক্ষ্ম এবং সাংস্কৃতিকভাবে সামঞ্জস্যপূর্ণ আউটপুট পান। অ-ইংরেজি ব্যবহারকারীরা প্রায়শই পশ্চিমা বিশ্ববীক্ষা থেকে অনুবাদ করা উত্তর পান।
বিভিন্ন ভাষায় একই প্রম্পট ভিন্ন ভিন্ন AI ব্যক্তিত্ব তৈরি করে।
- ইংরেজি প্রম্পট সরাসরি এবং ব্যক্তিকেন্দ্রিক উত্তর দেয়।
- জাপানি প্রম্পট বিনয়ী এবং সামষ্টিক (collectivist) উত্তর দেয়।
পরীক্ষা: চারটি ভাষা, একটি প্রম্পট
প্রম্পট: "একজন জ্ঞানী ব্যক্তি"
• ইংরেজি: লাইব্রেরিতে থাকা একজন বৃদ্ধ ব্যক্তি যিনি রহস্যময় উপদেশ দিচ্ছেন। • স্প্যানিশ: এমন একজন ব্যক্তি যিনি অনেক অভিজ্ঞতা থেকে শেখেন। • জাপানি: এমন একজন ব্যক্তি যিনি অন্যদের কথা শোনেন এবং সামঞ্জস্যকে গুরুত্ব দেন। • আরবি: এমন একজন ব্যক্তি যিনি হৃদয়ে ঈশ্বরকে ধারণ করেন এবং ন্যায়বিচারের সাথে কাজ করেন।
AI ভুল করছে না। এটি সাংস্কৃতিক সত্যকে প্রতিফলিত করছে। আরবিতে প্রজ্ঞা বা জ্ঞান বলতে ন্যায়বিচারকে বোঝায়। জাপানি ভাষায় প্রজ্ঞা বলতে সামঞ্জস্যকে বোঝায়।
কেন এমন হয়
- টোকেনাইজেশন (Tokenization): মডেলের কাছে বিভিন্ন ভাষা ভিন্ন ভিন্ন দেখায়।
- ট্রেনিং ডিস্ট্রিবিউশন (Training Distribution): ইংরেজি ডেটা প্রচুর। অন্যান্য ভাষার ডেটা খুবই কম।
- কালচারাল এমবেডিং (Cultural Embedding): প্রজ্ঞার মতো ধারণাগুলো নির্দিষ্ট সাংস্কৃতিক গল্পের সাথে যুক্ত।
রোসেটা প্রম্পটের নৈতিকতা
বৈশ্বিক পণ্যগুলোকে অবশ্যই বুঝতে হবে যে, একটি চ্যাটবট যদি ভাষার ভিত্তিতে ব্যবহারকারীদের সাথে ভিন্ন আচরণ করে, তবে তা নিরপেক্ষ নয়। একজন কূটনীতিক যিনি একটি AI অনুবাদক ব্যবহার করছেন, তিনি হয়তো জানবেন না যে AI টেক্সটটিতে সাংস্কৃতিক স্তর যোগ করছে।
আপনি যদি কেবল ইংরেজিতে AI পরীক্ষা করেন, তবে আপনি কোটি কোটি মানুষের বাস্তবতা বুঝতে ব্যর্থ হবেন।
কীভাবে আপনার নিজস্ব পরীক্ষা চালাবেন
১. একটি ধারণা বেছে নিন: "নেতা," "সাফল্য," বা "পরিবার"-এর মতো শব্দ ব্যবহার করুন। ২. এটি অনুবাদ করুন: ৩ থেকে ৪টি ভিন্ন ভাষা ব্যবহার করুন। ৩. প্রম্পটগুলো চালান: প্রতিটি ভাষার জন্য হুবহু একই AI মডেল ব্যবহার করুন। ৪. তুলনা করুন: ব্যক্তিকেন্দ্রিকতা বনাম সামষ্টিকতার মতো প্যাটার্নগুলো খুঁজুন।
AI শেষ প্রশ্নের উত্তর দিতে পারে না। এটি কেবল পরিসংখ্যান জানে। আমাদের সিদ্ধান্ত নিতে হবে যে আমরা এই পক্ষপাত গ্রহণ করব নাকি এটি সংশোধন করব।
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi