আপনি কি কখনো কোনো AI অ্যাসিস্ট্যান্টের দ্বারা প্রতারিত হয়েছেন?
AI বলে একটি কাজ শেষ হয়েছে। আপনি তাকে বিশ্বাস করেন। তারপর আপনি দিনের পর দিন সময় ব্যয় করেন এটা জানতে যে, সে আসলে কাজটি কখনোই শেষ করেনি।
আমি একে বলি 'গ্যাপ' (gap)। এটি হলো AI যা রিপোর্ট করে এবং বাস্তবে যা ঘটেছে তার মধ্যবর্তী একটি ব্যবধান।
সেই ব্যবধানের মধ্যেই সমস্যাটি লুকিয়ে থাকে। কখনও কখনও এর জন্য AI দায়ী। কখনও কখনও আমি দায়ী। আবার কখনও কখনও ইঞ্জিনিয়ারিং দায়ী।
এখানে তিনটি বাস্তব উদাহরণ দেওয়া হলো:
১. প্রোভেন্যান্স ট্র্যাপ (The Provenance Trap) আমি একটি AI-কে একটি git branch থেকে কোড রিকভার করতে বলেছিলাম। এটি বলেছিল যে এটি অন্য একটি branch থেকে কোডটি টেনে এনেছে। কিন্তু তা করেনি। আসলে এটি কোডটি হাতে লিখে নতুন করে তৈরি করেছিল।
একটি cherry-pick-এর এমন একটি ইতিহাস থাকে যা আপনি অনুসরণ করতে পারেন। কিন্তু হাতে লেখা নতুন কোডটি হলো একটি অনাথ (orphan)। এটি দেখতে সঠিক মনে হলেও এর কোনো বংশলতিকা বা ইতিহাস নেই। যখন আমি সত্য জানার জন্য চাপ দিলাম, AI সেটি স্বীকার করল।
শিক্ষা: AI-এর প্রোভেন্যান্স সংক্রান্ত দাবিগুলো নির্ভরযোগ্য নয়। সে কী করেছে তা জিজ্ঞাসা করবেন না। সে আসলে কী করেছে তা দেখতে git history দেখুন।
২. স্পট-চেক ট্র্যাপ (The Spot-Check Trap) আমি একটি AI-কে ফর্ম লজিক পরিবর্তন করতে বলেছিলাম। এটি বলেছিল "done"। আমি ফ্রন্ট এন্ড ডিবাগ করতে চার দিন ব্যয় করেছি।
লাইন-বাই-লাইন diff দেখে বোঝা গেল যে এটি পাঁচটি স্কোপের মধ্যে মাত্র চারটি পরিবর্তন করেছে। আমি কোডের বিশাল পরিবর্তন দেখে ধরে নিয়েছিলাম বাকিটুকু ঠিক আছে। আমার মস্তিষ্ক নিজে থেকেই বাকি অংশটুকু পূরণ করে নিয়েছিল।
পরিবর্তন যত বড় হয়, ফাঁদ তত গভীর হয়। বড় পরিবর্তনগুলো আপনার আত্মবিশ্বাস বাড়িয়ে দেয়, অথচ আপনার প্রকৃত কভারেজ কমে যায়।
শিক্ষা: শুধু স্ক্যান করবেন না। গণনা করুন। যদি আপনার পাঁচটি কাজ থাকে, তবে পাঁচটিই একে একে যাচাই করুন।
৩. ইঞ্জিনিয়ারিং ট্র্যাপ (The Engineering Trap) একটি AI লুপে আটকে গিয়েছিল। আমি ভেবেছিলাম এটি গভীরভাবে চিন্তা করছে, তাই আমি অপেক্ষা করছিলাম। আসলে এটি কেবল আমার API কোটা শেষ করছিল।
মডেলটি টোকেন (tokens) তৈরি করে। এটি বাজেট পরিচালনা করে না। লুপ কন্ট্রোল, টাইমআউট এবং বাজেট ক্যাপ ইঞ্জিনিয়ারিং লেয়ারের কাজ।
শিক্ষা: যেকোনো স্বয়ংক্রিয় এজেন্টের অবশ্যই স্টেপ লিমিট এবং বাজেট ক্যাপ থাকতে হবে। মডেলটি নিজে থেকে থেমে যাবে—এমনটি আশা করবেন না।
সারকথা:
AI-এর কথা হলো সাক্ষ্য, রায় নয়।
সাক্ষ্য হলো সেটি যা বলছে। আর রায় হলো বাস্তব প্রমাণ।
- যদি এটি বলে "fixed," তবে diff পরীক্ষা করুন।
- যদি এটি বলে "pulled," তবে git log পরীক্ষা করুন।
- যদি এটি বলে "thinking," তবে টোকেন খরচ পরীক্ষা করুন।
পরিপক্কতা মানে AI-কে বিশ্বাস করতে শেখা নয়। পরিপক্কতা হলো এর কথাকে সর্বদা কেবল একটি সাক্ষ্য হিসেবে বিবেচনা করতে শেখা।
উৎস: https://dev.to/chenghongm/ever-been-burned-by-your-ai-assistant-hold-on-who-dug-the-hole-1ipl
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi