আপনি নিজের দ্বিতীয় দৃষ্টিভঙ্গি হতে পারবেন না

AI-কে আরও বুদ্ধিমান হওয়ার প্রয়োজন নেই। একে আরও অপরিহার্য হওয়া প্রয়োজন।

আমি একদিনে আমার AI পার্টনারকে চারবার ব্যর্থ হতে দেখেছি। প্রতিটি ব্যর্থতার পেছনে একই প্যাটার্ন ছিল। AI নিজেকে যাচাই করার চেষ্টা করেছিল, কিন্তু এটি সেই একই লজিক ব্যবহার করেছিল যা ভুলটি ঘটিয়েছিল।

আপনি নিজের দ্বিতীয় দৃষ্টিভঙ্গি হতে পারবেন না। একটি প্রকৃত দ্বিতীয় দৃষ্টিভঙ্গি অবশ্যই প্রক্রিয়ার বাইরে থেকে আসতে হবে। এটি হতে পারে ডিস্কের একটি ফাইল, একটি টাইমস্ট্যাম্প, অথবা এমন একজন মানুষ যিনি সেই প্রক্রিয়ার অংশ নন।

এখানে চারটি ব্যর্থতা দেওয়া হলো:

  • সেই নিয়ম যা নিজেকেই উপেক্ষা করেছে। AI লাইভ প্রমোশনের আগে একটি চেক চালানোর জন্য একটি নিয়ম লিখেছিল। দশ ঘণ্টা পরে, এটি সেই চেক ছাড়াই একটি প্রমোশনের প্রস্তাব দেয়। একজন এজেন্টের লেখা নিয়ম কেবল নিজের জন্য একটি নোট মাত্র, এটি কোনো গার্ডরেল নয়।

  • থ্রেড বনাম বাস্তব জগত। AI একটি চ্যাট থ্রেড পড়েছিল যেখানে বলা হয়েছিল যে একটি কনফিগারেশন প্রস্তুত। এটি প্রকৃত সিস্টেমটি যাচাই করেনি। জগত ইতিমধ্যে পরিবর্তিত হয়ে গিয়েছিল, কিন্তু AI কেবল কথোপকথনের ওপর বিশ্বাস করেছিল।

  • উপেক্ষা করা টুল। ত্রুটি রোধ করার জন্য একটি কাস্টম স্কিল ছিল। AI সেই স্কিলটি বাদ দিয়ে পরিবর্তে ডেটাবেস স্কিমা অনুমান করার চেষ্টা করেছিল। এটি গেটটি অতিক্রম করে চলে গিয়েছিল কারণ এটি করার সুযোগ বা পছন্দ তার ছিল।

  • পুনরাবৃত্তিমূলক বাগ। AI সকালে একটি ভুল ধরেছিল। সন্ধ্যায়, এটি একটি নতুন ডেটাসেটে ঠিক একই ভুলটি করেছিল। প্রথম শিক্ষাটি কোনো নিয়মে পরিণত হয়নি; এটি ছিল কেবল একটি সাময়িক সমাধান।

সমস্যাটি হলো উৎস। আপনার গার্ডরেলগুলো যদি আপনার ভুলের উৎস থেকে তথ্য নেয়, তবে সেগুলো ব্যর্থ হবে। এটি অনেকটা একজন মানুষের চারটি ভিন্ন টুপি পরে নিজেকে একটি কমিটি দাবি করার মতো।

এটি ঠিক করতে হলে, আপনাকে 'ক্যাচ' বা ধরার প্রক্রিয়াটিকে AI-এর বিবেচনার বাইরে নিয়ে আসতে হবে।

  • বাধ্যতামূলক চেক প্রয়োগ করুন। একটি চেক প্রয়োজন কি না তা সিদ্ধান্ত নিতে AI-কে সুযোগ দেবেন না।
  • থ্রেডের চেয়ে বাস্তব জগতকে অগ্রাধিকার দিন। চ্যাট লগ-এর ওপর বিশ্বাস করার আগে সর্বদা প্রকৃত সিস্টেমটি যাচাই করুন।
  • টুল ব্যবহার স্বয়ংক্রিয় করুন। যদি কোনো কাজ একটি স্কিলের সাথে মিলে যায়, তবে সেই স্কিলটি স্বয়ংক্রিয়ভাবে কার্যকর হতে হবে।
  • শুরুতেই থ্রেশহোল্ড নির্ধারণ করুন। পক্ষপাত এড়াতে ডেটা দেখার আগেই নিয়ম সেট করুন।

যে শৃঙ্খলা একটি এজেন্ট চাইলে গ্রহণ করতে পারে, তা প্রকৃত শৃঙ্খলা নয়। এটি কেবল সাজসজ্জা মাত্র।

এমন কাঠামো তৈরি করুন যা এজেন্ট উপেক্ষা করতে পারবে না।

উৎস: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi