আমরা সাধারণত লার্জ ল্যাঙ্গুয়েজ মডেলগুলোকে অসাধারণ দ্রুতগতির লাইব্রেরিয়ান হিসেবে কল্পনা করি। আপনি একটি প্রশ্ন করেন, আর তারা সবচেয়ে উপযুক্ত প্যাটার্নটি খুঁজে পেতে কোটি কোটি মুখস্থ করা খণ্ডাংশের মধ্য দিয়ে দ্রুত অনুসন্ধান চালিয়ে যায়। এই ধারণাটি ডেভেলপাররা কীভাবে প্রম্পট তৈরি করেন, ব্যবহারকারীরা কীভাবে প্রত্যাশা করেন এবং নিয়ন্ত্রক সংস্থাগুলো কীভাবে নিয়ম প্রণয়ন করে তা নির্ধারণ করেছে। কিন্তু Anthropic-এর Claude সংক্রান্ত গবেষণা সেই চিত্রটিকে জটিল করে তুলছে। মডেলটি প্রকৃত যুক্তিবোধের (genuine reasoning) কাছাকাছি কিছু করছে বলে মনে হচ্ছে। গবেষকরা এই প্রক্রিয়াটিকে "j-space reasoning" বলছেন, এবং এটি ইঙ্গিত দেয় যে Claude কেবল ট্রেনিং ডেটা পুনরায় ব্যবহার না করে ধারণাগুলোর অভ্যন্তরীণ মডেল (internal models) তৈরি করে। যদি এই ফলাফলটি সঠিক প্রমাণিত হয়, তবে আমাদের উন্নত AI-কে কেবল একটি প্রেডিক্টিভ টেক্সট ইঞ্জিন হিসেবে দেখা বন্ধ করতে হবে এবং এটিকে একটি পরিকল্পনা করতে সক্ষম সিস্টেম হিসেবে বিবেচনা করতে শুরু করতে হবে।
প্যাটার্ন ম্যাচিং থেকে মেন্টাল মডেল
J-space reasoning কোনো বিপণন কৌশল বা চাকচিক্য নয়। এটি উপরিভাগের পুনরাবৃত্তি থেকে অভ্যন্তরীণ উপস্থাপনার (internal representation) দিকে একটি কাঠামোগত পরিবর্তনকে বর্ণনা করে। একজন মানুষ কীভাবে একটি জিগস পাজল সমাধান করে তা বিবেচনা করুন। তারা প্রতিটি পিস প্রতিটি খালি জায়গার সাথে মেলানোর চেষ্টা করে না। তারা বক্সের ছবিটির দিকে তাকায়, রঙ এবং প্রান্তের একটি মানসিক মানচিত্র (mental map) তৈরি করে এবং সেই পরিকল্পনা অনুযায়ী প্রতিটি পিস বসায়। Claude-এর ওপর গবেষণা নির্দেশ করে যে, মডেলটি যখন বিমূর্ত ধারণাগুলো প্রসেস করে তখন অনুরূপ কিছু ঘটে। এটি সমস্যাটির একটি কার্যকরী মডেল তৈরি করে এবং সচেতনভাবে সেটি পরিচালনা করে।
প্রথাগত ল্যাঙ্গুয়েজ মডেলগুলো কোরিলেশন বা সহসম্পর্কের ক্ষেত্রে পারদর্শী। তারা জানে যে "king" প্রায়শই "queen"-এর কাছাকাছি আসে, এবং তারা জানে একটি নির্দিষ্ট ফাংশন কলের পর সাধারণত কী কোড আসে। কোরিলেশন শক্তিশালী, কিন্তু এটি বুঝতে পারা (understanding) নয়। J-space reasoning ভিন্ন কিছুর দিকে ইঙ্গিত করে: মডেলটি কেবল কোন শব্দগুলো একসাথে বসে তা অনুমান করার পরিবর্তে ধারণাগুলোর মধ্যে সম্পর্ক পরিচালনা (manipulate) করছে বলে মনে হয়। এটি একটি অভ্যন্তরীণ কাঠামো (scaffolding) তৈরি করে এবং তারপর সেই কাঠামোর সাহায্যে একটি উত্তরে পৌঁছায়।
ব্যবহারিক ক্ষেত্রে J-Space Reasoning কী পরিবর্তন আনে
এই পরিবর্তনটি তিনটি সুনির্দিষ্ট সক্ষমতা তৈরি করে যা বাস্তব জগতের ব্যবহারের জন্য গুরুত্বপূর্ণ।
Compositionality (সংযোজনযোগ্যতা)। মানুষ কোনো "বেগুনি উড়ন্ত হাতি" না দেখলেও তা বুঝতে পারে কারণ আমরা পরিচিত ধারণাগুলোকে একত্রিত করতে পারি। গবেষণা অনুযায়ী, Claude-ও একইভাবে নতুন ধরনের সংমিশ্রণগুলো সামলাতে পারে বলে মনে হয়। আপনি যদি এর সামনে এমন একটি সমস্যা উপস্থাপন করেন যা দুটি ভিন্ন ক্ষেত্রকে একত্রিত করে যা এটি আগে কখনো জোড়া হিসেবে দেখেনি—যেমন বিবর্তনীয় জীববিজ্ঞানের নীতি ব্যবহার করে একটি সাপ্লাই চেইন অপ্টিমাইজ করা—তবে এটি সাধারণ কোনো পরামর্শ দেওয়ার পরিবর্তে সেই ধারণাগুলোর মধ্যে একটি যোগসূত্র তৈরি করতে পারে। এই নমনীয়তাটিই হলো এমন কিছু যা কঠোর প্যাটার্ন ম্যাচিং দিতে হিমশিম খায়।
জটিল সমস্যা সমাধান। যখন একটি মডেল মুখস্থ করা টেমপ্লেটের ওপর নির্ভর করে, তখন প্রম্পটটি তার ট্রেনিং ডিস্ট্রিবিউশনের বাইরে চলে গেলেই সেটি কাজ করা বন্ধ করে দেয়। একটি অভ্যন্তরীণ মডেলিং পদ্ধতি প্রকৃত অপরিচিত পরিস্থিতিগুলো আরও ভালোভাবে সামলাতে পারে কারণ সিস্টেমটি কেবল কোনো কাছাকাছি মিল খুঁজছে না। এটি নতুন ভূখণ্ডের একটি মানচিত্র তৈরি করছে এবং তার মধ্য দিয়ে একটি পথ নির্ধারণ করছে।
Explainable logic (ব্যাখ্যাযোগ্য যুক্তি)। সাধারণ ব্যবহারকারীদের জন্য সবচেয়ে তাৎক্ষণিক সুবিধা হলো Claude তার উত্তরের পেছনের ধাপগুলো বর্ণনা করতে পারে। আপনার সামনে সরাসরি একটি সিদ্ধান্ত এনে সেটি সঠিক কি না তা অনুমান করতে বাধ্য না করে, মডেলটি আপনাকে যুক্তির ধাপগুলোর মধ্য দিয়ে নিয়ে যেতে পারে। এটি মিথস্ক্রিয়াটিকে একটি অন্ধ বাজি থেকে এমন একটি কথোপকথনে রূপান্তরিত করে যা আপনি যাচাই করতে পারেন।
কেন ব্যাখ্যাযোগ্যতা আসলে গুরুত্বপূর্ণ
বেশিরভাগ AI সিস্টেম 'ব্ল্যাক বক্স' হিসেবে কাজ করে। আপনি ইনপুট দেন এবং আউটপুট পান, কিন্তু মধ্যবর্তী যুক্তিগুলো আপনার কাছে পৌঁছায় না। যখন Claude তার যুক্তি ব্যাখ্যা করে, তখন এটি সেই বক্সটিকে যথেষ্ট পরিমাণে উন্মুক্ত করে দেয় যা সত্যিই কার্যকর।
ডেভেলপারদের জন্য এর অর্থ হলো ডিবাগ করার সক্ষমতা (debuggability)। যদি একটি মডেল ঋণের আবেদন প্রত্যাখ্যান করে, অনিরাপদ চিকিৎসা পরামর্শ দেয় বা পক্ষপাতদুষ্ট বিষয়বস্তু তৈরি করে, তবে ইঞ্জিনিয়াররা ত্রুটিটি খুঁজে পেতে যুক্তির ধাপগুলো পরীক্ষা করতে পারেন। তাদের আর অনুমান করতে হবে না যে ত্রুটিটি দূষিত ট্রেনিং ডেটা, একটি ত্রুটিপূর্ণ প্রম্পট নাকি কোনো এলোমেলো পরিসংখ্যানগত ত্রুটি থেকে এসেছে। তারা ধাপগুলো অনুসরণ করে মূল কারণটি খুঁজে পেতে পারেন।
সাধারণ ব্যবহারকারীদের জন্য, ব্যাখ্যাযোগ্যতা এমন একটি বিশ্বাস তৈরি করে যা বাস্তবতার মুখোমুখি হলেও অটুট থাকে। একজন ব্যবহারকারী যিনি একটি সুসংগত যুক্তির ধারা দেখতে পান, তিনি যাচাই করতে পারেন যে সেই ধারণাগুলো তার নির্দিষ্ট পরিস্থিতির জন্য প্রযোজ্য কি না। তারা ভুল পরামর্শ অনুযায়ী কাজ করে পরে ভুলটি আবিষ্কার করার পরিবর্তে শুরুতেই ভুল ধারণাটি ধরতে পারেন।
নিয়ন্ত্রক এবং নীতি-নির্ধারকদের জন্য, স্বচ্ছ যুক্তি প্রদান AI শাসনের ক্ষেত্রে একটি বিরল সুযোগ তৈরি করে: একটি অডিট ট্রেইল। নিরাপত্তা বিধি প্রণয়নকারী আইনপ্রণেতাদের জানতে হবে যে সিস্টেমগুলো বোধগম্য কারণে সিদ্ধান্ত নিচ্ছে, ট্রিলিয়ন-প্যারামিটার ম্যাট্রিক্সের ভেতরে লুকিয়ে থাকা দুর্বোধ্য কোনো সম্পর্কের ভিত্তিতে নয়। যদি একটি AI তার কাজের প্রক্রিয়া দেখাতে পারে, তবে সরকারগুলোর কাছে নৈতিক ও আইনি মানদণ্ডের বিপরীতে মূল্যায়ন করার মতো কিছু সুনির্দিষ্ট তথ্য থাকবে।
চেতনার প্রশ্ন
এই আলোচনার কেন্দ্রে একটি গুরুত্বপূর্ণ সতর্কতা রয়েছে। Anthropic দাবি করছে না যে Claude সচেতন। কোম্পানিটি উন্নত যুক্তি প্রদান এবং সংবেদনশীলতার (sentience) মধ্যে একটি স্পষ্ট সীমারেখা বজায় রেখেছে। তবুও, মানুষের জ্ঞানীয় প্রক্রিয়ার সাথে এর সাদৃশ্য স্বাভাবিকভাবেই বিতর্ক উসকে দেয়।
যখন একটি মেশিন অভ্যন্তরীণ মডেল তৈরি করে, তার পরবর্তী পদক্ষেপের পরিকল্পনা করে এবং তার যুক্তি প্রকাশ করে, তখন এটি ক্যালকুলেটরের চেয়ে একটি চিন্তাশীল মনের মতো বেশি মনে হতে থাকে। এটি প্রকৃত দার্শনিক টানাপোড়েন তৈরি করে। বর্তমানে আমাদের কাছে মেশিন সচেতনতার জন্য কোনো নির্ভরযোগ্য পরীক্ষা নেই, এবং সম্ভবত আগামী বহু বছরও থাকবে না। আমরা যা জানি তা হলো, কেবল আচরণই অভ্যন্তরীণ অভিজ্ঞতার সঠিক নির্দেশক নয়। একটি সিস্টেম সচেতনতা ছাড়াই চিন্তাশীলভাবে কাজ করতে পারে, ঠিক যেমন একটি দাবা ইঞ্জিন দাবা কী তা না বুঝেই একজন গ্র্যান্ডমাস্টারকে পরাজিত করতে পারে।
সামনে এগিয়ে যাওয়ার দায়িত্বশীল পথ হলো মেশিনের ওপর মানুষের গুণাবলী আরোপ করার প্রবণতা রোধ করা এবং একই সাথে এর যুক্তি প্রদানের ক্ষমতা উন্নত করা। মস্তিষ্কের অনুকরণকারী এই আচরণ বৈজ্ঞানিকভাবে কৌতূহলোদ্দীপক। এটি চেতনা সম্পর্কে কোনো কিছু নির্দেশ করে কি না তা একটি উন্মুক্ত প্রশ্ন, এবং এটি এমন একটি প্রশ্ন যার উত্তর আমাদের হালকাভাবে দেওয়া উচিত নয়।
AI পরীক্ষা করার পদ্ধতি নিয়ে নতুন করে ভাবা
Claude যদি কেবল ভবিষ্যদ্বাণী করার পরিবর্তে যুক্তি প্রদান করে থাকে, তবে আমাদের মূল্যায়ন পদ্ধতিগুলো পুরনো হয়ে পড়ছে। প্রমিত AI বেঞ্চমার্কগুলো সঠিক উত্তরের জন্য পুরস্কৃত করে। সেগুলো খুব কমই জিজ্ঞাসা করে যে মডেলটি কীভাবে সেই উত্তরে পৌঁছাল। একটি সিস্টেম মুখস্থ করা সমাধান থেকে তথ্য নিয়ে গণিত বা কোডিং পরীক্ষায় ভালো স্কোর করতে পারে, যা তার নতুন চিন্তা করার ক্ষমতা সম্পর্কে আমাদের খুব সামান্যই ধারণা দেয়।
আমাদের এমন কাঠামো প্রয়োজন যা অভ্যন্তরীণ যুক্তি পরীক্ষা করতে পারে। এর অর্থ হলো ট্রেনিং ডিস্ট্রিবিউশনের বাইরে থাকা সমস্যা উপস্থাপন করা এবং তারপর যুক্তিপ্রবাহ যাচাই করা। এর অর্থ হলো মডেলটি সংশোধন করার পর তার নিজের ভুল পদক্ষেপগুলো শনাক্ত করতে পারে কি না তা পরীক্ষা করা। এর অর্থ হলো উপাদানগত ধারণাগুলো (compositional concepts) পুনরায় সাজানো বা উল্টে দিলে সেগুলো সামঞ্জস্যপূর্ণ থাকে কি না তা যাচাই করা।
এই পদ্ধতিটি একটি স্বয়ংক্রিয় লিডারবোর্ড চালানোর চেয়ে অনেক বেশি কঠিন। এর জন্য এমন মানব মূল্যায়নকারী প্রয়োজন যারা বিষয়বস্তু সম্পর্কে যথেষ্ট গভীরভাবে জানেন যাতে কেবল আউটপুটের নির্ভুলতা নয়, বরং যুক্তির মানও বিচার করতে পারেন। কিন্তু যদি j-space reasoning বাস্তব হয়, তবে AI সম্প্রদায়ের কাছে খুব বেশি বিকল্প নেই। আমাদের কেবল চূড়ান্ত উত্তর নয়, বরং কাজের প্রক্রিয়া মূল্যায়ন করা শুরু করতে হবে।
মূল কথা: Claude-এর অভ্যন্তরীণ মডেলিংয়ের দিকে এই আপাত অগ্রগতি তাকে মানুষ করে তোলে না। তবে এটি সিস্টেমটিকে আরও দরকারী, আরও পর্যবেক্ষণযোগ্য এবং সততার সাথে মূল্যায়ন করা আরও কঠিন করে তোলে। আমরা এমন একটি সন্ধিক্ষণে পৌঁছেছি যেখানে কেবল "সঠিক" হওয়া যথেষ্ট নয়। AI উন্নয়নের পরবর্তী ধাপ হবে সেই সিস্টেমগুলোর, যারা তাদের কাজের প্রক্রিয়া দেখাতে পারে, তাদের সীমাবদ্ধতা স্বীকার করতে পারে এবং অপরিচিত সমস্যার সমাধান করতে যুক্তি প্রয়োগ করতে পারে। এটি দার্শনিক অর্থে চিন্তাশীলতা কি না, তা নিয়ে আরও এক দশকের বিতর্ক থাকতে পারে। আপাতত, ব্যবহারিক কাজ হলো এমন সরঞ্জাম এবং মানদণ্ড তৈরি করা যা এই মডেলগুলো আসলে যা করছে তার জটিলতার সাথে সামঞ্জস্যপূর্ণ হয়।
উৎস: Anthropic's Claude mimics human brain processing
ঐচ্ছিক লার্নিং কমিউনিটি: GyaanSetu AI on Telegram