Anthropic তাদের Fable 5 মডেলে একটি গুরুত্বপূর্ণ আপডেট এনেছে, যা এর সেফটি লেয়ার (safety layers) দ্বারা ব্লক করা নিরীহ জৈবিক (benign biological) অনুসন্ধানের সংখ্যা ব্যাপকভাবে হ্রাস করেছে। এই কৌশলগত সমন্বয়ের লক্ষ্য হলো উচ্চ-ঝুঁকিপূর্ণ জৈবিক হুমকির বিরুদ্ধে কঠোর সুরক্ষা বজায় রেখে বৈধ বৈজ্ঞানিক গবেষণার জন্য এর উপযোগিতা পুনরুদ্ধার করা।

বৈজ্ঞানিক গবেষণার ক্ষেত্রে বাধা হ্রাস করা

বৈজ্ঞানিক মহলের সমালোচনায় উদ্বুদ্ধ হয়ে, Anthropic তাদের Fable 5-এর বায়োলজি সেফটি ফিল্টারে 'ফলস পজিটিভ' (false positives) প্রায় ৮৫ শতাংশ হ্রাস করতে সফল হয়েছে। এর আগে, মডেলটির সেফটি ক্লাসিফায়ার অতিরিক্ত আক্রমণাত্মক ছিল, যা প্রায়শই বৈধ বৈজ্ঞানিক অনুসন্ধানগুলোকে ব্লক করে দিত এবং ব্যবহারকারীদের কম সক্ষম Opus 5 মডেলে রিডাইরেক্ট করত।

এই আপডেটটি গবেষক এবং চিকিৎসা পেশাদারদের বিভিন্ন ধরণের নিরীহ কাজের জন্য Fable 5-এর পূর্ণ রিজনিং (reasoning) ক্ষমতা ব্যবহার করার সুযোগ দেয়। ব্যবহারকারীরা এখন ল্যাবরেটরি পরীক্ষার ফলাফল ব্যাখ্যা করা, ক্লিনিকাল লক্ষণ বিশ্লেষণ করা এবং জটিল চিকিৎসা সংক্রান্ত প্রশ্নের উত্তর দেওয়ার মতো জটিল কাজগুলো করতে পারবেন, যা আগে "সেফটি ওয়াল" (safety wall)-এর কারণে বাধাগ্রস্ত হতো।

ডুয়াল-ইউজ ঝুঁকির ক্ষেত্রে সুরক্ষা বজায় রাখা

সাধারণ জীববিজ্ঞান সংক্রান্ত বিধিনিষেধ শিথিল করা সত্ত্বেও, Anthropic "ডুয়াল-ইউজ" (dual-use) গবেষণার ক্ষেত্রে কঠোর অবস্থান বজায় রাখছে—এমন তথ্য যা ক্ষতিকারক কাজে ব্যবহার করা যেতে পারে। কোম্পানিটি ভাইরাসবিদ্যা (virology), টক্সিকোলজি (toxicology) এবং উন্নত মলিকুলার ডিজাইনের মতো অত্যন্ত সংবেদনশীল বিষয়গুলোর ওপর থেকে বিধিনিষেধ তুলে নেয়নি।

Anthropic-এর এই যুক্তির ভিত্তি হলো জৈবিক হুমকির অনন্য প্রকৃতি। একটি সাইবার অ্যাটাকের মতো নয়, যা প্যাচ বা সিস্টেম শাটডাউনের মাধ্যমে প্রশমিত করা যেতে পারে, একটি জৈবিক এজেন্ট একবার ছড়িয়ে পড়লে তা "বন্ধ" করা প্রায় অসম্ভব। কোম্পানিটি এই সতর্কতার পেছনে বেশ কিছু উচ্চ-ঝুঁকিপূর্ণ উদ্বেগের কথা উল্লেখ করেছে, যার মধ্যে রয়েছে:

  • জৈবিক ঝুঁকি সংক্রান্ত মার্কিন গোয়েন্দা সংস্থাগুলোর বিশ্লেষণ।
  • এমন গবেষণা যা দেখায় যে AI ব্যবহার করে সম্পূর্ণ কৃত্রিম ভাইরাস তৈরি করা সম্ভব।
  • বিদ্যমান LLM থেকে জৈব অস্ত্রের নির্দেশাবলী আদায়ের জন্য ব্যবহারকারীদের নথিভুক্ত প্রচেষ্টা।

বিশেষায়িত অ্যাক্সেসের মাধ্যমে নিরাপত্তার ভারসাম্য রক্ষা

AI ল্যাবগুলোর জন্য চ্যালেঞ্জ হলো উন্মুক্ত বৈজ্ঞানিক অগ্রগতি এবং বিপর্যয়কর অপব্যবহার রোধের মধ্যে ভারসাম্য বজায় রাখা। Anthropic বিশেষায়িত অ্যাক্সেস প্রোগ্রামের মাধ্যমে এটি সমাধানের চেষ্টা করছে। এই প্রোগ্রামগুলো যাচাইকৃত গবেষকদের একটি নিয়ন্ত্রিত এবং অডিট করা পরিবেশে ভাইরাসবিদ্যা বা মলিকুলার মডেলিং সংক্রান্ত বিধিনিষেধযুক্ত ফিচারগুলো ব্যবহারের সুযোগ দেওয়ার জন্য ডিজাইন করা হয়েছে।

নিরীহ চিকিৎসা সংক্রান্ত অনুসন্ধান এবং বিপজ্জনক ডুয়াল-ইউজ গবেষণার মধ্যে পার্থক্য করার মাধ্যমে, Anthropic ফ্রন্টিয়ার মডেলগুলো কীভাবে "জৈবিক ফ্রন্টিয়ার" (biological frontier) মোকাবিলা করবে তার একটি নজির স্থাপনের চেষ্টা করছে, যাতে আধুনিক চিকিৎসার সরঞ্জামগুলো যাতে অনিচ্ছাকৃতভাবে জৈব-সন্ত্রাসবাদের হাতিয়ার হয়ে না ওঠে।

মূল বিষয়সমূহ

  • ৮৫% ফলস পজিটিভ হ্রাস: Anthropic বৈধ জীববিজ্ঞান সংক্রান্ত অনুসন্ধানের বাধা উল্লেখযোগ্যভাবে কমিয়েছে, যা ব্যবহারকারীদের নিম্নমানের Opus 5 থেকে দূরে সরিয়ে এনেছে।
  • উচ্চ-ঝুঁকিপূর্ণ ক্ষেত্রে কঠোর সুরক্ষা: জৈবিক অস্ত্র তৈরি রোধ করতে ভাইরাসবিদ্যা, টক্সিকোলজি এবং মলিকুলার ডিজাইনের ক্ষেত্রে কঠোর বিধিনিষেধ বহাল রয়েছে।
  • গবেষকদের জন্য নিয়ন্ত্রিত অ্যাক্সেস: Anthropic নির্দিষ্ট অ্যাক্সেস প্রোগ্রাম তৈরি করছে যাতে যাচাইকৃত বিজ্ঞানীদের তাদের বৈধ গবেষণার জন্য প্রয়োজনীয় বিধিনিষেধযুক্ত সক্ষমতাগুলো প্রদান করা যায়।

Anthropic তাদের Fable 5 মডেলে নিরীহ জীববিজ্ঞান সংক্রান্ত অনুসন্ধানের ক্ষেত্রে ফলস-পজিটিভ ব্লক প্রায় ৮৫ শতাংশ কমিয়েছে, যা গবেষকদের জন্য মডেলটির পূর্ণ রিজনিং ক্ষমতা ব্যবহারের সুযোগ ফিরিয়ে এনেছে। এই পরিবর্তনের মাধ্যমে ডুয়াল-ইউজ জৈবিক বিষয়গুলোর ওপর কঠোর সুরক্ষা বজায় রাখা হয়েছে, যাতে মডেলটি জৈব অস্ত্র তৈরিতে সহায়ক হতে পারে এমন কোনো নির্দেশাবলী প্রদান করতে না পারে।

কেন এই আপডেটটি গুরুত্বপূর্ণ

Fable 5-এর সেফটি লেয়ারটি মূলত অতিরিক্ত সতর্কতার জন্য তৈরি করা হয়েছিল, যা অনেক বৈধ বৈজ্ঞানিক প্রশ্নকেও উচ্চ-ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করত। যেসব ব্যবহারকারী রুটিন ল্যাব-ফলাফল ব্যাখ্যা বা ক্লিনিকাল লক্ষণ বিশ্লেষণের জন্য প্রশ্ন করতেন, তাদের নিয়মিত কম সক্ষম Opus 5 মডেলে রিডাইরেক্ট করা হতো। এই অতিরিক্ত ব্লকিং বৈজ্ঞানিক মহলে সমালোচনার জন্ম দেয়, যারা যুক্তি দিয়েছিলেন যে এই বাধা প্রকৃত গবেষণা এবং চিকিৎসা সংক্রান্ত সিদ্ধান্ত গ্রহণের গতিকে ব্যাহত করছে। ফলস-পজিটিভ হার প্রায় চার-পঞ্চমাংশ হ্রাস করার মাধ্যমে, Anthropic মডেলটির উন্নত রিজনিং ক্ষমতা ডাক্তার, জীববিজ্ঞানী এবং অন্যান্য পেশাদারদের হাতে ফিরিয়ে দিতে চায় যাদের দৈনন্দিন কাজে এটি প্রয়োজন।

কীভাবে ফিল্টারগুলো পরিবর্তন করা হয়েছে

এই উন্নতিটি একটি পুনরায় টিউন করা ক্লাসিফায়ারের মাধ্যমে এসেছে যা সাধারণ বায়োমেডিকেল প্রশ্ন এবং "দ্বৈত-ব্যবহারযোগ্য" (dual-use) গবেষণার মধ্যে পার্থক্য করতে পারে—এমন তথ্য যা ক্ষতির উদ্দেশ্যে ব্যবহার করা যেতে পারে। নতুন ক্লাসিফায়ারটি এখনও ভাইরোলজি, টক্সিকোলজি এবং উন্নত আণবিক নকশা সংক্রান্ত অনুরোধগুলো আটকে দেয়, তবে এটি সাধারণ রোগ নির্ণয়, লক্ষণভিত্তিক বাছাই (symptom triage) এবং ডেটা ব্যাখ্যা সংক্রান্ত প্রশ্নগুলোকে যেতে দেয়।

Anthropic-এর প্রকৌশলীরা উল্লেখ করেছেন যে জৈবিক হুমকি সাইবার হুমকির চেয়ে আলাদা: একবার কোনো প্যাথোজেন বা রোগজীবাণু ছড়িয়ে পড়লে, তা আর প্যাচ করা বা বন্ধ করা সম্ভব নয়। এই বাস্তবতাই উচ্চ-ঝুঁকিপূর্ণ ক্ষেত্রগুলোতে কঠোর অবস্থান বজায় রাখার পাশাপাশি সাধারণ চিকিৎসা সংক্রান্ত জিজ্ঞাসার ক্ষেত্রে বিধিনিষেধ শিথিল করার সিদ্ধান্ত নিতে উদ্বুদ্ধ করেছে।

যা নিষিদ্ধ থাকছে

মডেলটি এমন সব অনুরোধ প্রত্যাখ্যান করা অব্যাহত রাখবে যা ক্ষতিকারক এজেন্ট তৈরির পথ প্রশস্ত করতে পারে। বিশেষ করে, যে কোনো প্রম্পট যা নিচের বিষয়গুলো চায়:

  • ভাইরাস সংশ্লেষণে সহায়তা করতে পারে এমন বিস্তারিত ভাইরোলজি প্রোটোকল,
  • অস্ত্র হিসেবে ব্যবহারযোগ্য রাসায়নিকের টক্সিকোলজি পাথওয়ে, বা
  • ধাপে ধাপে আণবিক প্রকৌশল সংক্রান্ত নির্দেশাবলী।

Anthropic তাদের এই সতর্কতার জন্য তিনটি উৎসের কথা উল্লেখ করেছে: জৈবিক ঝুঁকির ওপর আলোকপাতকারী মার্কিন গোয়েন্দা সংস্থাগুলোর বিশ্লেষণ, এআই (AI) সম্পূর্ণ কৃত্রিম ভাইরাস ডিজাইন করতে পারে এমন গবেষণা, এবং বিদ্যমান ল্যাঙ্গুয়েজ মডেলগুলো থেকে জৈব অস্ত্রের নির্দেশাবলী আদায়ের জন্য ব্যবহারকারীদের নথিভুক্ত প্রচেষ্টা।

যাচাইকৃত বিজ্ঞানীদের জন্য অ্যাক্সেস প্রোগ্রাম

উন্মুক্ত গবেষণার সাথে নিরাপত্তার ভারসাম্য বজায় রাখতে Anthropic একটি বিশেষায়িত অ্যাক্সেস প্রোগ্রাম চালু করছে। যাচাইকৃত গবেষকরা একটি নিয়ন্ত্রিত পরিবেশের জন্য আবেদন করতে পারেন যেখানে অডিট বা নিরীক্ষার অধীনে সীমাবদ্ধ সক্ষমতাগুলো উন্মুক্ত করা হবে। প্রোগ্রামটি এমনভাবে ডিজাইন করা হয়েছে যাতে বৈধ বিজ্ঞানীরা বিপজ্জনক নির্দেশনার মাধ্যমে সাধারণ জনগণকে ঝুঁকির মুখে না ফেলে উচ্চ-ঝুঁকিপূর্ণ বিষয়গুলো—যেমন নতুন ভ্যাকসিন প্ল্যাটফর্ম বা প্যাথোজেন মডেলিং—অনুসন্ধান করতে পারেন।

সারসংক্ষেপ

কঠোর দ্বৈত-ব্যবহারযোগ্য নিষেধাজ্ঞা বজায় রেখে ফলস-পজিটিভ ব্লকিং ৮৫% কমিয়ে আনার মাধ্যমে, Anthropic জৈব অস্ত্র তৈরির পথ উন্মুক্ত না করেই গবেষকদের তাদের সবচেয়ে সক্ষম মডেলটির ক্ষমতা ব্যবহারের সুযোগ দিতে চায়। এই সুপরিকল্পিত নিরাপত্তা কৌশলের সাফল্য অন্যান্য উচ্চ-ঝুঁকিপূর্ণ বৈজ্ঞানিক ক্ষেত্রগুলো ফ্রন্টিয়ার এআই (frontier AI) মডেলগুলো কীভাবে মোকাবিলা করবে তার একটি আদর্শ বা টেমপ্লেট তৈরি করতে পারে।