AI কোডিং এজেন্টগুলি হলো আক্রমণের নতুন ক্ষেত্র

আপনি একটি AI এজেন্টকে কাজ করার অনুমতি দিচ্ছেন। এটি একটি রিপোজিটরি ক্লোন করে। এটি সেটিংস কনফিগার করে। এটি কোড এক্সিকিউট করে। আপনি কেবল একটি বিশাল নিরাপত্তা ঝুঁকি তৈরি করলেন।

গবেষকরা নিরাপত্তা বাইপাস করার একটি উপায় খুঁজে পেয়েছেন। একটি GitHub রিপোজিটরি স্ক্যানার এবং মানুষের কাছে পরিষ্কার মনে হতে পারে। এটি একটি AI এজেন্টের পরীক্ষাও পাশ করতে পারে। তবুও, এতে একটি ম্যালিশিয়াস পেলোড (malicious payload) থাকতে পারে। এই পেলোডটি একটি সাধারণ সেটআপ প্রক্রিয়ার সময় রান করে।

এই আক্রমণটি কোনো মানুষকে ধোঁকা দেয় না। এটি এজেন্টের তার কাজ করার ওপর নির্ভর করে। এজেন্ট কোডটি ক্লোন করে এবং স্বয়ংক্রিয়ভাবে এটি রান করে। এজেন্টের কার্যকারিতাই হলো এর দুর্বলতা।

সাপ্লাই চেইন অ্যাটাক (Supply chain attacks) নতুন কিছু নয়। আমরা টাইপোস্কোয়াটিং (typosquatting) এবং ম্যালিশিয়াস স্ক্রিপ্ট সম্পর্কে জানি। কিন্তু AI এজেন্টগুলি এর মাত্রা বদলে দিচ্ছে। একটি এজেন্ট উচ্চতর পারমিশন নিয়ে স্বয়ংক্রিয়ভাবে কাজ করে।

পুরনো আক্রমণগুলোর জন্য মানুষের ভুল করা প্রয়োজন ছিল। নতুন আক্রমণগুলোর জন্য কেবল একটি এজেন্টের চেক পাশ করলেই চলে। এজেন্টরা প্রজেক্টটি সফলভাবে চালানোর দিকে মনোযোগ দেয়। কোডটি নিরাপদ কিনা তা যাচাই করার দিকে তারা মনোযোগ দেয় না।

এটি AI হ্যালুসিনেশন (hallucinations) বা প্রম্পট ইনজেকশন (prompt injections) সংক্রান্ত বিষয় নয়। AI ত্রুটিপূর্ণ নয়। এটি ঠিক যেভাবে ডিজাইন করা হয়েছে সেভাবেই কাজ করছে।

আসল সমস্যা হলো বিশ্বাস। আমরা পাইপলাইন এবং ডেভেলপার এনভায়রনমেন্টে স্বয়ংক্রিয় এজেন্টদের কোড রান করতে দিই। আমরা প্রায়শই সঠিক স্যান্ডবক্সিং (sandboxing) বা পারমিশন লিমিট এড়িয়ে যাই। আমরা এজেন্টদের কাজ যাচাই না করেই তাদের ওপর বিশ্বাস করি।

আপনি যদি AI কোডিং এজেন্ট ব্যবহার করেন, তবে তাদের আচরণ পরীক্ষা করুন:

  • তারা কি না জিজ্ঞেস করেই ইনস্টল স্ক্রিপ্ট রান করে?
  • তারা কি স্বয়ংক্রিয়ভাবে সেটআপ হুক (setup hooks) এক্সিকিউট করে?
  • আপনার মেশিনে তাদের কী কী পারমিশন আছে?

আপনি যদি সিকিউরিটিতে কাজ করেন, তবে এজেন্টিক টুলগুলোর (agentic tools) দিকে নজর রাখুন। ডেভেলপাররা প্রায়শই আনুষ্ঠানিক অনুমোদন ছাড়াই এগুলো ব্যবহার করেন। যে এজেন্ট কোড ক্লোন এবং রান করে, সেটি প্রিভিলেজ এসকেলেশন (privilege escalation)-এর একটি হাতিয়ার।

আমরা নিরাপত্তা কাঠামো (safety frameworks) তৈরির চেয়ে দ্রুত স্বয়ংক্রিয় টুলগুলো মোতায়েন করছি। সক্ষমতা নিরাপত্তার চেয়ে অনেক দ্রুত এগিয়ে যাচ্ছে। যেহেতু এই টুলগুলো স্বয়ংক্রিয়, তাই এই ব্যবধানের ফলাফল অত্যন্ত ভয়াবহ হতে পারে।

যে কোনো পাইপলাইন যা এক্সটার্নাল কোড ক্লোন এবং রান করে, সেটিকে উচ্চ ঝুঁকিপূর্ণ হিসেবে বিবেচনা করুন। একটি AI এজেন্ট রান বাটন চাপলে ঝুঁকির কোনো পরিবর্তন হয় না। এটি কেবল মানুষের সেই বিরতিটুকু সরিয়ে দেয় যা ভুল ধরতে সাহায্য করে।

একটি এজেন্ট যা এক্সিকিউট করে তার নিরাপত্তার দায়িত্ব কার? এটি কি ডেভেলপার, এজেন্ট নির্মাতা, নাকি হোস্ট প্ল্যাটফর্মের? এখন পর্যন্ত কেউ এর উত্তর দিচ্ছে না।

Source: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1

Optional learning community: https://t.me/GyaanSetuAi