আমি একটি AI Incident Copilot তৈরি করেছি যা আপনার লগ (logs) সংরক্ষণ করে না
প্রতিটি ইঞ্জিনিয়ারই এটি করেন।
প্রোডাকশনে (production) কিছু একটা ভেঙে যায় বা সমস্যা দেখা দেয়। আপনি লগগুলো সংগ্রহ করেন। সেগুলো একটি AI চ্যাটে পেস্ট করেন। আপনি সাহায্য চান। AI একটি ভালো উত্তর দেয়।
বেশিরভাগ মানুষ মনে করেন এটি স্বাভাবিক। কিন্তু এটি নয়। এটি একটি বিশাল নিরাপত্তা ঝুঁকি (security risk)।
প্রোডাকশন লগে সংবেদনশীল তথ্য (sensitive data) থাকে। এতে কাস্টমার আইডি, অথেনটিকেশন এরর (auth errors), স্ট্যাক ট্রেস (stack traces) এবং API রেসপন্স থাকে। এমনকি কখনও কখনও এতে সিক্রেট বা গোপন তথ্যও থাকতে পারে।
বর্তমানে ডিবাগ (debug) করার উপায় হলো একটি চ্যাট বক্সে ব্যক্তিগত তথ্য পেস্ট করা এবং ভালো কিছুর আশা করা। আমি ডেটা লিক হওয়ার ঝুঁকি ছাড়াই AI-এর সাহায্য চাইতাম।
তাই আমি একটি AI incident copilot তৈরি করেছি। আমি একটি নিয়ম মেনে চলেছি: আপনার ডেটা সংরক্ষণ করতে অস্বীকার করলেও অ্যাপটিকে অবশ্যই কার্যকর হতে হবে।
অ্যাপটি একটি AI war room হিসেবে কাজ করে। আপনি লগ, ট্রেস বা এরর পেস্ট করেন। এটি আপনাকে সাহায্য করে:
• পরিবর্তনগুলো সারসংক্ষেপ করা • ব্যর্থতার পয়েন্টগুলো খুঁজে বের করা • নয়েজি লগগুলোকে গ্রুপ করা • স্ট্যাক ট্রেস ব্যাখ্যা করা • প্রশমন বা সমাধানের পদক্ষেপগুলো সাজেস্ট করা • পোস্টমর্টেম টাইমলাইন তৈরি করা
বেশিরভাগ ডেভেলপার অ্যাপ এভাবে তৈরি করেন: Input → Backend → Database → LLM → Database → UI.
এটি অ্যাপ তৈরির একটি বিপজ্জনক পদ্ধতি। এখন আপনার অ্যাপটি প্রতিটি প্রোডাকশন ফেইলিউরের একটি আর্কাইভ বা সংগ্রহশালা হয়ে দাঁড়িয়েছে। আপনাকে এখন ডেটা ব্রিচ (breach), ব্যাকআপ এবং অ্যাডমিন অ্যাক্সেস নিয়ে দুশ্চিন্তা করতে হবে।
আমি একটি প্রাইভেট স্ক্র্যাচপ্যাড (private scratchpad) চেয়েছিলাম, কোনো SaaS ড্যাশবোর্ড নয়।
আমার ডিজাইনের নিয়ম হলো: ডেটা প্রসেস করুন, সংগ্রহ করবেন না।
আর্কিটেকচারটি ভিন্নভাবে কাজ করে:
- চ্যাট হিস্ট্রি আপনার ব্রাউজারে থাকে।
- ব্যাকএন্ড প্রম্পটগুলো সেভ করে না।
- ব্যাকএন্ড মডেল রেসপন্সগুলো সেভ করে না।
- প্রতিটি রিকোয়েস্ট সাময়িক বা ডিসপোজেবল (disposable)।
আমি Icelake AI API ব্যবহার করেছি কারণ এটি এই প্রাইভেসী মডেলের সাথে সামঞ্জস্যপূর্ণ। সার্ভার তিনটি ধাপ সম্পন্ন করে:
- সংবেদনশীল মানগুলো রিড্যাক্ট (redact) করে।
- API-তে একটি সংক্ষিপ্ত প্রম্পট পাঠায়।
- রিকোয়েস্টটি সংরক্ষণ না করেই উত্তরটি প্রদান করে।
Redaction সাহায্য করে, কিন্তু এটি কোনো জাদুকরী ঢাল নয়। এটি সবকিছু ধরতে পারবে না। আসল সাফল্য হলো রিকোয়েস্ট শেষ হওয়ার পর আপনি কত কম ডেটা সংরক্ষণ করছেন তা কমিয়ে আনা।
Redaction কলের সময় ঝুঁকি কমায়। লগ সংরক্ষণ না করা ঝুঁকি চিরতরে কমিয়ে দেয়।
বেশিরভাগ AI অ্যাপ জিজ্ঞেস করে: আমরা কী কী সংগ্রহ করতে পারি? এই অ্যাপটি জিজ্ঞেস করে: আমরা কী কী সংগ্রহ করা এড়াতে পারি?
এই পদ্ধতিটি প্রোডাক্টটিকে আরও উন্নত করে। ব্যবহারকারীরা নিরাপদ বোধ করেন। তারা প্রকৃত ইনসিডেন্টের সময় এটি ব্যবহার করতে ইচ্ছুক থাকেন কারণ তারা জানেন যে তাদের তথ্য আমার ডেটাবেসে জমা রাখা হচ্ছে না।
AI অ্যাপের পরবর্তী ঢেউ কেবল তারা কতটা স্মার্ট তার ওপর ভিত্তি করে প্রতিযোগিতা করবে না। তাদের প্রতিযোগিতা করা উচিত আত্মসংযম বা সীমাবদ্ধতার (restraint) ওপর।
নিজেকে প্রশ্ন করুন: • আপনি কী সংরক্ষণ করতে অস্বীকার করেন? • আপনি নিজের জন্য কোন জিনিসটি অ্যাক্সেস করা অসম্ভব করে তোলেন? • সেশন শেষ হলে কী অদৃশ্য হয়ে যায়?
AI টুলগুলো কার্যকর হওয়া উচিত কারণ তারা সবকিছু মনে রাখে না।
Optional learning community: https://t.me/GyaanSetuAi