AI এখনও নিরাপদ কোড লিখতে পারে না
Bjarne Stroustrup C++ তৈরি করেছেন। AI কোডিং সম্পর্কে তাঁর একটি জোরালো মতামত রয়েছে।
তিনি বলেন যে AI টুলগুলো জটিল সিস্টেম কোড লিখতে ব্যর্থ হয়। তিনি বিশ্বাস করেন যে AI আরও বেশি বাগ (bug) এবং সিকিউরিটি হোল (security hole) তৈরি করে।
তাঁর উদ্বেগের কারণগুলো নিচে দেওয়া হলো:
- পরিবর্তনের ট্র্যাক রাখা কঠিন। মানুষের করা পরিবর্তনগুলো একটি নির্দিষ্ট স্থানে থাকে। AI-এর পরিবর্তনগুলো পুরো প্রজেক্ট জুড়ে ছড়িয়ে পড়ে। আপনি সহজেই এর পার্শ্বপ্রতিক্রিয়া (side effects) খুঁজে পেতে পারেন না।
- AI পুরনো অভ্যাস অনুকরণ করে। LLM-গুলো বিদ্যমান কোডের ওপর ভিত্তি করে প্রশিক্ষিত। তারা পুরনো ভুল এবং ধীরগতির পারফরম্যান্স প্যাটার্ন পুনরাবৃত্তি করে।
- ভ্যালিডেশন বা যাচাইকরণ একটি বিশৃঙ্খল প্রক্রিয়া। AI কী লিখেছে তা যাচাই করা কঠিন।
তিনি AI-কে ঘৃণা করেন না। তিনি মনে করেন এটি টেকনিক্যাল রাইটিং-এ সাহায্য করে। তবে কাজটির সত্যতা যাচাই করার জন্য এখনও একজন মানুষের প্রয়োজন।
Stroustrup কোডের উপরের ২০% অংশের ওপর গুরুত্ব দেন। এটি এমন কোড যা নিরাপত্তা এবং উচ্চ পারফরম্যান্সের জন্য ব্যবহৃত হয়। AI এই কাজের জন্য এখনও প্রস্তুত নয়।
PVS-Studio-এর বিশেষজ্ঞরা একমত।
Phillip Khandeliants বলেন, সমস্যা তখনই শুরু হয় যখন ডেভেলপাররা AI কোড যাচাই না করেই কপি এবং পেস্ট করেন। এটি ত্রুটিপূর্ণ এবং অনিরাপদ সফটওয়্যারের দিকে পরিচালিত করে।
Oleg Lisiy একটি ভিন্ন দৃষ্টিভঙ্গি যোগ করেছেন। AI এখন কাজের একটি অংশ। আপনার উচিত নয় কোনো AI এজেন্টকে সরাসরি প্রোডাকশনে কোড পুশ করতে দেওয়া। বড় কোম্পানিগুলোর জন্য এটি একটি খারাপ ধারণা।
তিনি আরও উল্লেখ করেছেন যে AI ব্যবহার করা আপনার এডিটরে autocomplete ব্যবহার করার মতো। আপনি কেবল tab চেপে সেরাটা আশা করতে পারেন না।
লক্ষ্য হলো AI-কে একটি টুল হিসেবে ব্যবহার করা, চিন্তাশক্তির বিকল্প হিসেবে নয়।
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi