آیین ۴ مرحلهای برای اعتماد به کدهای هوش مصنوعی
من تمام محصولم را با استفاده از یک AI coding agent ساختم.
بزرگترین ریسک، باگها نیستند. بزرگترین ریسک، مجموعهای از تستهاست که به دلیل اشتباه، پاس میشوند. یک تیک سبز میتواند به شما دروغ بگوید.
من از این چهار مرحله برای حفظ کنترل استفاده میکنم.
۱. معیارهای موفقیت خود را تثبیت کنید قبل از اینکه نتایج هوش مصنوعی را ببینید، قوانین قبولی یا رد شدن خود را در git بنویسید. اگر موفقیت را بعد از اتمام کار هوش مصنوعی تعریف کنید، تعریفی را انتخاب خواهید کرد که به نفع خروجی هوش مصنوعی باشد. من یک بار پروژهای را از دست دادم چون یک تست با اندازهگیری مورد اشتباه، پاس شده بود. ابتدا سطح استاندارد خود را مشخص کنید.
۲. تستهای پایه (baseline) را اجرا کنید معیارهای خود را commit کنید و روی کد فعلی خود تستها را اجرا کنید. شما به یک نقطه شروعِ مشخص و سالم نیاز دارید. باید بدانید که آیا یک تست امروز پاس شده است یا اینکه قبل از اینکه هوش مصنوعی به آن دست بزند، از قبل سبز بوده است.
۳. قبل از کد، درخواست طرح (plan) کنید از هوش مصنوعی یک طرح بخواهید، نه کد. اکثر افراد با تأیید ۴۰۰ خط کد بدون خواندن آنها، codebase خود را خراب میکنند. شما میتوانید یک طرح را در دو دقیقه بررسی کنید. این کار مانع از آن میشود که هوش مصنوعی برای بهتر نشان دادن اعداد، موارد تست دشوار را حذف کند.
۴. فقط با تأیید دستی طرح را بررسی کنید. اگر اشتباه به نظر میرسد، مخالفت کنید. تنها در این صورت کار را تأیید کنید. هوش مصنوعی هرگز کدی را نمینویسد که من قبلاً در قالب یک طرح نخوانده باشم. تأیید خودکار منجر به سیستمهایی میشود که با اطمینان اشتباه میکنند.
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi