عادتی که مانع از خرابکاری هوش مصنوعی در برنامهتان میشود
هوش مصنوعی فضاهای خالی را با حدس و گمانها پر میکند.
اگر مرزها را تعیین نکنید، هوش مصنوعی حدس میزند. ممکن است یک جریان پرداخت اضافه کند که شما نخواستهاید. ممکن است یک پنل مدیریت بسازد که به آن نیاز ندارید. سپس ساعتها وقت خود را صرف حذف کارهایی میکنید که هرگز نمیخواستید.
راه حل ساده است. بنویسید که اپلیکیشن نباید چه کارهایی انجام دهد.
اینها «غیر-هدفها» (non-goals) هستند. یک غیر-هدف، مانند یک حفاظ عمل میکند. این کار مانع از آن میشود که وقتی بعداً تغییرات کوچکی درخواست میکنید، هوش مصنوعی ویژگیهای اضافی اضافه کند.
این ایدهها را به تنهایی فکر نکنید. اجازه دهید هوش مصنوعی در پیدا کردن آنها به شما کمک کند.
این دو مرحله را دنبال کنید:
۱. ریسکها را آشکار کنید از هوش مصنوعی بخواهید چیزهایی را که ممکن است وسوسه شود اضافه کند، لیست کند. از این پرامپت استفاده کنید: "بر اساس این برنامه، هر چیزی را که ممکن است وسوسه شوید اضافه کنید و من از شما نخواستهام، لیست کنید. این شامل ویژگیهای اضافی، ساختار یا یکپارچهسازیها میشود. به من بگویید که آیا باید آنها را الان بسازیم یا فعلاً کنار بگذاریم."
۲. قوانین را تثبیت کنید مواردی را که میخواهید نادیده بگیرید انتخاب کرده و آنها را به قوانین سختگیرانه تبدیل کنید. از این پرامپت استفاده کنید: "هر آنچه را که توافق کردیم کنار بگذاریم، بردار. آن را به صورت یک لیست کوتاه از غیر-هدفها (non-goals) بنویس. هر کدام را به صورت یک قانون شفاف بیان کن، مثلاً: «در این نسخه X را اضافه نکن». من اینها را تا پایان پروژه جلوی چشم تو نگه میدارم."
این لیست را جایی نگه دارید که هوش مصنوعی مدام آن را ببیند. آن را در دستورالعملهای پروژه یا فایل قوانین خود قرار دهید.
غیر-هدفها دائمی نیستند. آنها قوانین «نه الان» هستند. هر زمان که برای ساخت آن ویژگیها آماده بودید، آن قانون را عمداً حذف کنید.
بخش سخت کار با هوش مصنوعی، کدنویسی نیست. بخش سخت، تصمیمگیری درباره این است که هوش مصنوعی چه چیزی را میداند و چه چیزی را نمیداند.
یک برنامه را از طریق گفتگو بسازید. مرزها را زود تعیین کنید. از زمان خود محافظت کنید.
Source: https://dev.to/stkremen/the-one-line-that-stops-your-ai-from-wrecking-your-plan-4jc0
Optional learning community: https://t.me/GyaanSetuAi