عادتی که مانع از خرابکاری هوش مصنوعی در برنامه‌تان می‌شود

هوش مصنوعی فضاهای خالی را با فرض‌های خود پر می‌کند. یک مرز ناگفته، همان فضای خالی است.

اگر به هوش مصنوعی نگویید از چه چیزهایی پرهیز کند، خودش برای شما تصمیم می‌گیرد. من عصر‌های زیادی را صرف اصلاح اشتباهاتی کردم که هرگز آن‌ها را نخواسته بودم. یک عامل (agent) فقط برای اینکه کمک‌کننده باشد، یک پنل مدیریت یا یک جریان پرداخت اضافه می‌کرد. سیستم خراب نبود؛ من فقط در را باز گذاشته بودم.

راه حل ساده است. باید بنویسید که اپلیکیشن نباید چه کارهایی انجام دهد.

این‌ها «اهداف غیرمقصود» (non-goals) هستند. یک هدف غیرمقصود، یادداشتی برای شما نیست؛ بلکه یک حفاظ (guardrail) برای هوش مصنوعی است.

اگر بنویسید «در نسخه ۱ پرداخت نداشته باشیم»، هوش مصنوعی محدودیت را می‌فهمد. اگر بعداً از آن بخواهید «صفحه پرداخت را بهبود ببخشد»، Stripe را اضافه نخواهد کرد. این خطِ نوشته‌شده، زمانی که شما فراموش می‌کنید، مرز را حفظ می‌کند.

نیازی نیست این محدودیت‌ها را حدس بزنید. اجازه دهید هوش مصنوعی آن‌ها را برای شما پیدا کند. در طول مرحله برنامه‌ریزی، از این دو مرحله استفاده کنید:

۱. ریسک‌ها را آشکار کنید از عامل بخواهید هر چیزی را که ممکن است بخواهد اضافه کند و شما نخواسته‌اید، لیست کند. از او بخواهید ویژگی‌های اضافی، ساختارهای اضافی یا یکپارچه‌سازی‌های (integrations) اضافی را شناسایی کند. این کار باعث می‌شود فرض‌های پنهان، پیش از آنکه به مشکل تبدیل شوند، آشکار گردند.

۲. آن‌ها را تثبیت کنید لیست چیزهایی که باید از آن‌ها پرهیز کرد را بردارید. آن‌ها را به قوانین شفاف تبدیل کنید. از عباراتی مثل «در این نسخه X را اضافه نکن» استفاده کنید.

این لیست را جایی قرار دهید که عامل هر بار آن را ببیند. از دستورالعمل‌های پروژه یا یک فایل قوانین (rules file) استفاده کنید.

اهداف غیرمقصود دائمی نیستند. آن‌ها قوانینِ «نه در الان» هستند. آن‌ها از محدوده (scope) فعلی شما محافظت می‌کنند. هر زمان که برای ساخت یک ویژگی آماده بودید، آن قانون را عمداً حذف کنید.

از نوشتنِ تنهایِ برنامه‌ها دست بردارید. در عوض، یک گفتگو راه بیندازید.

  • اجازه دهید هوش مصنوعی از شما مصاحبه کند.
  • اجازه دهید هوش مصنوعی با برنامه شما بحث کند.
  • بنویسید چه چیزهایی را نباید ساخت.
  • آن محدودیت‌ها را جلوی چشم عامل نگه دارید.

بخش سخت کار با هوش مصنوعی، کدنویسی نیست. بخش سخت، تصمیم‌گیری درباره این است که عامل چه چیزی را می‌داند و چه چیزی را نمی‌داند. یک برنامه، تصمیم شما در شروع کار است. اهداف غیرمقصود، تصمیم شما در لبه‌ها هستند.

منبع: https://dev.to/stkremen/the-one-line-that-stops-your-ai-from-wrecking-your-plan-4jc0