از گفتن «مراقب باش» به هوش مصنوعی خود دست بردارید

از گفتن «مراقب باش» به هوش مصنوعی خود دست بردارید. او هیچ خاطره‌ای از دیروز ندارد.

من زمانی یک فایل عظیم از قوانین ساختم تا مانع از اشتباه کردن عامل (agent) هوش مصنوعی‌ام شوم. هر بار که شکست می‌خورد، دستورالعمل‌های جدیدی اضافه می‌کردم. حجم فایل به ۵۶,۰۰۰ کاراکتر رسید. سپس عامل از کار افتاد.

من تمرکز آن را بیش از حد پراکنده کرده بودم. قوانین را به ۱,۲۰۰ کاراکتر کاهش دادم. عامل با قوانین کمتر، بهتر کار کرد.

درس سختی گرفتم. اضافه کردن قوانین، راه ساخت یک هوش مصنوعی قابل اعتماد نیست.

اکثر مردم با هوش مصنوعی مانند یک همکار انسانی رفتار می‌کنند. آن‌ها فکر می‌کنند اصلاحی که امروز انجام می‌دهند، فردا به هوش مصنوعی کمک خواهد کرد. هوش مصنوعی stateless است (بدون وضعیت). هر نشست (session) از نو شروع می‌شود. او سخنرانی‌های قبلی شما را به خاطر نمی‌آورد.

تفاوت بزرگی بین «دانستن یک قانون» و «پایبندی به یک قانون» وجود دارد.

قرار دادن یک قانون در یک prompt، صرفاً یک پیشنهاد است. مدل آن را می‌بیند، اما ممکن است برای اتمام یک وظیفه، آن را نادیده بگیرد. اگر نیاز دارید که یک عامل متوقف شود، جمله بهتری ننویسید؛ بلکه یک دروازه فیزیکی در کد خود بسازید. از اسکریپتی استفاده کنید که تا زمانی که یک بررسی (check) با موفقیت انجام نشود، از ادامه کار خودداری کند.

از پرسیدن این سوال که «چگونه هوش مصنوعی را دقیق‌تر کنیم» دست بردارید. شروع کنید به پرسیدن اینکه «چگونه هزینه اشتباهات را کم کنیم».

داده‌ها نشان می‌دهند که دقت به تنهایی کافی نیست: • تنها ۴٪ از شرکت‌ها می‌گویند هوش مصنوعی مولد فراتر از انتظارات عمل می‌کند (JUAS). • تنها ۵٪ از پروژه‌های آزمایشی هوش مصنوعی در سطح سازمانی به مرحله تولید می‌رسند (MIT). • اکثر کاربران هوش مصنوعی در واقع اضافه‌کاری بیشتری انجام می‌دهند، نه کمتر (Persol).

برندگان مدل‌های دقیق‌تر ندارند؛ آن‌ها ساختارهای بهتری دارند.

به جای نوشتن قوانین بیشتر، از این سه الگو استفاده کنید:

  • از عدم توافق به عنوان یک سیگنال استفاده کنید. یک وظیفه مشابه را از طریق سه مدل مختلف اجرا کنید. اگر با هم اختلاف نظر داشتند، آن را به یک انسان بسپارید. اگر موافق بودند، آن را منتشر کنید.
  • معیارهای ارجاع (escalation) را بنویسید. نقاط خروج مشخصی برای عامل تعیین کنید. اگر نتوانست مشکلی را در عرض دو دقیقه حل کند، به او بگویید متوقف شود و از یک انسان کمک بخواهد.
  • برای عامل یک جایگاه ثابت تعیین کنید. به او مأموریت مبهم برای «کمک کردن» ندهید. یک وظیفه مشخص به او بسپارید، مانند تنظیم صورت‌جلسات. یک وظیفه محدود به این معناست که اشتباه، تأثیر کمی خواهد داشت.

نرده‌های حفاظتی (guardrails) واقعی برای کند کردن شما نیستند؛ بلکه برای این هستند که اجازه دهند سریع‌تر پیش بروید، زیرا دقیقاً می‌دانید عامل کجا باید متوقف شود.

از سخنرانی برای هوش مصنوعی خود دست بردارید. ساختاری بسازید که حتی وقتی هوش مصنوعی اشتباه می‌کند، کار کند.

Source: https://dev.to/nomurasan/stop-telling-your-ai-to-be-careful-next-time-it-has-no-memory-of-yesterday-i6c

Optional learning community: https://t.me/GyaanSetuAi