چرا پرامپتهای هوش مصنوعی شما مدام با شکست مواجه میشوند
بیشتر مردم با پرامپتنویسی هوش مصنوعی مثل کلید برق برخورد میکنند؛ یا روشن است یا خاموش. آنها فکر میکنند یک پرامپت یا خوب است یا بد.
وقتی یک گردش کار (workflow) هوش مصنوعی دچار مشکل میشود، مشکل بهندرت مربوط به آخرین مرحله است. معمولاً مشکل دو یا سه مرحله قبلتر است.
اگر خط لولههای (pipelines) چندمرحلهای هوش مصنوعی میسازید، این حس را میشناسید. از یک پرامپت برای خلاصهسازی استفاده میکنید، از دیگری برای استخراج نکات، و از سومی برای قالببندی نتیجه.
یک روز، خروجی نهایی اشتباه به نظر میرسد. آخرین پرامپت را بازنویسی میکنید. پرامپت میانی را تغییر میدهید. اولین پرامپت را عوض میکنید. ساعتها میگذرد و هیچ چیز بهبود نمییابد.
این اتفاق به این دلیل میافتد که هر پرامپت به خروجی مرحله قبل وابسته است. یک استخراج دادهی بد در مرحله اول، بقیهی مراحل را مسموم میکند.
محققان در Cisco Foundation AI سیستمی به نام FAPO برای حل این مشکل ایجاد کردهاند. این سیستم هر مرحله از یک خط لوله را بهطور مستقل ارزیابی میکند، دقیقاً پیدا میکند که شکست در کجا رخ داده است و راه حلی برای آن سطح خاص پیشنهاد میدهد.
برای استفاده از این منطق نیازی به ابزارهای خاص ندارید. شما میتوانید همین امروز تشخیص مرحلهبهمرحله را بهصورت دستی اعمال کنید.
از این فرض که آخرین مرحله مشکل است، دست بردارید. هر مرحله را بهصورت مجزا تست کنید.
مثال: شما متن پیادهشدهی مصاحبهها را به پستهای وبلاگ تبدیل میکنید.
- مرحله ۱: خلاصهسازی متن پیادهشده.
- مرحله ۲: استخراج موضوعات اصلی.
- مرحله ۳: پیشنویس مقاله.
اگر مقاله کلی و سطحی است، فقط مرحله ۳ را بازنویسی نکنید.
اول، مرحله ۱ را بهتنهایی اجرا کنید. آیا خلاصه، جزئیات را از دست میدهد؟ اگر بله، مرحله ۱ را اصلاح کنید.
دوم، یک خلاصهی بینقص که خودتان نوشتهاید را به مرحله ۲ بدهید. آیا موضوعات اصلی همچنان کلی هستند؟ اگر بله، مرحله ۲ را اصلاح کنید.
سوم، یک خلاصهی بینقص و موضوعات اصلی بینقص را به مرحله ۳ بدهید. اگر حالا مقاله خوب است، میفهمید که مرحله ۳ هرگز مشکل نبوده است.
این فرآیند ۲۰ دقیقه زمان میبرد. این کار بهتر از ساعتها حدس زدن است.
چطور این هفته گردش کار خود را اصلاح کنید:
- گردش کار خود را روی کاغذ ترسیم کنید. تکتک مراحل هوش مصنوعی را لیست کنید.
- بعد از هر مرحله یک بررسی کیفیت اضافه کنید. بپرسید: «آیا این خروجی برای موفقیت مرحله بعد به اندازه کافی خوب هست؟»
- یک کتابخانهی تست بسازید. نمونههایی از ورودیهای خوب و بد را برای هر مرحله ذخیره کنید.
- در هر بار فقط یک چیز را تغییر دهید. هرگز دو پرامپت را همزمان تغییر ندهید.
هوش مصنوعی قابل اعتماد، یک فرآیند تکرارشونده است، نه یک عمل خلاقانهی یکباره.
تجربهی شما در این زمینه چیست؟ در کامنتها به من بگویید.
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi