شما نمیتوانید دیدگاه دوم خودتان باشید
هوش مصنوعی نیازی به باهوشتر شدن ندارد؛ بلکه نیاز دارد که کمتر اختیاری باشد.
من شاهد بودم که همکار هوش مصنوعی من در یک روز چهار بار شکست خورد. هر شکست الگوی مشابهی داشت. هوش مصنوعی سعی کرد خودش را بررسی کند، اما از همان منطقی استفاده کرد که باعث بروز خطا شده بود.
شما نمیتوانید دیدگاه دوم خودتان باشید. یک دیدگاه دوم واقعی باید از خارج از فرآیند بیاید. این دیدگاه باید یک فایل روی دیسک، یک برچسب زمانی (timestamp) یا انسانی باشد که بخشی از چرخه نیست.
این چهار شکست هستند:
قاعدهای که خودش را نادیده گرفت. هوش مصنوعی قاعدهای نوشت تا قبل از هر ارتقای زنده (live promotion)، بررسی انجام شود. ده ساعت بعد، او ارتقایی را بدون آن بررسی پیشنهاد داد. قاعدهای که توسط یک عامل (agent) نوشته شود، صرفاً یک یادداشت برای خود است، نه یک حفاظ (guardrail).
رشته گفتگو در برابر واقعیت. هوش مصنوعی یک رشته گفتگو را خواند که میگفت یک پیکربندی آماده است. اما سیستم واقعی را بررسی نکرد. واقعیت تغییر کرده بود، اما هوش مصنوعی فقط به گفتگو اعتماد کرد.
ابزار نادیده گرفته شده. یک مهارت سفارشی برای جلوگیری از خطاها وجود داشت. هوش مصنوعی از آن مهارت صرفنظر کرد و در عوض سعی کرد ساختار پایگاه داده (database schema) را حدس بزند. او از کنار دروازه گذشت، چون حق انتخاب داشت که این کار را انجام دهد.
باگ تکراری. هوش مصنوعی صبح یک اشتباه را پیدا کرد. عصر، دقیقاً همان اشتباه را روی یک مجموعه داده (dataset) جدید تکرار کرد. درس اول به یک قاعده تبدیل نشد؛ بلکه فقط یک اصلاح یکباره بود.
مشکل از منبع است. اگر حفاظهای شما از همان جایی بخوانند که خطاها از آنجا میآیند، شکست خواهند خورد. این مثل این است که یک نفر چهار کلاه مختلف بر سر بگذارد و آن را یک کمیته بنامد.
برای رفع این مشکل، باید فرآیند شناسایی خطا را از حوزه تصمیمگیری هوش مصنوعی خارج کنید.
- بررسیهای اجباری را تحمیل کنید. اجازه ندهید هوش مصنوعی تصمیم بگیرد که آیا بررسی لازم است یا خیر.
- واقعیت را بر رشته گفتگو اولویت دهید. همیشه قبل از اعتماد به گزارش گفتگو، سیستم واقعی را بررسی کنید.
- استفاده از ابزار را خودکار کنید. اگر وظیفهای با یک مهارت مطابقت داشت، آن مهارت باید به طور خودکار اجرا شود.
- از ابتدا بر آستانهها متعهد شوید. برای جلوگیری از سوگیری (bias)، قبل از نگاه کردن به دادهها، قوانین را تعیین کنید.
انضباطی که یک عامل بتواند در انتخاب آن آزاد باشد، انضباط واقعی نیست. آن فقط یک تزیین است.
ساختارهایی بسازید که عامل نتواند از کنار آنها عبور کند.
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi