هشدار مارگارت اتوود: چرا هوش مصنوعی همچنان در تلهی «ورودی زباله، خروجی زباله» گرفتار است
مارگارت اتوود، نویسنده تحسینشده، اخیراً انتقاد تندی را نسبت به مدلهای زبانی بزرگ مطرح کرد و بر چالشهای مداوم در زمینه دقت و یکپارچگی دادهها تأکید نمود. تجربه او بر یک حقیقت بنیادین در عصر کنونی هوش مصنوعی صحه میگذارد: حتی پیشرفتهترین مدلها نیز با کیفیت دادههای آموزشی خود محدود میشوند.
آزمایش Claude: درسی در مورد توهمات (Hallucinations)
نویسنده کتاب Handmaid’s Tale در جریان سخنرانی خود در جشنواره ادبی و فرهنگی Babell در پورتو پرتغال، از تجربه یگانه خود در استفاده از Claude متعلق به Anthropic پرده برداشت. تلاش اتوود برای استفاده از این چتبات جهت بازیابی اطلاعات مربوط به سریال جنایی بریتانیایی Father Brown با شکستی مواجه شد که مفهوم «توهم» (hallucination) را به خوبی نشان میدهد.
به گفته اتوود، این مدل اطلاعات نادرستی ارائه داد و در واقع به کاربر «دروغ» گفت. او خاطرنشان کرد که احتمالاً این LLM حجم عظیمی از نقدهای تلویزیونی را مرور و نمونهبرداری کرده است، اما از آنجایی که نقدهای آنلاین معمولاً از لو دادن داستان (spoiler) خودداری میکنند، مدل تحت تأثیر الگوهای موجود در مجموعه آموزشی خود قرار گرفته و گمراه شده است. این نکته فنی ظریف، چالشی اساسی را برای توسعهدهندگان برجسته میکند: LLMها موتورهای احتمالی هستند که تطبیق الگو را بر راستیآزمایی واقعیت اولویت میدهند و این امر اغلب منجر به خروجیهای مطمئن اما نادرست میشود.
معمای دادهها: ورودی زباله، خروجی زباله
نقد اتوود بر یک اصل همیشگی در علوم کامپیوتر متمرکز است: «ورودی زباله، خروجی زباله» (garbage in, garbage out). او اشاره کرد که LLMها بر اساس دادههای استخراجشده (scraped)، منتشرشده و احتمالاً قدیمی آموزش میبینند. وقتی دادههای ناقص، سوگیرانه یا از نظر منطقی متناقض به یک مدل داده میشود، خروجی حاصل ناگزیر بازتابدهنده همان نقصها خواهد بود.
برای چشمانداز گستردهتر هوش مصنوعی، این موضوع یادآور این نکته است که افزایش پارامترهای مدل، جایگزینی برای کیفیت دادهها نیست. در حالی که توسعهدهندگان برای تقویت تواناییهای استدلال، به دنبال مجموعهدادههای بزرگتر هستند، «نویز» موجود در این مجموعهدادهها — مانند نبودِ لو رفتن داستان در نقدهای ذکر شده توسط اتوود — میتواند خطاهای سیستماتیکی ایجاد کند که حتی معماریهای پیچیدهای مانند Claude نیز نمیتوانند به راحتی بر آنها غلبه کنند.
نگرانی اخلاقی: فرصتطلبی در برابر خلاقیت
فراتر از محدودیتهای فنی، اتوود به جنبه انسانیِ پذیرش هوش مصنوعی نیز پرداخت. او کسانی را که به شدت به هوش مصنوعی متکی هستند، «فرصتطلب» توصیف کرد؛ افرادی که به دنبال راهی آسان برای دور زدن دشواریهای خلق اثر یا تحقیق واقعی هستند. او هشدار داد که وسوسه «تقلب» با استفاده از محتوای تولیدشده توسط هوش مصنوعی که غیرقابل تشخیص است، نگرانی فزایندهای برای صنایعی است که به هوش و ظرافتهای انسانی وابستهاند.
برای بنیانگذاران و متخصصان فناوری، این تمایز حیاتی است. اگرچه هوش مصنوعی میتواند به عنوان یک ابزار قدرتمند برای بهرهوری عمل کند، اما مشاهده اتوود مبنی بر اینکه «حتی افرادی که از آن به دلایل تجاری استفاده میکنند نیز باید آن را بررسی کنند»، تأکید میکند که نظارت انسانی همچنان یکی از اجزای جداییناپذیر جریان کاری هوش مصنوعی است. عصر هوش مصنوعی کاملاً خودگردان و بدون خطا، هنوز چشماندازی دور از دسترس است و مسئولیت حقیقت همچنان بر عهده کاربر است.
نکات کلیدی
- یکپارچگی دادهها بسیار حیاتی است: اصل «ورودی زباله، خروجی زباله» همچنان بزرگترین مانع برای LLMهاست، زیرا مدلها توسط کیفیت و کامل بودن دادههای آموزشی خود محدود میشوند.
- تلهی توهم: حتی مدلهای پیشرفتهای مانند Claude متعلق به Anthropic نیز اگر الگوهای زیربنایی در دادههای آموزشیشان گمراهکننده باشد، ممکن است در بازیابی سادهی حقایق شکست بخورند.
- ضرورت نظارت انسانی: هوش مصنوعی باید به عنوان ابزاری دیده شود که نیازمند تأیید مستمر است، نه جایگزینی برای تخصص و تفکر انتقادی انسان.