دیو اِگرز به کارکنان OpenAI هشدار داد: ChatGPT در حال ساکت کردن یک نسل است

دیو اِگرز، نویسنده مشهور، در سخنرانی بحث‌برانگیز خود خطاب به کارکنان OpenAI، انتقادی تند و تیز از تأثیر مدل‌های زبانی بزرگ (LLMs) بر بیان انسانی ارائه کرد. اِگرز به‌جای یک سخنرانی استاندارد، از جایگاه خود استفاده کرد تا استدلال کند که ادغام سریع ChatGPT در آموزش و نویسندگی خلاق، به‌طور اساسی در حال فرسایش صدای انسانی است.

انتقادی تند از تأثیرات اجتماعی هوش مصنوعی مولد

دیو اِگرز — نویسنده رمان The Circle و بنیان‌گذار McSweeney’s — که توسط سام آلتمن برای سخنرانی در مقابل حدود ۲۰۰ نفر از کارکنان OpenAI دعوت شده بود، از رویکردهای معمول تشویقی در این صنعت فاصله گرفت. اِگرز به‌جای بحث درباره بهره‌وری یا آینده همکاری انسان و هوش مصنوعی، بر پیامدهای «فاجعه‌بار» هوش مصنوعی مولد بر بخش آموزش تمرکز کرد.

اِگرز به‌طور خاص بر فشار عظیمی که بر مربیان وارد شده است تأکید کرد و اظهار داشت که به‌کارگیری ChatGPT، زندگی معلمان را نسبت به تنها دو سال پیش «بی‌نهایت دشوارتر» کرده است. برای توسعه‌دهندگانی که این ابزارها را می‌سازند، سخنان اِگرز یادآوری تلخی است که پیشرفت‌های فنی اغلب هزینه‌های اجتماعی سنگین و غیرقابل‌سنجشی به همراه دارند.

فرسایش صدای انسانی و مهارت‌های شناختی

هسته اصلی استدلال اِگرز بر خطرات رشدی بلندمدت برای دانش‌آموزان استوار است. او معتقد است اگر دانش‌آموزان برای بیان افکار خود به هوش مصنوعی تکیه کنند، از چالش‌های ضروری فرآیند نوشتن عبور می‌کنند؛ فرآیندی که زیربنای تفکر انتقادی و شکل‌گیری هویت است.

اِگرز هشدار داد: «اگر دانش‌آموزان از آن برای نگارش استفاده کنند... هرگز نوشتن را یاد نخواهند گرفت.» او از دست رفتن بیان فردی به عنوان یک «تراژدی» یاد کرد و خاطرنشان کرد که وقتی هوش مصنوعی فرآیند خلق کردن را بر عهده می‌گیرد، توانایی افراد برای «بیان حقیقت خود» مختل می‌شود. این موضوع به تکان‌دهنده‌ترین نتیجه‌گیری او ختم می‌شود: اینکه پذیرش گسترده این مدل‌ها، با جایگزین کردن داستان‌سرایی اصیل انسانی با آنچه او پیش‌تر «مهملات تقلیدی» (pastiche nonsense) نامیده بود، عملاً در حال «ساکت کردن یک یا دو نسل کامل» است.

چرا این موضوع برای صنعت هوش مصنوعی اهمیت دارد

این تقابل، شکاف فلسفی رو به گسترش میان شعار «سریع حرکت کن و چیزها را بشکن» در سیلیکون ولی و حفظ رشته‌های علوم انسانی را برجسته می‌کند. در حالی که OpenAI و همتایانش بر قابلیت‌ها، استدلال و کاربرد LLMها تمرکز دارند، منتقدانی مانند اِگرز به خطرات وجودی در مورد نحوه بازسازی شناخت انسانی و میراث فرهنگی توسط این ابزارها اشاره می‌کنند.

برای بنیان‌گذاران و توسعه‌دهندگان، این تنش بر یک ضرورت رو به رشد تأکید می‌کند: نیاز به ساخت هوش مصنوعی که به‌جای جایگزینی فرآیندهای شناختی مورد نیاز برای رشد انسانی، توانمندی‌های انسان را تقویت کند. با ادغام بیشتر هوش مصنوعی در کلاس‌های درس و استودیوهای خلاقیت، این صنعت باید با این پرسش دست‌وپنجه نرم کند که آیا در حال ساخت ابزارهایی برای توانمندسازی است یا ابزارهایی که به‌طور ناخواسته همان مهارت‌هایی را که ما را انسان می‌سازد، تحلیل می‌برند.

نکات کلیدی

• اختلال آموزشی: اِگرز استدلال می‌کند که ChatGPT بار سنگین و فاجعه‌باری را بر دوش مربیان گذاشته و در بازه‌ای دو ساله، چشم‌انداز آموزش و یادگیری را به‌طور اساسی تغییر داده است.
• از دست رفتن خودمختاری: یکی از نگرانی‌های اصلی این است که تکیه بر هوش مصنوعی برای نگارش، مانع از توسعه یک «صدای» منحصربه‌فرد در دانش‌آموزان می‌شود و به‌طور بالقوه منجر به نسلی خواهد شد که قادر به بیان حقیقت‌های خود نیست.
• تضاد فلسفی: این رویداد نشان‌دهنده تنش عمیق میان پیشرفت تکنولوژیک LLMها و حفظ خلاقیت اصیل و رشد شناختی انسان است.