مارغريت أتوود تحذر: لماذا لا يزال الذكاء الاصطناعي عالقاً في فخ "المدخلات الرديئة تؤدي لمخرجات رديئة"

شاركت الكاتبة المرموقة مارغريت أتوود مؤخراً نقداً لاذعاً للنماذج اللغوية الكبيرة، مسلطةً الضوء على الصراع المستمر مع الدقة وسلامة البيانات. وتؤكد تجربتها حقيقة جوهرية في عصر الذكاء الاصطناعي الحالي: حتى أكثر النماذج تقدماً تظل محدودة بجودة بيانات التدريب الخاصة بها.

تجربة Claude: درس في "الهلوسة"

خلال حديثها في مهرجان بابيل الأدبي والثقافي في بورتو بالبرتغال، كشفت مؤلفة رواية The Handmaid’s Tale عن تجربتها الوحيدة في استخدام Claude من شركة Anthropic. وقد أسفرت محاولة أتوود لاستخدام روبوت الدردشة لاسترجاع معلومات حول المسلسل البوليسي البريطاني Father Brown عن فشل يجسد تماماً مفهوم "الهلوسة".

ووفقاً لأتوود، قدم النموذج معلومات غير صحيحة، مما يعني "كذبه" فعلياً على المستخدم. وأشارت إلى أن الـ LLM ربما قام بتصفح وأخذ عينات من كميات هائلة من مراجعات البرامج التلفزيونية، ولكن نظرًا لأن النقد عبر الإنترنت يتجنب عادةً حرق الأحداث (spoilers)، فقد ضل النموذج بسبب الأنماط الموجودة في مجموعة التدريب الخاصة به. يسلط هذا التفصيل التقني الضوء على تحدٍ جوهري للمطورين: فالنماذج اللغوية الكبيرة (LLMs) هي محركات احتمالية تعطي الأولوية لمطابقة الأنماط على التحقق من الحقائق، مما يؤدي غالباً إلى مخرجات واثقة ولكنها خاطئة.

معضلة البيانات: المدخلات الرديئة تؤدي لمخرجات رديئة

يرتكز نقد أتوود على مبدأ حوسبي خالد: "المدخلات الرديئة تؤدي لمخرجات رديئة". وأشارت إلى أن الـ LLMs يتم تدريبها على معلومات تم جمعها (scraped)، ومنشورة مسبقاً، وقد تكون قديمة. وعندما يتم تزويد النموذج ببيانات غير كاملة أو منحازة أو غير متسقة منطقياً، فإن المخرجات الناتجة ستعكس تلك العيوب حتماً.

وبالنسبة لمشهد الذكاء الاصطناعي الأوسع، يعد هذا تذكيراً بأن زيادة حجم معاملات النموذج (parameters) ليست بديلاً عن جودة البيانات. وبينما يسعى المطورون للحصول على مجموعات بيانات أكبر لتعزيز قدرات الاستنتاج، فإن "الضجيج" داخل مجموعات البيانات تلك — مثل غياب حرق أحداث الحبكة في المراجعات التي ذكرتها أتوود — يمكن أن يخلق أخطاءً منهجية لا يمكن حتى للبنى المتطورة مثل Claude التغلب عليها بسهولة.

القلق الأخلاقي: الانتهازية مقابل الإبداع

بعيداً عن القيود التقنية، تطرقت أتوود إلى العنصر البشري في تبني الذكاء الاصطناعي. فقد وصفت أولئك الذين يعتمدون بشكل كبير على الذكاء الاصطناعي بأنهم "انتهازيون" يبحثون عن طريقة سهلة لتجاوز صرامة الإبداع أو البحث الحقيقي. وحذرت من أن إغراء "الغش" باستخدام محتوى مولد بواسطة الذكاء الاصطناعي لا يمكن اكتشافه يمثل قلقاً متزايداً للصناعات التي تعتمد على الفكر البشري واللمسات الدقيقة.

بالنسبة للمؤسسين والمتخصصين في التكنولوجيا، يعد هذا التمييز حيوياً. فبينما يمكن للذكاء الاصطناعي أن يعمل كأداة إنتاجية قوية، فإن ملاحظة أتوود بأن "حتى الأشخاص الذين يستخدمونه لأسباب تجارية يتعين عليهم التحقق منه" تؤكد أن الإشراف البشري يظل مكوناً لا غنى عنه في سير عمل الذكاء الاصطناعي. إن عصر الذكاء الاصطناعي المستقل تماماً والخالي من الأخطاء لا يزال احتمالاً بعيد المنال، وتظل مسؤولية الحقيقة تقع على عاتق المستخدم.

النقاط الرئيسية المستفادة

• سلامة البيانات أمر بالغ الأهمية: يظل مبدأ "المدخلات الرديئة تؤدي لمخرجات رديئة" هو العقبة الأكبر أمام الـ LLMs، حيث تظل النماذج محدودة بجودة واكتمال بيانات التدريب الخاصة بها.
• فخ الهلوسة: حتى النماذج المتقدمة مثل Claude من Anthropic يمكن أن تفشل في استرجاع الحقائق البسيطة إذا كانت الأنماط الأساسية في بيانات التدريب مضللة.
• ضرورة الإشراف البشري: يجب النظر إلى الذكاء الاصطناعي كأداة تتطلب تحققاً مستمراً بدلاً من كونه بديلاً للخبرة البشرية والتفكير النقدي.