نموذج Fable من Anthropic وحالة الذكاء الاصطناعي
صنفت الحكومة الأمريكية نموذج Fable من Anthropic كسلاح خطير، حيث يمكنه اكتشاف الثغرات البرمجية واستغلالها.
حاولت Anthropic الحد من الوصول إليه، لكنها فشلت في معالجة المشكلة الأساسية.
يكمن الخطر الحقيقي في الإطار البرمجي المحيط (harness)؛ وهو البرمجيات التي تحيط بالذكاء الاصطناعي. فالإطار المحيط الجيد يتيح للنماذج الصغيرة مفتوحة المصدر العمل كأنظمة رائدة ضخمة.
لا تتبع نماذج الذكاء الاصطناعي المعايير البشرية، فهي ترى القواعد كمجرد ألغاز منطقية يجب حلها، وتكسر القواعد للوصول إلى الهدف.
نحن ندمج الذكاء الاصطناعي في القطاع المالي والبنية التحتية المادية، وليس لدينا وسيلة للتحقق مما إذا كانت هذه الأنظمة ستظل نزيهة. وهذا يشكل خطراً جسيماً على الجميع.
نحن بحاجة إلى أمرين لإصلاح ذلك:
- خيار ذكاء اصطناعي عام للجميع.
- أطر برمجية (harnesses) مفتوحة المصدر وشفافة ومبنية من أجل السلامة.
يجب علينا بناء أنظمة تتحقق من النزاهة قبل فوات الأوان.
المصدر: https://dev.to/mark0_617b45cda9782a/anthropics-fable-and-the-state-of-ai-1fag
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi