قامت Anthropic بتنفيذ تحديث كبير لنموذج Fable 5 الخاص بها، مما أدى إلى تقليل عدد الاستفسارات البيولوجية الحميدة التي تحظرها طبقات الأمان بشكل كبير. يهدف هذا التعديل الاستراتيجي إلى استعادة الفائدة للبحث العلمي المشروع مع الحفاظ على ضمانات صارمة ضد التهديدات البيولوجية عالية المخاطر.

تقليل العقبات أمام البحث العلمي

في خطوة مدفوعة بانتقادات من المجتمع العلمي، نجحت Anthropic في خفض النتائج الإيجابية الكاذبة في فلاتر السلامة البيولوجية لنموذج Fable 5 بنسبة 85 بالمائة تقريبًا. في السابق، كان مصنف السلامة في النموذج عدوانيًا للغاية، حيث كان يحظر بشكل متكرر الاستفسارات العلمية المشروعة ويعيد توجيه المستخدمين إلى نموذج Opus 5 الأقل قدرة.

يتيح هذا التحديث للباحثين والمتخصصين الطبيين الاستفادة من كامل قدرات الاستنتاج لنموذج Fable 5 لمجموعة واسعة من المهام الحميدة. يمكن للمستخدمين الآن إجراء عمليات معقدة مثل تفسير النتائج المختبرية، وتحليل الأعراض السريرية، والإجابة على الأسئلة الطبية المتطورة دون الاصطدام بـ "جدار الأمان" الذي كان يعيق الإنتاجية سابقًا.

الحفاظ على الضوابط الوقائية ضد مخاطر الاستخدام المزدوج

على الرغم من تخفيف القيود البيولوجية العامة، تلتزم Anthropic بخط صارم تجاه الأبحاث "مزدوجة الاستخدام" — وهي المعلومات التي يمكن إعادة توظيفها لإلحاق الضرر. لم ترفع الشركة القيود المفروضة على المواضيع شديدة الحساسية بما في ذلك علم الفيروسات، وعلم السموم، والتصميم الجزيئي المتقدم.

يستند منطق Anthropic إلى الطبيعة الفريدة للتهديدات البيولوجية. فخلافًا للهجوم السيبراني، الذي يمكن التخفيف من آثاره من خلال التصحيحات وإغلاق الأنظمة، فإنه من المستحيل تقريبًا "إغلاق" عامل بيولوجي تم إطلاقه بمجرد أن يبدأ في الانتشار. واستشهدت الشركة بالعديد من المخاوف عالية المخاطر التي تدفع هذا الحذر، بما في ذلك:

  • تحليلات وكالات الاستخبارات الأمريكية المتعلقة بالمخاطر البيولوجية.
  • أبحاث تثبت إمكانية استخدام الذكاء الاصطناعي لتصميم فيروسات اصطناعية بالكامل.
  • محاولات موثقة من قبل المستخدمين لطلب تعليمات حول الأسلحة البيولوجية من نماذج LLMs الحالية.

الموازنة بين السلامة والوصول المتخصص

يتمثل التحدي الذي يواجه مختبرات الذكاء الاصطناعي في إدارة التوتر بين التقدم العلمي المفتوح ومنع سوء الاستخدام الكارثي. تحاول Anthropic حل هذه المشكلة من خلال تطوير برامج وصول متخصصة. تم تصميم هذه البرامج للسماح للباحثين المعتمدين بالوصول إلى الميزات المقيدة — مثل تلك المتعلقة بعلم الفيروسات أو النمذجة الجزيئية — ضمن بيئة خاضعة للرقابة والتدقيق.

من خلال التمييز بين الاستفسار الطبي الحميد وأبحاث الاستخدام المزدوج الخطيرة، تحاول Anthropic وضع سابقة لكيفية تعامل النماذج الرائدة مع "الحدود البيولوجية"، مما يضمن ألا تتحول أدوات الطب الحديث عن غير قصد إلى أدوات للإرهاب البيولوجي.

النقاط الرئيسية

  • تقليل النتائج الإيجابية الكاذبة بنسبة 85%: خفضت Anthropic بشكل كبير الحاجز أمام الاستفسارات البيولوجية المشروعة، مما أبعد المستخدمين عن نموذج Opus 5 المنخفض المستوى.
  • ضوابط صارمة على المجالات عالية المخاطر: تظل القيود الصارمة قائمة في مجالات علم الفيروسات، وعلم السموم، والتصميم الجزيئي لمنع إنشاء الأسلحة البيولوجية.
  • وصول محكوم للباحثين: تعمل Anthropic على بناء برامج وصول محددة لتزويد العلماء المعتمدين بالقدرات المقيدة التي يحتاجونها للأبحاث المشروعة.

خفضت Anthropic عمليات الحظر الناتجة عن النتائج الإيجابية الكاذبة للاستفسارات البيولوجية الحميدة في نموذج Fable 5 بنسبة 85% تقريبًا، مما أعاد الوصول إلى كامل قدرات الاستنتاج للنموذج للباحثين. يحافظ هذا التغيير على ضمانات صارمة بشأن المواضيع البيولوجية مزدوجة الاستخدام، مما يمنع النموذج من تقديم تعليمات قد تمكن من صنع الأسلحة البيولوجية.

لماذا يهم هذا التحديث

تم ضبط طبقة الأمان في Fable 5 في الأصل لتكون حذرة للغاية، حيث كانت تصنف مجموعة واسعة من الأسئلة العلمية المشروعة على أنها عالية المخاطر. وكان المستخدمون الذين يطلبون تفسيرات روتينية للنتائج المختبرية أو تحليلات للأعراض السريرية يتم توجيههم بشكل روتيني إلى نموذج Opus 5 الأقل قدرة. وقد أثار الحظر المفرط انتقادات من المجتمع العلمي، الذي جادل بأن هذا العائق أعاق البحث الحقيقي وأبطأ عملية اتخاذ القرار الطبي. ومن خلال خفض معدل النتائج الإيجابية الكاذبة بنحو أربعة أخماس، تهدف Anthropic إلى إعادة قدرات الاستنتاج المتقدمة للنموذج إلى أيدي الأطباء وعلماء الأحياء وغيرهم من المتخصصين الذين يحتاجون إليها في المهام اليومية.

كيف تم تغيير الفلاتر

ينبع هذا التحسين من مصنف تمت إعادة ضبطه ليميز بين الاستفسارات الطبية الحيوية العادية وتلك التي تتطرق إلى الأبحاث "مزدوجة الاستخدام" — وهي المعلومات التي يمكن إعادة توظيفها لإلحاق الضرر. لا يزال المصنف الجديد يحجب الطلبات المتعلقة بعلم الفيروسات، وعلم السموم، والتصميم الجزيئي المتقدم، ولكنه يسمح بمرور الأسئلة المتعلقة بالتشخيصات القياسية، وفرز الأعراض، وتفسير البيانات.

أشار مهندسو Anthropic إلى أن التهديدات البيولوجية تختلف عن التهديدات السيبرانية: فبمجرد إطلاق مسبب مرض، لا يمكن إصلاحه أو إغلاقه. وقد دفع هذا الواقع إلى اتخاذ القرار بالحفاظ على موقف صارم تجاه المجالات عالية المخاطر مع تخفيف القيود حول الاستفسارات الطبية الروتينية.

ما يظل محظوراً

يستمر النموذج في رفض الطلبات التي قد تسهل إنشاء عوامل ضارة. وتحديداً، أي مطالبة تسعى إلى:

  • بروتوكولات مفصلة في علم الفيروسات قد تساعد في تخليق الفيروسات،
  • مسارات علم السموم للمواد الكيميائية القابلة للتحويل إلى أسلحة، أو
  • تعليمات الهندسة الجزيئية خطوة بخطوة.

وقد استشهدت Anthropic بثلاثة مصادر لحذرها: تحليلات من وكالات الاستخبارات الأمريكية تسلط الضوء على المخاطر البيولوجية، وأبحاث تظهر أن الذكاء الاصطناعي يمكنه تصميم فيروسات اصطناعية بالكامل، ومحاولات موثقة من قبل المستخدمين لطلب تعليمات حول الأسلحة البيولوجية من النماذج اللغوية الحالية.

برنامج وصول للعلماء المعتمدين

لتحقيق التوازن بين البحث المفتوح والأمن، تقوم Anthropic بإطلاق برنامج وصول متخصص. يمكن للباحثين المعتمدين التقدم بطلب للحصول على بيئة خاضعة للرقابة حيث يتم فتح القدرات المقيدة تحت إشراف وتدقيق. تم تصميم البرنامج للسماح للعلماء الشرعيين باستكشاف مواضيع عالية المخاطر — مثل منصات اللقاحات الجديدة أو نمذجة مسببات الأمراض — دون تعريض الجمهور الأوسع لإرشادات خطيرة.

الخلاصة

من خلال تقليل حظر الإيجابيات الكاذبة بنسبة 85% مع الحفاظ على حظر صارم للاستخدام المزدوج، تهدف Anthropic إلى منح الباحثين قوة نموذجها الأكثر قدرة دون فتح الباب أمام تصميم الأسلحة البيولوجية. إن نجاح استراتيجية السلامة المدروسة هذه قد يضع نموذجاً لكيفية تعامل نماذج الذكاء الاصطناعي الرائدة مع المجالات العلمية الأخرى عالية المخاطر.