Anthropic به دلیل مدل‌های Fable 5 و Mythos 5 با ممنوعیت صادرات ایالات متحده روبرو شد

Anthropic پس از ابلاغ ناگهانی دستورالعمل کنترل صادرات ایالات متحده از سوی کاخ سفید، مجبور شد دسترسی به قدرتمندترین مدل‌های هوش مصنوعی خود، یعنی Fable 5 و Mythos 5 را به‌طور ناگهانی تعلیق کند. این اقدام بی‌سابقه، تنش‌های فزاینده میان توسعه سریع مرزهای هوش مصنوعی و الزامات امنیت ملی را برجسته می‌کند.

عامل محرک: ریسک‌های امنیت سایبری و آسیب‌پذیری‌های مدل

این بن‌بست مدت کوتاهی پس از عرضه Fable 5 و Mythos 5 توسط Anthropic در ۹ ژوئن آغاز شد. در حالی که Fable 5 به عنوان نسخه‌ای با حفاظ‌های پیشرفته برای استفاده عمومی بازاریابی شده بود، Mythos 5 با برداشتن برخی محدودیت‌ها (guardrails) برای کاربردهای تخصصی طراحی شده بود. با این حال، گزارش‌ها حاکی از آن است که این اقدامات امنیتی ممکن است کافی نبوده باشند.

طبق گزارش The Wall Street Journal، این دستورالعمل در پی تحقیقات امنیت سایبری در Amazon صادر شد. پس از گفتگوهای میان Andy Jassy، مدیرعامل Amazon و کاخ سفید، مشخص شد که محققان با استفاده از دستورهای (prompts) خاصی موفق شده‌اند Fable 5 را مجبور کنند اطلاعاتی ارائه دهد که می‌تواند حملات سایبری را تسهیل کند. اگرچه Anthropic با این موضوع مخالفت کرده و استدلال کرده است که یک «احتمال محدود برای دور زدن محدودیت‌ها» (jailbreak) نباید منجر به فراخوانی مدلی شود که در اختیار صدها میلیون نفر قرار گرفته است، اما پاسخ دولت قاطعانه بود.

نگرانی‌های امنیت ملی و عامل چین

دستورالعمل کاخ سفید صرفاً مربوط به آسیب‌پذیری‌های نرم‌افزاری نیست، بلکه به مهار ژئوپلیتیک نیز مربوط می‌شود. گزارش‌های Semafor نشان می‌دهد که تصمیم برای اعمال محدودیت‌های صادراتی ناشی از این ترس بوده است که ممکن است نهادهای مرتبط با چین به این مدل‌ها دسترسی پیدا کرده باشند.

نگرانی فنی اصلی مربوط به «تقطیر مدل» (model distillation) است؛ فرآیندی که در آن یک هوش مصنوعی «دانش‌آموز» با سطح پیشرفته کمتر، بر اساس خروجی‌های یک مدل پیشرو آموزش می‌بیند تا رفتار پیچیده آن را بازسازی کند. اگر یک دشمن خارجی بتواند با موفقیت Mythos 5 یا Fable 5 را تقطیر کند، می‌تواند به‌طور بالقوه قابلیت‌های اختصاصی Anthropic را مهندسی معکوس کرده و ریسک قابل توجهی برای امنیت ملی ایجاد کند.

تأثیر کنترل‌های شدید صادراتی

دامنه دستور دولت ایالات متحده به‌طور قابل‌توجهی گسترده است. این دستورالعمل حکم می‌کند که Anthropic دسترسی به این مدل‌ها را برای «هر تبعه خارجی» که هم در داخل و هم در خارج از ایالات متحده مستقر است، مسدود کند. این شامل پژوهشگران خودِ Anthropic که متولد خارج از این کشور هستند نیز می‌شود و عملاً آن‌ها را از دسترسی به همان فناوری‌ای که خود در ساخت آن کمک کرده‌اند، منع می‌کند.

برای رعایت این دستورالعمل قانونی، Anthropic ناچار شده است محصولاتی را که به‌تازگی یک هفته تمام برای تبلیغ و هیجان‌سازی آن‌ها وقت گذاشته بود، به‌طور کامل از دسترس خارج کند و دسترسی تمامی مشتریان در سراسر جهان را ببندد تا اطمینان حاصل شود که هیچ تبعه خارجی نمی‌تواند از این مدل‌ها استفاده کند.

چرا این موضوع برای صنعت هوش مصنوعی اهمیت دارد

این حادثه نقطه عطفی در چشم‌انداز هوش مصنوعی محسوب می‌شود. این امر نشان می‌دهد که دولت ایالات متحده مایل است از کنترل‌های صادراتی تهاجمی برای مدیریت ماهیت «دو منظوره» هوش مصنوعی پیشرو (frontier AI) استفاده کند. برای توسعه‌دهندگان و بنیان‌گذاران، این یک هشدار است: گذار از یک پیشرفت پژوهشی به یک محصول تجاری، اکنون به‌طور جدایی‌ناپذیری با نظارت فدرال و ثبات ژئوپلیتیک گره خورده است. علاوه بر این، چنین رویکرد سخت‌گیرانه‌ای ممکن است به‌طور ناخواسته باعث تسریع حرکت به سمت «هوش مصنوعی غیرآمریکایی» شود، چرا که بازیگران جهانی به دنبال اجتناب از نوسانات مقرراتی بازار ایالات متحده هستند.

نکات کلیدی