چگونه تحقیقات آمازون منجر به محدودیت‌های کاخ سفید علیه Anthropic شد

یک پیشرفت اخیر در حوزه امنیت سایبری توسط محققان آمازون، موجی از شوک را در صنعت هوش مصنوعی ایجاد کرده و منجر به دستورالعمل‌های مهم کنترل صادرات علیه Anthropic شده است. تصمیم برای محدود کردن دسترسی به مدل‌های پیشرفته Anthropic، بحث‌های شدیدی را در مورد امنیت ملی، آسیب‌پذیری‌های مدل و چشم‌انداز سیاسی هوش مصنوعی برانگیخته است.

تحقیقات آمازون که منجر به ممنوعیت شد

این جنجال حول یک مقاله فنی متمرکز است که توسط تیم تحقیقات امنیتی آمازون تهیه شده است. طبق گزارش‌های وال استریت ژورنال، محققان آمازون نشان دادند که از طریق مجموعه‌ای خاص از پرامپت‌ها (prompts)، مدل‌های Fable 5 و Mythos 5 شرکت Anthropic را می‌توان برای ارائه اطلاعاتی که قادر به تسهیل حملات سایبری هستند، دستکاری کرد.

گزارش شده است که این یافته مستقیماً توسط اندی جاسی، مدیرعامل آمازون، با کاخ سفید در میان گذاشته شده است. پس از این گفتگوها، دولت دستورالعمل کنترل صادراتی را صادر کرد که به‌طور مؤثری مانع دسترسی اتباع خارجی به این مدل‌های خاص می‌شود. این اقدام یک بحران داخلی فوری برای Anthropic ایجاد کرده است، زیرا بسیاری از محققان خودِ این شرکت متولد خارج از کشور هستند و اکنون از استفاده از همان فناوری‌ای که در ساخت آن کمک کرده‌اند، منع شده‌اند.

بحث «جیل‌بریک» (Jailbreak) و آسیب‌پذیری‌های مدل

Anthropic به سرعت برای به چالش کشیدن طبقه‌بندی فنی دولت از این حادثه اقدام کرده است. در حالی که دولت این سوءاستفاده را یک «جیل‌بریک» (jailbreak) توصیف می‌کند، Anthropic استدلال می‌کند که آسیب‌پذیری‌های شناسایی‌شده منحصر به معماری آن‌ها نیست. این شرکت مدعی است که بسیاری از همین شکاف‌های امنیتی را می‌توان با استفاده از سایر مدل‌های برجسته و در دسترس عموم، مانند GPT 5.5، کشف کرد.

این اختلاف فنی توسط کارشناسان امنیتی مستقل حمایت می‌شود. کیتی موسوریس، بنیان‌گذار و مدیرعامل LutaSecurity، به طور علنی اعلام کرده است که یافته‌های مقاله آمازون یک «جیل‌بریک» سنتی محسوب نمی‌شود. این تمایز برای این صنعت حیاتی است، زیرا این سوال را مطرح می‌کند که آیا دولت در حال هدف قرار دادن نقص‌های خاص مدل‌ها است یا در حال اجرای اقدامات نظارتی گسترده‌تر و شاید واکنشی است.

تنش‌های سیاسی و چشم‌انداز هوش مصنوعی

این ممنوعیت در خلاء رخ نداده است؛ بلکه در میان شکافی رو به گسترش میان Anthropic و دولت فعلی اتفاق می‌افتد. Anthropic موضع اخلاقی محکمی اتخاذ کرده و از اجازه دادن به استفاده از مدل‌های هوش مصنوعی خود برای نظارت گسترده بر شهروندان ایالات متحده یا توسعه سلاح‌های خودکار مرگبار خودداری کرده است.

گزارش‌ها حاکی از آن است که این چارچوب‌های اخلاقی منجر به اصطکاک با دولت ترامپ شده است؛ دولتی که پیش از این به آژانس‌های فدرال دستور داده بود استفاده از خدمات هوش مصنوعی Anthropic را متوقف کنند. برخی از ناظران این صنعت، از جمله کیت کورن، مقام سابق وزارت بازرگانی، معتقدند که موضع فعلی کاخ سفید در قبال Anthropic ممکن است بر سرعت و شدت محدودیت‌های صادراتی اخیر تأثیر گذاشته باشد. با توانمندتر شدن مدل‌های هوش مصنوعی، تلاقی تحقیقات امنیت سایبری، اخلاق شرکتی و کنترل ژئوپلیتیک در حال تبدیل شدن به خط مقدم جدید مقررات فناوری است.

نکات کلیدی

• محرک امنیتی: تحقیقات Amazon نشان داد که می‌توان Fable 5 و Mythos 5 را برای کمک به حملات سایبری ترغیب کرد که این امر منجر به محدودیت‌های صادراتی فدرال شد.
• خسارت جانبی: ممنوعیت دسترسی اتباع خارجی به مدل‌های Anthropic، به‌طور ناخواسته بسیاری از پژوهشگران متولد خارج از کشورِ خودِ این شرکت را نیز از ابزارهایشان محروم کرده است.
• اختلاف فنی: Anthropic و کارشناسان امنیتی استدلال می‌کنند که این آسیب‌پذیری یک jailbreak منحصربه‌فرد نیست، بلکه یک مشکل سیستماتیک است که در سایر مدل‌ها مانند GPT 5.5 نیز وجود دارد.