توقف فعالیت مدل‌های Anthropic در پی نگرانی‌ها از امنیت ایالات متحده و ارتباط با چین

شرکت Anthropic پس از توقف اجباری مدل‌های هوش مصنوعی Claude Mythos و Fable 5 خود، با بحرانی بزرگ روبرو شده است. ترکیبی از تنش‌های ژئوپلیتیک مربوط به SK Telecom و آسیب‌پذیری‌های امنیتی حیاتی، منجر به مداخله مستقیم کاخ سفید شده است.

اصطکاک ژئوپلیتیک و ارتباط با SK Telecom

سقوط مدل‌های Claude Mythos با یک نگرانی امنیتی سطح بالا مربوط به غول مخابراتی کره جنوبی، SK Telecom، آغاز شد. SK Telecom از طریق برنامه شرکای Anthropic که با نام Project Glasswing شناخته می‌شود، به مدل‌های Mythos دسترسی پیدا کرده بود. با این حال، مقامات ایالات متحده در مورد پیوندهای ادعایی SK Telecom با چین هشدار دادند و این مشارکت را یک خطر بالقوه برای امنیت ملی قلمداد کردند.

اگرچه SK Telecom داشتن هرگونه ارتباط با چین را رد کرده است، اما سوابق این شرکت در گروه گسترده‌تر SK مورد بررسی دقیق قرار گرفته است. گروه SK منافع تجاری قابل توجهی در چین دارد و پیش از سال ۲۰۰۹، سهام شرکت دولتی مخابراتی چین، China Unicom، را در اختیار داشت. گزارش‌ها حاکی از آن است که در پاسخ به این نگرانی‌ها، کاخ سفید به Anthropic دستور داده است تا فوراً دسترسی SK Telecom را قطع کند؛ دستورالعملی که این آزمایشگاه هوش مصنوعی بلافاصله از آن پیروی کرد.

نقص‌های امنیتی در Fable 5 و از دست رفتن اعتماد

زمانی که آسیب‌پذیری‌های امنیتی در مدل Fable 5 شناسایی شد، وضعیت از یک مسئله ژئوپلیتیک به یک فاجعه فنی تبدیل شد. بازیگران اصلی این صنعت، از جمله Amazon، نقص‌های حیاتی را گزارش کردند که می‌توانست به کاربران اجازه دهد محدودیت‌های ایمنی تعیین‌شده را دور بزنند. این آسیب‌پذیری‌ها نشان داد که نرده‌های حفاظتی (guardrails) مدل برای جلوگیری از سوءاستفاده یا دستکاری مخرب کافی نیستند.

همگرایی این دو حادثه — یعنی خطر ادراک‌شده از افشای اطلاعات توسط سرویس‌های اطلاعاتی خارجی از طریق SK Telecom و شکست فنی پروتکل‌های ایمنی Fable 5 — منجر به از دست رفتن کامل اعتماد مقامات ایالات متحده شد. در نتیجه، کاخ سفید Anthropic را تحت فشار قرار داد تا برای کاهش خطرات احتمالی برای امنیت ملی و ایمنی دیجیتال، هر دو مدل را به‌طور کامل از دسترس خارج کند.

پیامدها برای مرزهای هوش مصنوعی

این حادثه به عنوان یک هشدار جدی برای صنعت هوش مصنوعی که به سرعت در حال تکامل است عمل می‌کند و نشان می‌دهد که برتری فنی دیگر تنها معیار موفقیت نیست. برای توسعه‌دهندگان و بنیان‌گذاران هوش مصنوعی، بحران Anthropic نشان می‌دهد که ملاحظات ژئوپلیتیک و «ایمنی در طراحی» اکنون در مرکز چشم‌انداز نظارتی قرار دارند.

با قدرتمندتر شدن مدل‌های پیشرو، تلاقی روابط بین‌الملل و حکمرانی هوش مصنوعی احتمالاً تشدید خواهد شد. شرکت‌ها اکنون باید در شبکه پیچیده‌ای از نظارت‌های دولتی حرکت کنند، جایی که یک مشارکت واحد یا دور زدن یک حفاظ ایمنی می‌تواند منجر به از رده خارج شدن فوری فناوری پرچم‌دار شود.

نکات کلیدی

• ریسک ژئوپلیتیک: روابط ادعا شده بین SK Telecom و منافع چینی منجر به مداخله کاخ سفید شد و Anthropic را مجبور کرد تا دسترسی از طریق Project Glasswing را قطع کند.
• آسیب‌پذیری‌های فنی: نقایص امنیتی حیاتی در مدل Fable 5 که توسط Amazon شناسایی شد، امکان دور زدن محدودیت‌های ایمنی ضروری را فراهم کرد.
• فشار نظارتی: ترکیب نگرانی‌های امنیت ملی و شکست‌های ایمنی منجر به توقف کامل هر دو مدل Claude Mythos و Fable 5 شد.