مدیر فنی Arcee نگرانیها درباره مدلهای هوش مصنوعی متنباز چینی را به چالش میکشد
با محبوبیت روزافزون مدلهای متنباز (open-weight) چینی مانند Qwen متعلق به Alibaba و Kimi K3 متعلق به Moonshot AI، بحثهای داغی در مورد پیامدهای امنیتی آنها شکل گرفته است. در حالی که برخی بیم آن دارند که این مدلها به عنوان ابزاری برای حملات سایبری عمل کنند و منجر به ممنوعیتهای احتمالی توسط دولت ایالات متحده شوند، کارشناسان با این ایده که این مدلها ذاتاً خطرناک هستند، مخالفت میکنند.
رد روایت «نیت بدخواهانه»
نگرانی اصلی منتقدان این است که مدلهای توسعهیافته توسط چین ممکن است حاوی «نیتهای پنهان» یا درهای پشتی (backdoors) باشند که توسط عوامل بدخواه کدنویسی شدهاند. با این حال، لوکاس اتکینز (Lucas Atkins)، مدیر فنی آزمایشگاه هوش مصنوعی Arcee مستقر در ایالات متحده، استدلال میکند که این سوءتفاهم، عملکرد مدلهای زبانی بزرگ (LLMs) را به شکلی بنیادین اشتباه جلوه میدهد.
برخلاف نرمافزارهای سنتی که در آنها توسعهدهنده میتواند یک دستور مخرب خاص را به طور صریح کدنویسی کند، LLMها محصول فرآیندهای آموزشی هستند. اتکینز اشاره میکند که وقتی یک مدل متنباز دانلود و در یک محیط خصوصی و محلی اجرا میشود، توسعهدهنده اصلی هیچ راهی برای دسترسی یا کنترل آن نسخه ندارد. این جدایی بین وزنهای مدل (model weights) و زیرساخت کاربر، لایه امنیتی حیاتیای را فراهم میکند که در نرمافزارهای سنتی وجود ندارد.
واقعیت فنی امنیت مدل
در حالی که بحثها ادامه دارد، جامعه فنی تأکید میکند که خطرات رفتارهای «مخفیانه» هوش مصنوعی بسیار پایین است. یک نگرانی تئوریک این است که آیا یک مدل کدنویسی میتواند برای تزریق بدافزار به پایگاههای کد (codebases) خاص آموزش ببیند یا خیر. اگرچه اتکینز میپذیرد که این امر از نظر تئوری ممکن است، اما خاطرنشان میکند که این کار مستلزم «شعبدهبازیهای مهندسی» است که در حال حاضر غیرعملی است.
علاوه بر این، ماهیت LLMها احتمالی و خلاقانه است، که باعث میشود ایجاد «طوفان کامل» مورد نیاز برای تحریک یک پاسخ مخرب خاص، بسیار بعید باشد. برای شرکتها، امنیت از طریق چندین لایه استاندارد مدیریت میشود:
- تست امنیتی: سازمانهای بزرگ هستههای مدل را از طریق فرآیندهای بازرسی دقیق عبور میدهند.
- پس از آموزش (Post-Training): شرکتها مدلها را برای وظایف خاص بازتنظیم (fine-tune) میکنند که به آنها اجازه میدهد سوگیری، سمیت (toxicity) و توهم (hallucinations) را بررسی کنند.
- مستقل بودن از مدل (Model Agnosticism): معماری مدرن هوش مصنوعی به طور فزایندهای مستقل از مدل است، به این معنی که شرکتها میتوانند مدلهای چینی را با جایگزینهای آمریکایی بدون نیاز به بازطراحی کل زیرساخت خود جایگزین کنند.
رقابت از طریق نوآوری، نه مقرراتگذاری
شرکت Arcee که مدلهای متنباز را برای ارائه جایگزینهای بومی به شرکتهای آمریکایی میسازد، در موقعیت منحصر به فردی قرار دارد. در حالی که ممنوعیت مدلهای چینی از نظر تئوری به نفع کسبوکار آنها خواهد بود، اتکینز استدلال میکند که تمرکز باید از ممنوعیت به سمت پرورش یک اکوسیستم داخلی قدرتمند تغییر کند.
جالب اینجاست که ظهور مدلهای چینی با عملکرد بالا، در واقع نوآوری در غرب را تسریع میکند. Arcee از این مدلهای متنباز برای یادگیری از معماریها و قابلیتهای آنها استفاده میکند و چرخهای از بهبود مستمر را به حرکت در میآورد. به گفته اتکینز، راه نهایی برای رقابت آزمایشگاههای آمریکایی نه از طریق سیاستگذاری، بلکه از طریق عملکرد است: «راه رقابت با مدلهای چینی، عرضه مدلی است که بهتر باشد.»
نکات کلیدی
- امنیت از طریق جداسازی: هنگامی که مدلهای متنباز در یک مرکز داده خصوصی مستقر میشوند، توسعهدهندگان اصلی هیچ مکانیزمی برای دسترسی یا دستکاری محیط محلی ندارند.
- ریسک تئوریک در مقابل ریسک عملی: اگرچه «آموزش پنهان» برای تزریق کد مخرب از نظر تئوری ممکن است، اما در معماریهای فعلی LLM، همچنان یک کار بسیار پیچیده و بعید است.
- نوآوری از طریق رقابت: بخش هوش مصنوعی ایالات متحده به جای دنبال کردن ممنوعیتها، میتواند از فشار رقابتی و دانش مشترک حاصل از مدلهای متنباز با عملکرد بالای چین بهرهمند شود.