چه زمانی دولتها باید مدلهای هوش مصنوعی را کنترل کنند؟
Anthropic اخیراً با مشکل بزرگی روبرو شد. دولت ایالات متحده دستورالعملی صادر کرد تا از استفاده اتباع خارجی از مدلهای Fable 5 و Mythos 5 جلوگیری کند. Anthropic برای رعایت قانون، دسترسی تمامی مشتریان را غیرفعال کرد.
این یک تغییر عظیم است.
هوش مصنوعی پیشرو (Frontier AI) دیگر صرفاً یک نرمافزار نیست؛ بلکه در حال تبدیل شدن به یک زیرساخت استراتژیک است. وقتی نرمافزار به زیرساخت تبدیل میشود، دولتها وارد عمل میشوند.
ما اغلب با هوش مصنوعی مانند یک دستهبندی محصول (مانند چتباتها یا مولدهای تصویر) برخورد میکنیم. اما تغییر واقعی در لایههای زیرین در حال رخ دادن است. سیستمهای هوش مصنوعی مدرن میتوانند کد بنویسند، حفرههای امنیتی را پیدا کنند و جریانهای کاری (workflows) را اجرا کنند. آنها به صورت نیمهخودمختار عمل میکنند.
این موضوع سطح ریسک را تغییر میدهد. تنظیم مقررات برای یک اپلیکیشن استاندارد آسان است، اما سیستمی که حملات سایبری را خودکار میکند، بیشتر شبیه به زیرساختهای امنیت ملی به نظر میرسد.
استدلال برای مقرراتگذاری اگر یک مدل باعث تسریع ریسکهای امنیت زیستی، کلاهبرداری یا نظارت گسترده شود، دسترسی بدون محدودیت خطرناک است. مهندسان در حال حاضر محدودیتهایی را برای مواد شیمیایی، تجهیزات نظامی و زیرساختهای حیاتی میپذیرند. اگر هوش مصنوعی چشمانداز تهدیدات را تغییر دهد، کنترلهای دسترسی منطقی خواهند بود.
استدلال علیه زیادهروی کنترل دولتی میتواند خشن و سیاسی باشد. محدودیتهای ناگهانی به پژوهشگران، استارتاپها و مهندسان آسیب میزند. همچنین مشکل رقابت ایجاد میکند. اگر فقط شرکتهای بزرگ بتوانند هزینههای رعایت قوانین پیچیده را بپردازند، با تمرکزگرایی (centralization) مواجه خواهیم شد. تمرکزگرایی منجر به کاهش بازرسیها و کاهش تابآوری میشود.
راه حل: قوانین مبتنی بر قابلیت ما نباید مدلها را بر اساس هیاهو یا محبوبیت محدود کنیم، بلکه باید آنها را بر اساس آنچه واقعاً میتوانند انجام دهند، محدود کنیم.
این سوالات را بپرسید:
- آیا میتواند حفرههای امنیتی را پیدا و از آنها سوءاستفاده کند؟
- آیا میتواند وظایف مضر را برای افراد غیرمتخصص انجام دهد؟
- آیا میتواند بدون نظارت، ابزارها را در سیستمهای مختلف به کار بگیرد؟
- آیا تحت فشار، حفاظهای امنیتی را دور میزند؟
مهندسان باید رهبری این گفتگو را بر عهده بگیرند. سیاستگذاری نمیتواند یک قانون انتزاعی باشد؛ بلکه نیازمند دانش فنی از قابلیت مدل، دسترسی به ابزارها و بافتار (context) استقرار است.
میدان نبرد واقعی: کنترل دسترسی ایمنی هوش مصنوعی فقط مربوط به وزنهای مدل (model weights) نیست، بلکه مربوط به کنترل دسترسی است.
چه کسی میتواند از سیستم استفاده کند؟ این یک مسئله کلاسیک مهندسی است. یک دستور (prompt) به زبان طبیعی میتواند باعث اجرای اقدامات در سیستمهای مختلف شود. مجوزها باید بخشی از زیرساخت باشند، نه چیزی که بعداً به آن فکر میشود. یک مدل قدرتمند در یک پوسته محصول ضعیف، خطرناک است.
دیدگاه من ممنوع کردن هوش مصنوعی پایدار نیست. رها کردن همه چیز بدون قوانین نیز مسئولانه نیست.
مداخله زمانی توجیهپذیر است که سه مورد با هم ترکیب شوند:
- قابلیت بالا
- پتانسیل سوءاستفاده بالا
- پاسخگویی پایین
هدف، جلوگیری از فاجعه بدون متوقف کردن نوآوری است.
هوش مصنوعی پیش از آنکه قوانینی برای آن داشته باشیم، در حال تبدیل شدن به زیرساخت است. انتخابهایی که در طراحی سیستم انجام میدهید — مجوزها، ثبت وقایع (logging) و تایید انسانی — نحوه حکمرانی جهان بر هوش مصنوعی را شکل خواهد داد.
آینده کنترل هوش مصنوعی در زیرساختها رقم خواهد خورد.
Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo
Optional learning community: https://t.me/GyaanSetuAi