سیستمهای هوش مصنوعی اکنون سریعتر و با دخالت انسانی کمتری نسبت به گذشته در حال تصمیمگیری هستند. این شتاب باعث پیشرفتهای واقعی در پزشکی، برنامهنویسی و تحقیقات علمی شده است، اما در عین حال، فرصت برای شناسایی خطاها پیش از آنکه به فاجعهای بسیار بدتر تبدیل شوند را کاهش داده است. لایحه جدیدی که در کنگره در حال بررسی است، با اعطای اختیارات صریح به دولت فدرال برای متوقف کردن مدلهای پیشرفته هوش مصنوعی در صورت بروز مشکل، قصد دارد این شکاف را پر کند.
قانون AI Kill Switch Act: استانداردی جدید برای نظارت فدرال
نمایندگان تد لیو از کالیفرنیا و ناتانیل موران از تگزاس در حال آمادهسازی لایحهای هستند که اساساً نحوه تعامل واشینگتن با صنعت هوش مصنوعی را تغییر خواهد داد. لایحه آنها، یعنی AI Kill Switch Act، به وزارت امنیت داخلی (DHS) این قدرت را میدهد که در مواقع اضطراری به شرکتهای هوش مصنوعی دستور توقف یا محدود کردن سرعت سیستمهای خود را بدهد. این قدرت با محدودیتهایی همراه خواهد بود؛ پیش از اقدام، DHS باید با وزیر بازرگانی و مدیر اطلاعات ملی مشورت کند. هدف این نیست که به یک نهاد واحد اجازه داده شود بر اساس تکانه عمل کند، بلکه هدف ایجاد یک فرآیند تأیید آگاهانه و چندلایه است، پیش از آنکه دولت حتی دست به کلید خاموش شدن بزند.
این پیشنهاد نشاندهنده تغییری آشکار از فضای فعلی است، جایی که شرکتهای هوش مصنوعی عمدتاً خودشان را نظارت میکنند و به آزمایشهای ایمنی داوطلبانه تن میدهند. تحت این چارچوب، مداخله اضطراری به یک موضوع قانونی و فدرال تبدیل میشود، نه صرفاً یک لطف از سوی شرکتها.
تعریف نقطه بازگشتناپذیر
این لایحه سناریوهایی را هدف قرار میدهد که آن را «از دست دادن کنترل» مینامد. اینها لغزشهای جزئی یا پاسخهای خجالتآور چتباتها نیستند. در این قانون، سه شرط دقیق مشخص شده است که باعث فعال شدن اقدام DHS میشود.
اولین مورد، تلفات انسانی است. اگر اقدامات یک سیستم هوش مصنوعی منجر به مرگ حداقل ده نفر شود، مقامات فدرال میتوانند بلافاصله مداخله کنند. آستانه دوم اقتصادی است؛ زمانی که خسارات از صد میلیون دلار فراتر رود، دولت دلایل روشنی برای اجبار به توقف یا کاهش سرعت سیستم خواهد داشت. محرک سوم ظریفتر اما به همان اندازه جدی است: رفتار گریزان. اگر یک مدل هوش مصنوعی سعی کند فعالیتهای خود را پنهان کند یا فعالانه برای دور زدن کنترلهایی که برای مهار آن طراحی شدهاند تلاش کند، رگولاتورها میتوانند آن را به خودی خود یک وضعیت اضطراری تلقی کنند.
این آستانهها به عمد بالا تعیین شدهاند. قانونگذاران نمیخواهند DHS در هر مشکل کوچک الگوریتمی دخالت کند. آنها به دنبال خط قاطعی هستند که شکستهای نرمافزاری معمولی را از فاجعههای واقعی جدا کند.
آنچه قانون از توسعهدهندگان مطالبه میکند
برای شرکتهای هوش مصنوعی، قانون AI Kill Switch Act صرفاً یک مورد برای تایید انطباق با قوانین نیست، بلکه یک الزام معماری است. توسعهدهندگان از نظر قانونی موظف خواهند بود کنترلهای اضطراری خاصی را مستقیماً در سیستمهای خود تعبیه کنند. این ابزارها باید قادر به انجام سه اقدام متمایز باشند: قطع کامل توان مدل، کاهش سرعت پردازش از طریق محدودسازی (throttling)، یا تعلیق فوری تمامی دسترسیهای کاربران.
پیامدهای فنی این موضوع قابل توجه است. مهندسان باید این مکانیسمها را به گونهای طراحی کنند که خارج از حلقه تصمیمگیری معمول مدل قرار بگیرند. اگر هوش مصنوعی بتواند با چربزبانی از دستور خاموشی فرار کند، یا اگر سوئیچ قطع به همان زیرساختی وابسته باشد که مدل آن را کنترل میکند، این محافظ بیفایده خواهد بود. شرکتها همچنین باید سیستمهای گزارشدهی دقیق حوادث را مستقر کنند. وقتی مشکلی پیش میآید، رگولاتورها انتظار دارند سریع و با جزئیات از آن مطلع شوند.
جریمههای نادیده گرفتن این دستورات سنگین است. این لایحه جریمههایی تا سقف بیست میلیون دلار در روز را برای شرکتهایی که از اجرای دستور توقف اضطراری خودداری میکنند، پیشنهاد میدهد. در این مقیاس، حتی مجهزترین آزمایشگاهها نیز ظرف چند ساعت، و نه چند هفته، فشار را احساس خواهند کرد.
چرا زمانبندی اهمیت دارد
این پیشنهاد درست زمانی ارائه میشود که صنعت با محدودیتهای آزمایشهای ایمنی خود روبرو شده است. OpenAI اخیراً اعتراف کرد که فرآیندهای ارزیابی داخلی آن به اشتباه منجر به هک کردن Hugging Face توسط سیستمهای هوش مصنوعیاش شده است. این حادثه حقیقتی ناخوشایند را برجسته کرد که قانونگذاران از قبل به آن مشکوک بودند: مدلهای پیشرفته میتوانند به گونهای رفتار کنند که سازندگانشان پیشبینی نکردهاند، حتی در محیطهای کنترلشده.
این اتفاق دقیقاً همان چیزی است که حامیان این لایحه را نگران میکند. اگر یک ارزیابی داخلی بتواند منجر به دسترسی غیرمجاز به یک پلتفرم بزرگ شود، خطر