دِمیس هاسابیس خواستار ایجاد یک نهاد نظارتی جهانی تحت رهبری ایالات متحده برای مدیریت ریسکهای هوش مصنوعی شد
دِمیس هاسابیس، مدیرعامل Google DeepMind، خواستار ایجاد یک نهاد نظارتی بینالمللی قدرتمند است که قادر به متوقف کردن بهکارگیری مدلهای خطرناک هوش مصنوعی پیشرو (frontier AI) باشد. با شتاب گرفتن تلاشها برای دستیابی به هوش مصنوعی عمومی (AGI)، هاسابیس استدلال میکند که وجود یک چارچوب جهانی استاندارد برای جلوگیری از پیامدهای فاجعهبار ضروری است.
مدلی نظارتی بر پایه نظارت مالی
هاسابیس در پیشنهاد اخیر خود با عنوان «چارچوبی برای هوش مصنوعی پیشرو و طلوع عصر جدید»، ساختاری نظارتی مشابه با سازمان تنظیم مقررات صنعت مالی (FINRA) را پیشنهاد میکند. این نهاد نظارتی پیشنهادی صرفاً یک هیئت مشورتی نخواهد بود؛ بلکه متشکل از کارشناسان مستقل و نمایندگانی از جامعه متنباز خواهد بود که اختیار صریح برای ارزیابی مدلهای پیشرو پیش از انتشار را دارند.
نکته حیاتی این است که این سازمان قدرت هماهنگی برای یک «کاهش سرعت» در سطح کل صنعت را خواهد داشت، در صورتی که یک مدل خاص برای بهکارگیری بیش از حد خطرناک تشخیص داده شود. هدف این مکانیسم جلوگیری از «رقابت برای رسیدن به پایینترین سطح» (race to the bottom) است؛ وضعیتی که در آن شرکتها پروتکلهای ایمنی را فدای تلاش برای دستیابی سریعتر به AGI نسبت به رقبای خود میکنند.
چرا ایالات متحده باید پیشگام این حرکت باشد
هاسابیس استدلال میکند که ایالات متحده موقعیت منحصربهفردی برای هدایت این ابتکار جهانی دارد. با توجه به جایگاه اقتصادی و فنی مسلط این کشور در بخش هوش مصنوعی، ایالات متحده اهرمهای لازم برای تعیین استانداردهایی را در اختیار دارد که سایر نقاط جهان بتوانند از آنها پیروی کنند.
فوریت این پیشنهاد ناشی از باور هاسابیس است مبنی بر اینکه AGI «احتمالاً تنها چند سال کوتاه با آن فاصله دارد». او دوران فعلی را «پیشدرآمد تکینگی» (foothills of the singularity) میداند؛ دورانی تحولآفرین که بشریت را به طور بنیادین بازتعریف خواهد کرد. او برای مدیریت این گذار، در تلاش است تا شکاف میان نوآوریهای بخش خصوصی و ایمنی عمومی را پر کند.
ایجاد اجماع سیاسی و صنعتی
حرکت به سمت مقررات رسمی از همین حالا در پشت صحنه در حال شتاب گرفتن است. گزارشها حاکی از آن است که هاسابیس ماهها را صرف ارائه گزارش به ذینفعان مختلف، از جمله مقامات اروپایی، آزمایشگاههای بزرگ هوش مصنوعی و دولت ترامپ کرده است. طبق گزارش Axios، بازخوردهای اولیه از سوی دولت آینده ایالات متحده «بسیار مثبت» بوده است که نشاندهنده تغییر احتمالی به سمت نظارت فدرال ساختاریافتهتر است.
این فشار برای حکمرانی با هشدارهای اخیر سایر غولهای این صنعت، از جمله جک کلارک (بنیانگذار Anthropic) و اریک اشمیت (مدیرعامل سابق گوگل) در مورد پیامدهای اقتصادی و وجودی هوش مصنوعی همسو است. هاسابیس که برنده جایزه نوبل ۲۰۲۴ است، همچنین درباره ریسکهای خاص و پرخطری مانند پتانسیل هوش مصنوعی برای کمک به تولید سلاحهای بیولوژیک، صراحتاً صحبت کرده است.
پیامدهای گستردهتر برای اکوسیستم هوش مصنوعی
در صورت تحقق، این نهاد نظارتی نشاندهنده بزرگترین تغییر در سیاستهای فناوری طی چندین دهه خواهد بود. برای توسعهدهندگان و بنیانگذاران، این به معنای گذار از دوران «سریع حرکت کن و چیزها را بشکن» به دورانی بسیار تحت نظارت است که در آن، ممیزیهای پیش از بهکارگیری به یک هنجار تبدیل میشود. در حالی که برخی بیم آن دارند که این امر ممکن است مانع نوآوری شود، هاسابیس استدلال میکند که یک چارچوب منسجم تنها راه برای اطمینان از این است که گذار به دنیای مبتنی بر AGI، ایمن و پایدار باشد.
نکات کلیدی
- قدرت اجرایی نظارتی: نهاد نظارتی پیشنهادی اختیار ارزیابی مدلهای پیشرو و الزام به کاهش سرعت در سطح کل صنعت را در صورت بالا بودن ریسکها خواهد داشت.
- رهبری ایالات متحده: هاسابیس معتقد است که ایالات متحده باید به دلیل نقش محوری خود در اقتصاد جهانی هوش مصنوعی و زیرساختهای فنی، این ابتکار را رهبری کند.
- فوریت AGI: این پیشنهاد ناشی از پیشرفت سریع به سوی AGI است که هاسابیس آن را «عصر جدیدی برای بشریت» میداند که نیازمند نظارت فوری است.