دِمیس هاسابیس، مدیرعامل Google DeepMind، چارچوبی نظارتی برای مدیریت عرضه مدل‌های پیشرو هوش مصنوعی ارائه کرده است. او خواهان ایجاد یک نهاد استانداردسازی تخصصی است تا جایگزین مجموعه‌ی پراکنده‌ی بررسی‌های دولتی فعلی شود و یک سیستم نظارتی حرفه‌ای و از نظر فنی دقیق را جایگزین کند.

مدل FINRA برای هوش مصنوعی

هاسابیس در پیشنهاد خود با عنوان «چارچوبی برای هوش مصنوعی پیشرو و طلوع عصر جدید»، این نهاد جدید را بر اساس سازمان تنظیم مقررات صنعت مالی (FINRA) مدل‌سازی می‌کند. او سازمان مستقلی را متصور است که توسط دولت ایالات متحده حمایت می‌شود اما بودجه آن توسط صنعت هوش مصنوعی تأمین می‌گردد.

این مکانیسم در دو مرحله عمل خواهد کرد. ابتدا، آزمایشگاه‌های پیشرو مدل‌های خود را به‌صورت داوطلبانه برای یک بررسی ۳۰ روزه پیش از عرضه عمومی، به «نهاد استانداردسازی» تحویل می‌دهند. پس از اثبات کارآمدی پروتکل‌های ارزیابی، سیستم به یک الزام اجباری تبدیل می‌شود: مدل‌های پیشرو برای ورود به بازار ایالات متحده باید از آزمون‌های استاندارد شده عبور کنند. این طراحی، آسیب‌پذیری‌های حیاتی را هم قبل و هم بعد از استقرار شناسایی می‌کند.

رسیدگی به نقص‌های نظارت فعلی

هاسابیس برای ایجاد یک نهاد اختصاصی تلاش می‌کند، زیرا تلاش‌های نظارتی فعلی را ناکافی می‌داند. او بررسی‌های اخیر دولت ایالات متحده بر روی Mythos متعلق به Anthropic و Sol متعلق به OpenAI را به عنوان نمونه‌هایی هشداردهنده ذکر می‌کند. آن ارزیابی‌ها به دلیل فقدان تخصص فنی عمیق و تصمیم‌گیری‌های مبهم درباره زمان‌بندی عرضه، با واکنش‌های منفی روبرو شدند.

یک سازمان خودتنظیم‌گر به صنعت اجازه می‌دهد تا از اصطکاک‌های سیاسی که اکنون پیرامون نظارت بر هوش مصنوعی وجود دارد، عبور کند. سریرام کریشنان، مشاور هوش مصنوعی کاخ سفید، اخیراً هشدار داده است که ایجاد یک «FDA برای هوش مصنوعی» در داخل قوه مجریه بعید است. مدل مشابه FINRA یک راه میانه ارائه می‌دهد: استقلال فنی بدون موانع بوروکراتیک یک آژانس دولتی مستقیم.

تخصص فنی و ایمنی مقیاس‌پذیر

هاسابیس تأکید می‌کند که نیروی کار نظارتی باید از درون صنعت و جامعه متن‌باز (open-source) تأمین شود. این نهاد با بهره‌گیری از افرادی که معماری مدل‌ها و ریسک‌های نوظهور را درک می‌کنند، می‌تواند مدل‌ها را با تخصص واقعی ارزیابی کند.

این چارچوب همچنین اجازه یک رویکرد ایمنی غیرمتمرکز را می‌دهد. نهاد استانداردسازی می‌تواند برای ارزیابی‌های دقیق ریسک، با گروه‌های تخصصی ایمنی هوش مصنوعی قرارداد ببندد. از آنجایی که این سازمان خود را با شتاب سریع این حوزه تطبیق می‌دهد، نظارت می‌تواند با ظهور ریسک‌های جدید و شدیدتر، به‌صورت پویا «افزایش» یابد. این امر باعث می‌شود مقررات به جای اینکه یک گلوگاه باشد، تسهیل‌کننده نوآوری مسئولانه باقی بماند.

نکات کلیدی

  • مدل نظارتی ترکیبی: هاسابیس یک نهاد مستقل با بودجه صنعت و حمایت دولت را پیشنهاد می‌کند که با الگوبرداری از FINRA، بر عرضه مدل‌های پیشرو نظارت خواهد کرد.
  • اجرای مرحله‌ای: این طرح با بررسی‌های داوطلبانه ۳۰ روزه پیش از عرضه آغاز شده و به سمت انطباق اجباری برای بازار ایالات متحده حرکت می‌کند.
  • دقت فنی: این نهاد از کارشناسان صنعت و نمایندگان جامعه متن‌باز استفاده خواهد کرد تا «شکاف تخصصی» موجود در بررسی‌های فعلی تحت هدایت دولت را پر کند.