מנכ"ל Google DeepMind, דמיס חסביס, הציע מסגרת רגולטורית לניהול שחרורם של מודלי בינה מלאכותית חלוציים (frontier AI models). הוא מעוניין בגוף תקנים ייעודי שיחליף את מערך הבדיקות הממשלתי המקוטע הנוכחי במערכת פיקוח מקצועית וקפדנית מבחינה טכנית.

מודל ה-FINRA עבור בינה מלאכותית

בהצעתו, “A Framework for Frontier AI and the Dawning of a New Age,” חסביס מעצב את הישות החדשה על בסיס ה-Financial Industry Regulatory Authority (FINRA). הוא חוזה ארגון עצמאי, הנתמך על ידי ממשלת ארה"ב אך ממומן על ידי תעשיית ה-AI.

המנגנון יפעל בשני שלבים. ראשית, מעבדות חלוציות (frontier labs) ימסרו מרצונן את המודלים שלהן לגוף התקנים לבדיקה של 30 יום לפני השחרור לציבור. לאחר שפרוטוקולי ההערכה יוכיחו את יעילותם, המערכת תעבור לדרישה מחייבת: מודלים חלוציים יצטרכו לעבור מבחנים סטנדרטיים כדי להיכנס לשוק האמריקאי. תכנון זה מאפשר לזהות נקודות תורפה קריטיות הן לפני והן אחרי הפריסה.

טיפול בפגמים בפיקוח הנוכחי

חסביס דוחף להקמת גוף ייעודי מכיוון שהוא רואה במאמצי הרגולציה של ימינו כבלתי מספיקים. הוא מציין את הבדיקות האחרונות של ממשלת ארה"ב ב-Mythos של Anthropic וב-Sol של OpenAI כדוגמאות מחשיבות. הערכות אלו עוררו ביקורת בשל היעדר מומחיות טכנית עמוקה וקבלת החלטות שאינה שקופה בנוגע ללוחות הזמנים לשחרור המודלים.

ארגון בעל רגולציה עצמית יאפשר לתעשייה לעקוף את החיכוך הפוליטי המקיף כיום את הפיקוח על AI. יועץ ה-AI של הבית הלבן, סריראם קרישנן, הזהיר לאחרונה כי הקמת “FDA ל-AI” בתוך הרשות המבצעת היא לא סבירה. מודל בסגנון FINRA מציע פתרון ביניים: עצמאות טכנית ללא המכשולים הבירוקרטיים של סוכנות ממשלתית ישירה.

מומחיות טכנית ובטיחות ניתנת להרחבה

חסביס מדגיש כי כוח האדם הרגולטורי חייב להגיע מתוך התעשייה וקהילת הקוד הפתוח. הגוף, שיונה על ידי אנשים המבינים את ארכיטקטורת המודלים ואת הסיכונים המתהווים, יוכל להעריך מודלים במומחיות אמיתית.

המסגרת מאפשרת גם גישת בטיחות מבוזרת. גוף התקנים יוכל להתקשר עם קבוצות בטיחות AI מתמחות לצורך הערכות סיכון מפורטות. מכיוון שהארגון יסתגל להאצה המהירה של התחום, ניתן יהיה "להגביר" (ratcheted up) את הפיקוח באופן דינמי ככל שיצוצו סיכונים חדשים וחמורים יותר. דבר זה שומר על הרגולציה כגורם המקדם חדשנות אחראית במקום כצוואר בקבוק.

נקודות מפתח

  • מודל רגולטורי היברידי: חסביס מציע גוף עצמאי הממומן על ידי התעשייה ונתמך על ידי הממשלה, המבוסס על מודל FINRA, כדי לפקח על שחרור מודלים חלוציים.
  • יישום בשלבים: התוכנית מתחילה בסקירות וולונטריות של 30 יום לפני השחרור ועוברת למחויבות רגולטורית מחייבת עבור השוק האמריקאי.
  • קפדנות טכנית: הגוף יסתמך על מומחי תעשייה ונציגי קוד פתוח כדי לצמצם את "פער המומחיות" הניכר בסקירות הנוכחיות בהובלת הממשלה.