דמיס האסביס קורא להקמת גוף פיקוח עולמי בהובלת ארה"ב לניהול סיכונים

מנכ"ל Google DeepMind, דמיס האסביס, קורא להקמת גוף רגולטורי בינלאומי רב-עוצמה המסוגל לעצור את פריסתם של מודלי AI מתקדמים (frontier AI models) ומסוכנים. ככל שהמרדף אחר בינה מלאכותית כללית (AGI) מאיץ, האסביס טוען כי מסגרת עולמית סטנדרטית היא חיונית כדי למנוע תוצאות קטסטרופליות.

מודל רגולטורי המבוסס על פיקוח פיננסי

בהצעתו האחרונה, "A Framework for Frontier AI and the Dawning of a New Age", האסביס מציע מבנה רגולטורי הדומה ל-Financial Industry Regulatory Authority (FINRA). גוף פיקוח מוצע זה לא יהיה רק מועצה מייעצת; הוא יורכב ממומחים עצמאיים ונציגים מהקהילה של קוד פתוח, עם סמכות מפורשת להעריך מודלים מתקדמים לפני שחרורם.

באופן מכריע, לארגון תהיה הסמכות לתאם "האטה" (slowdown) בכל התעשייה אם מודל מסוים ייחשב למסוכן מדי לפריסה. מנגנון זה נועד למנוע "מרוץ לתחתית" שבו חברות מקריבות פרוטוקולי בטיחות בניסיון להגיע ל-AGI מהר יותר ממתחרותיהן.

מדוע ארצות הברית צריכה להוביל את המהלך

האסביס טוען כי ארצות הברית נמצאת בעמדה ייחודית להוביל יוזמה עולמית זו. בהתחשב במעמדה הכלכלי והטכנולוגי הדומיננטי של המדינה במגזר ה-AI, לארה"ב יש את המינוף הנדרש לקביעת סטנדרטים ששאר העולם יוכל לעקוב אחריהם.

הדחיפות של הצעה זו נובעת מהאמונה של האסביס ש-AGI נמצא "כנראה במרחק של שנים בודדות בלבד". הוא רואה בעידן הנוכחי את "מרגלות הסינגולריות" (foothills of the singularity), תקופה טרנספורמטיבית שתגדיר מחדש את האנושות באופן יסודי. כדי לנהל את המעבר הזה, הוא פועל לגשר על הפער בין חדשנות פרטית לבטיחות הציבור.

בניית קונצנזוס פוליטי ותעשייתי

המהלך לעבר רגולציה פורמלית כבר צובר תאוצה מאחורי הקלעים. דיווחים מצביעים על כך שהאסביס בילה חודשים בתדרוך בעלי עניין שונים, כולל גורמים אירופאים, מעבדות AI מרכזיות וממשל טראמפ. לפי Axios, המשוב המוקדם מממשל ארה"ב הבא היה "חיובי מאוד", מה שמרמז על שינוי פוטנציאלי לעבר פיקוח פדרלי מובנה יותר.

דחיפה זו לממשל (governance) עולה בקנה אחד עם אזהרות אחרונות של ענקי תעשייה אחרים, כולל מייסד שותף של Anthropic, ג'ק קלארק, ולשעבר מנכ"ל Google, אריק שמידט, בנוגע להשפעות הכלכליות והקיומיות של ה-AI. האסביס, זוכה פרס נובל לשנת 2024, הביע גם עמדה ברורה בנוגע לסיכונים ספציפיים בעלי סיכון גבוה, כגון הפוטנציאל של AI לסייע בייצור נשק ביולוגי.

ההשלכות הרחבות יותר על אקוסיסטם ה-AI

אם יתממש, גוף פיקוח זה יהווה את השינוי המשמעותי ביותר במדיניות טכנולוגית מזה עשורים. עבור מפתחים ומייסדים, המשמעות היא מעבר מתקופה של "move fast and break things" לעידן מוסדר מאוד שבו ביקורות טרום-פריסה הן הנורמה. בעוד שחלק מהאנשים חוששים שזה עלול לחנוק את החדשנות, האסביס טוען שמסגרת קוהרנטית היא הדרך היחידה להבטיח שהמעבר לעולם מונע AGI יהיה בטוח ויציב.

נקודות מרכזיות

  • שיניים רגולטוריות: גוף הפיקוח המוצע יהיה בעל הסמכות להעריך מודלים מתקדמים ולחייב האטה בכל התעשייה אם הסיכונים גבוהים מדי.
  • מנהיגות ארה"ב: האסביס טוען כי ארה"ב צריכה להוביל את היוזמה בשל תפקידה המרכזי בכלכלת ה-AI העולמית ובתשתית הטכנולוגית.
  • דחיפות ה-AGI: ההצעה מונעת מההתקדמות המהירה לעבר AGI, שבראשיתו של האסביס עומדת "עידן חדש לאנושות" הדורש פיקוח מיידי.