דמיינו שאתם מאמנים רשת עצבית קוונטית לזהות ספרות בכתב יד. אתם מכוונים את פרמטרי המעגל עד שהדיוק מתייצב. לאחר מכן אתם מציגים משימה שנייה: סיווג תמונות של בגדים. המודל מסתגל במהירות. אך כשאתם בודקים אותו שוב על ספרות, הביצועים קרסו. המעגל לא בנה על מה שלמד; הוא החליף אותו.
זוהי שכחה קטסטרופלית (catastrophic forgetting), והיא נמנית עם הבעיות העקשניות ביותר בלמידת מכונה. מודלים קלאסיים נאבקים בה ללא הרף. מודלים קוונטיים מתמודדים עם גרסה חריפה עוד יותר של אותה דילמה, מכיוון שהמנגנונים הפנימיים שלהם מסתמכים על סופרפוזיציה ושזירה שמתפרקות ברגע שמבצעים בהן מדידה ישירה. גישה חדשה ומבטיחה בשם Quantum Elastic Weight Consolidation, או QEWC, מתמודדת עם כך על ידי התייחסות למצב הקוונטי עצמו כאובייקט גיאומטרי ולא כסט של תוצאות מדידה קלאסיות.
למה השכחה פוגעת קשה יותר במעגלים קוונטיים
בכל מערכת ניתנת לאימון, הלמידה מתרחשת על ידי התאמת פרמטרים לצמצום השגיאה. הסכנה היא שהפרמטרים האופטימליים של אתמול הם גם המשתנים של היום. כאשר מודל כותב אותם מחדש כדי להתאים למשימה חדשה, הוא מוחק לעיתים קרובות את התצורות הספציפיות שקידדו ידע קודם. התוצאה היא מערכת שנראית כלומדת באופן רציף, אך למעשה עוברת בין תמונות מצב מבודדות של כשירות.
למידת מכונה קוונטית מחריפה את הבעיה. גישות קלאסיות לשימור זיכרון תלויות בדרך כלל במעקב אחר האופן שבו המודל מגיב למדידה. הן שואלות, במהותן, "אם נדקר חלק זה של הרשת ונצפה בפלט, עד כמה הוא ישתנה?". הלוגיקה הזו מניחה שניתן לצפות במערכת מבלי להפריע לה באופן מהותי. מכניקת הקוונטים אינה מספקת ערובה כזו. מדידה גורמת לקריסת הסופרפוזיציה. פעולת הבדיקה של אילו פרמטרים הם החשובים ביותר עלולה לשנות את המצב עצמו שניסיתם להגן עליו.
מה מעקות הבטיחות של הזיכרון הקלאסי מפספסים
בינה מלאכותית מסורתית מגנה על נתונים חשובים על ידי עיגונם בסטטיסטיקה תלוית-מדידה. שיטות קלאסיות אלו עוקבות אחר חשיבות הפרמטרים דרך העדשה של האופן שבו המערכת מתנהגת תחת קריאות (readouts) ספציפיות. הן עובדות מספיק טוב כאשר החומרה שבבסיסן מצייתת לחוקים קלאסיים. אך מעבדים קוונטיים אינם פועלים כך.
מעגל קוונטי מקודד מידע בוקטור מצב רב-ממדי שהגיאומטריה שלו חבויה מראייה ישירה. הסתמכות על מדידה פרוייקטיבית כדי לשמור על המידע הזה היא כמו ניסיון לשמר את צורתה של בועת סבון על ידי דקירה שלה. אתם מקבלים קצת נתונים, אך הבועה כבר שונה. מה שחוקרים היו צריכים היה דרך לחוש את החשיבות מבלי להסתכל ישירות על הפלט בכל פעם.
גישת מידע פישר הקוונטי
כאן נכנס לתמונה מידע פישר הקוונטי (Quantum Fisher Information). QFI הוא כלי השאוב ממטרולוגיה קוונטית המודד עד כמה מצב קוונטי רגיש לשינויים קטנים בפרמטרים הבסיסיים שלו. במקום לשאול מה מדידה מראה, QFI שואל כיצד הגיאומטריה של המצב עצמו מתעקלת סביב כל פרמטר. פרמטרים הנמצאים באזורים תלולים של מרחב המצבים — שבהם דחיפה קטנה מייצרת שינוי גיאומטרי גדול — מתבררים ככאלו הנושאים את הידע הקריטי ביותר למשימה.
באמצעות שימוש ב-QFI, חוקרים יכולים למפות את החשיבות ישירות על הגיאומטריה של המצב הקוונטי. השיטה אינה זקוקה לבסיס מדידה ספציפי כדי לקבע את מה שחשוב. היא רואה במצב משטח ומזהה את הגבעות שאסור שיהיו שטוחות.
כיצד QEWC מגן על הידע
Quantum Elastic Weight Consolidation הופך את התובנה הגיאומטרית הזו לפרוטוקול אימון. ניתן לחלק את התהליך לשלבים קונקרטיים:
זיהוי פרמטרים קריטיים. לאחר למידת המשימה הראשונה, QEWC מחשב את מידע פישר הקוונטי על פני פרמטרי המעגל. ציונים גבוהים מסמנים את הסיבובים והשזירות הספציפיים האוגרים ידע חיוני.
נעילת החלקים החשובים. במהלך אימון עוקב, QEWC מחיל קנס (penalty) על שינויים בפרמטרים בעלי QFI גבוה. המעגל משלם מחיר על כתיבה מחדש של מה שהוא כבר יודע.
שחרור השאר להסתגלות. פרמטרים עם ציוני QFI נמוכים נתונים למגבלות פחותות. המעגל שומר על גמישות, ומעצב מחדש את דרגות החופש הפחות חשובות שלו כדי להתאים לדפוסי קלט חדשים.
איזון בין יציבות לפלסטיות. המסגרת מבצעת פשרה מפורשת בין שמירה על ידע ישן לבין ספיגת מידע חדש. היא אינה מקפיאה את כל המעגל, וגם אינה מאפשרת להכל להשתנות ללא שליטה.
האיזון הזה חשוב מכיוון שמעגל קפוא לחלוטין אינו יכול ללמוד דבר חדש, בעוד שמעגל בעל פלסטיות מוחלטת שוכח את כל הישן. QEWC מוצאת את נקודת האמצע על ידי כיבוד הגיאומטריה של המצב הקוונטי עצמו.
עמידות לרעש בחומרה אמיתית
רוב המחשבים הקוונטיים הזמינים כיום הם מכשירי NISQ (Noisy Intermediate-Scale Quantum). שגיאות שערים, דהקוהרנטיות ודיבור צולב (cross-talk) מכשילים שבבים אמיתיים. בסביבה זו, אלגנטיות תיאורטית אינה שווה דבר אם שיטה קורסת תחת חוסר השלמות של החומרה.
בדיקות מצביעות על כך ש-QEWC מציגה ביצועים טובים יותר מגישות איחוד (consolidation) קלאסיות בדיוק כאשר קיים רעש. זהו אינו הערת שוליים מינורית. זהו ההבדל בין שיטה שעובדת על הנייר לבין כזו ששורדת מגע עם מכונה פיזית. אסטרטגיות קלאסיות התלויות במדידה חייבות להיאבק באותם ערוצי רעש המעוותים את הקריאות שלהן. מכיוון ש-QEWC גוזרת את משקלי החשיבות שלה מגיאומטריית המצב ולא מסטטיסטיקות מדידה רועשות, היא עוקפת חלק מהשיבוש הזה. התוצאה היא שכבת שימור זיכרון שנותרת יציבה גם כאשר הקיוביטים שסביבה מתנהגים בצורה לא תקינה.
ראיות מסימולציה
כדי לתקף את המסגרת, צוות המחקר הריץ סימולציות על מדדי ייחוס (benchmarks) סטנדרטיים של למידה מתמשכת. המודל התבקש ללמוד משימות כגון זיהוי ספרות בכתב יד וסיווג תמונות של בגדים — תצורה המשקפת את חלוקות ה-MNIST וה-Fashion-MNIST הקלאסיות המשמשות בתחום. לאחר אימון על המשימה הראשונה, המעגל עבר למשימה השנייה בתנאים סטנדרטיים ושוב תחת הגנה של QEWC.
כאשר אימון סטנדרטי שלט בתהליך, משימות מאוחרות יותר הרסו את הביצועים המוקדמים. המעגל הפגין שכחה קטסטרופלית חמורה. תחת QEWC, הסיפור השתנה. הפרמטרים המוגנים שמרו על הגיאומטריה של זיהוי הספרות, בעוד הפרמטרים החופשיים הסתגלו לשרוולים, נעליים ומכנסיים. הפער בין שתי הגישות היה משמעותי. QEWC הפחיתה את אובדן הזיכרון באופן ניכר בהשוואה לפרוטוקולי אימון רגילים.
מדוע למידה רציפה משנה את כללי המשחק
התועלת ארוכת הטווח כאן היא למידה רציפה ללא אתחולים. כרגע, תהליכי אימון קוונטיים רבים מתחילים למעשה מאפס כאשר התפלגות המשימות משתנה. גישה זו מבזבזת אנרגיה, זמן ואת תקציב הקוהרנטיות המוגבל של החומרה הקוונטית. אם מערכת קוונטית תוכל לצבור ידע כפי שמהנדס אנושי צובר מיומנויות — על ידי הוספת תחומים חדשים מבלי למחוק את הישנים — התועלת המעשית של למידת מכונה קוונטית תתרחב באופן דרמטי.
מחשבים קוונטיים הם יקרים לגישה ורגישים מאוד לתפעול. אימון מחדש מאפס עבור כל סט נתונים חדש הוא מותרות שאף פריסה מסחרית אינה יכולה להרשות לעצמה. QEWC מצביעה על משטר שבו מודל קוונטי יחיד מתפתח, וממשיך את ההכשרה שלו קדימה במקום לחזור לגן הילדים עם כל מטלה חדשה.
מה כדאי לעקוב אחריו
מחקר זה עדיין נשען על סימולציה, מה שאומר שהמבחן האמיתי יגיע כאשר QEWC יועבר לחומרה של מוליכים-על, יונים לכודים (trapped-ion) או פוטוניקה בפועל. עם זאת, השינוי המושגי הוא חד ומועיל. על ידי שילוב של הבנה גיאומטרית של מצבים קוונטיים עם הצרכים המעשיים של למידת מכונה, העבודה מרמזת שבינה מלאכותית קוונטית יכולה להתגבר על אחת המגבלות הבסיסיות ביותר שלה.
שכחה קטסטרופלית אינה מס שחייב להשתלם על הלמידה. QEWC מדגימה שפיגום מתמטי נכון — הבנוי ממידע פישר קוונטי (Quantum Fisher Information) במקום ממדידות בכוח גס — יכול לשמור על זיכרונו של מודל קוונטי שלם בזמן שקשב המודל מופנה למקום אחר.
עבור אלו שעוקבים אחר נקודת המפגש בין מחשוב קוונטי לבינה מלאכותית, זהו קו עלילה ששווה לעקוב אחריו. הצטרפו לדיון והישארו מעודכנים במחקרים מתפתחים בקהילת GyaanSetu AI בכתובת https://t.me/GyaanSetuAi.