על פי הדיווחים, Apple נמצאת בשיחות ראשוניות עם PrismML, סטארט-אפ בגיבוי Khosla Ventures, כדי לשלב טכנולוגיית דחיסת מודלים מתקדמת באקוסיסטם שלה. מהלך זה נועד להביא בינה מלאכותית מתוחכמת ישירות ל-iPhone, ובכך לגשר על הפער בין מגבלות החומרה של המכשיר הנייד לבין הדרישות החישוביות העצומות של מודלי שפה גדולים (LLMs) מודרניים.

פתרון מגבלת ה-AI במכשיר עצמו

בעוד Apple משיקה את iOS 18 וגרסה מעוצבת מחדש של Siri, החברה ניצבת בפני מכשול טכני משמעותי: מודלי AI בעלי ביצועים גבוהים דורשים בדרך כלל כמויות עצומות של זיכרון וכוח עיבוד החורגות מהיכולות הסטנדרטיות של סמארטפונים. באמצעות שילוב הטכנולוגיה של PrismML, Apple שואפת להעביר את העיבוד מהענן אל המכשיר עצמו.

שינוי זה הוא קריטי למיצובה האסטרטגי של Apple. AI במכשיר עצמו מפחית את השיהוי (latency), מוריד את עלויות מחשוב הענן היקרות ומחזק את הבטחת הפרטיות המרכזית של Apple על ידי הבטחה שנתוני משתמש רגישים יישארו בטלפון. יתרה מכך, הדבר מאפשר לתכונות AI מרכזיות לתפקד גם ללא חיבור פעיל לאינטרנט.

כיצד PrismML מצמצמת מודלי AI עצומים

PrismML, שמקורה במחקר ב-California Institute of Technology, משתמשת בשיטה מתוחכמת של פישוט האופן שבו הערכים הפנימיים של המודל נשמרים. בעוד ששיטות מסורתיות עשויות להפחית נתונים מ-16 ביט ל-4 ביט, PrismML לוקחת זאת צעד אחד קדימה, ומצמצמת כל נתון למעט ערך אחד או שלושה ערכים אפשריים בלבד.

שיפורי היעילות הם משמעותיים. PrismML הדגימה זאת לאחרונה על ידי דחיסת מודל Qwen בקוד פתוח של Alibaba מ-54 GB עצום לפחות מ-4 GB. דחיסה זו מאפשרת לכל 27 מיליארד הפרמטרים של המודל לפעול ב-iPhone 15 או בדגמים חדשים יותר. על פי המנכ"ל Babak Hassibi, למודלים דחוסים אלו יש מספר יתרונות ביצועים:

  • יעילות זיכרון: משתמש בזיכרון פחות פי 15.
  • מהירות: רץ מהר פי שש עד שמונה.
  • צריכת חשמל: צורך אנרגיה פחות פי שש.

בעוד ש-Hassibi ציין ירידה מתונה בביצועים — במיוחד בכל הנוגע לשליפת עובדות (factual recall) — המודלים שומרים על מיומנות גבוהה ביכולות חשיבה וקידוד (coding).

השלכות על שוק השבבים והחומרה

האימוץ הפוטנציאלי של טכנולוגיית דחיסה כזו על ידי ענקית כמו Apple עשוי לשנות את הנוף עבור יצרניות חומרה. כיום, אנליסטים כמו Morgan Stanley חוזים כי עלויות הזיכרון של Apple עשויות לעלות בחדות עד לשנת הכספים 2027 כדי לתמוך ב-AI, מה שעלול להוביל למחירי iPhone גבוהים יותר.

עם זאת, אם הטכנולוגיה של PrismML תהפוך לסטנדרט, הביקוש למודולי זיכרון עצומים בסמארטפונים עשוי להצטמצם, גם כאשר הצורך בעיבוד מקומי מהיר ויעיל עולה. ככל ש-PrismML מתקדמת לעבר דחיסת מודלים מרכזיים אחרים כמו Gemma של Google, המטרה נותרת ברורה: להפוך אינטליגנציה ברמה גבוהה למקומית, מהירה ונגישה בחומרת צריכה.

נקודות מפתח

  • דחיסה עצומה: PrismML יכולה לצמצם מודל AI של 54 GB לפחות מ-4 GB, מה שהופך אותו לכדאי לשימוש בסמארטפונים מתקדמים כמו ה-iPhone 15.
  • שיפורי יעילות: הטכנולוגיה מבטיחה שימוש בזיכרון פחות פי 15 וצריכת אנרגיה פחות פי 6, דבר חיוני לשמירה על חיי הסוללה במהלך משימות AI.
  • פרטיות ומהירות: העברת ה-AI מהענן למכשיר תפחית את השיהוי ותשפר את פרטיות המשתמש, אבן יסוד בפילוסופיית המוצרים של Apple.

סיכונים ושאלות פתוחות

התוצאות של PrismML מבטיחות אך עדיין נמצאות בשלבים מוקדמים.

מה כדאי לעקוב אחריו

  • אישור רשמי: Apple טרם הכריזה על שותפות, לכן כל הודעה לעיתונות או הערה בגרסת ה-beta של iOS 18 לגבי LLMs במכשיר עצמו תהווה סימן מרכזי.

בשורה התחתונה: הדחיסה של PrismML עשויה לאפשר ל-iPhones לארח מודלי שפה גדולים באמת מבלי להכביד על הזיכרון או לרוקן את הסוללה, ובכך לספק חוויות AI מהירות ופרטיות יותר.