گزارش شده است که Apple در حال انجام مذاکرات اولیه با PrismML، استارتاپی تحت حمایت Khosla Ventures، برای ادغام فناوری پیشرفته فشرده‌سازی مدل در اکوسیستم خود است. این اقدام با هدف آوردن هوش مصنوعی پیشرفته مستقیماً به iPhone انجام می‌شود تا شکاف بین محدودیت‌های سخت‌افزاری موبایل و نیازهای محاسباتی عظیم مدل‌های زبانی بزرگ (LLMs) مدرن را پر کند.

حل محدودیت هوش مصنوعی روی دستگاه (On-Device AI)

با عرضه iOS 18 و Siri بازطراحی‌شده توسط Apple، این شرکت با یک مانع فنی بزرگ روبروست: مدل‌های هوش مصنوعی با عملکرد بالا معمولاً به مقدار عظیمی از حافظه و قدرت پردازشی نیاز دارند که از ظرفیت استاندارد گوشی‌های هوشمند فراتر می‌رود. Apple با ادغام فناوری PrismML، به دنبال انتقال پردازش از ابر (cloud) به خودِ دستگاه است.

این تغییر برای جایگاه استراتژیک Apple حیاتی است. هوش مصنوعی روی دستگاه (On-device AI) باعث کاهش تأخیر (latency)، کاهش هزینه‌های سنگین محاسبات ابری و تقویت وعده اصلی Apple یعنی حفظ حریم خصوصی می‌شود، چرا که تضمین می‌کند داده‌های حساس کاربر روی خود گوشی باقی می‌ماند. علاوه بر این، این امر اجازه می‌دهد ویژگی‌های کلیدی هوش مصنوعی حتی بدون اتصال فعال به اینترنت نیز کار کنند.

PrismML چگونه مدل‌های عظیم هوش مصنوعی را کوچک می‌کند

PrismML که از تحقیقات در موسسه فناوری کالیفرنیا (Caltech) نشأت گرفته است، از روشی پیچیده برای ساده‌سازی نحوه ذخیره‌سازی مقادیر داخلی یک مدل استفاده می‌کند. در حالی که روش‌های سنتی ممکن است اعداد را از ۱۶ بیت به ۴ بیت کاهش دهند، PrismML یک قدم فراتر رفته و هر عدد را به تنها یک یا سه مقدار ممکن کاهش می‌دهد.

بهبودهای کارایی بسیار قابل توجه است. PrismML اخیراً این موضوع را با فشرده‌سازی مدل متن‌باز Qwen متعلق به Alibaba از ۵۴ گیگابایت عظیم به کمتر از ۴ گیگابایت نشان داد. این فشرده‌سازی اجازه می‌دهد تمام ۲۷ میلیارد پارامتر این مدل روی iPhone 15 یا مدل‌های جدیدتر اجرا شود. به گفته Babak Hassibi، مدیرعامل شرکت، این مدل‌های فشرده‌شده چندین مزیت عملکردی دارند:

  • بهره‌وری حافظه: تا ۱۵ برابر حافظه کمتری مصرف می‌کند.
  • سرعت: شش تا هشت برابر سریع‌تر اجرا می‌شود.
  • مصرف انرژی: تا شش برابر انرژی کمتری مصرف می‌کند.

اگرچه Hassibi به کاهش اندک در عملکرد — به‌ویژه در زمینه بازیابی حقایق (factual recall) — اشاره کرد، اما مدل‌ها مهارت بالایی در توانایی‌های استدلال و کدنویسی حفظ می‌کنند.

پیامدها برای بازارهای نیمه‌هادی و سخت‌افزار

پذیرش احتمالی چنین فناوری فشرده‌سازی توسط غولی مانند Apple می‌تواند چشم‌انداز تولیدکنندگان سخت‌افزار را تغییر دهد. در حال حاضر، تحلیلگرانی مانند Morgan Stanley پیش‌بینی می‌کنند که هزینه‌های حافظه Apple تا سال مالی ۲۰۲۷ برای پشتیبانی از هوش مصنوعی به شدت افزایش یابد، که این امر ممکن است منجر به قیمت‌های بالاتر iPhone شود.

با این حال، اگر فناوری PrismML به یک استاندارد تبدیل شود، تقاضا برای ماژول‌های حافظه عظیم در گوشی‌های هوشمند ممکن است کاهش یابد، حتی اگر نیاز به پردازش محلی سریع و کارآمد افزایش یابد. همان‌طور که PrismML به سمت فشرده‌سازی مدل‌های بزرگ دیگر مانند Gemma گوگل حرکت می‌کند، هدف همچنان روشن است: محلی، سریع و در دسترس کردن هوش سطح بالا روی سخت‌افزارهای مصرف‌کننده.

نکات کلیدی

  • فشرده‌سازی عظیم: PrismML می‌تواند یک مدل هوش مصنوعی ۵۴ گیگابایتی را به کمتر از ۴ گیگابایت کاهش دهد و آن را برای گوشی‌های هوشمند رده‌بالا مانند iPhone 15 قابل استفاده کند.
  • بهبود کارایی: این فناوری وعده استفاده تا ۱۵ برابر کمتر از حافظه و ۶ برابر کمتر از انرژی را می‌دهد که برای حفظ عمر باتری در حین انجام وظایف هوش مصنوعی حیاتی است.
  • حریم خصوصی و سرعت: انتقال هوش مصنوعی از ابر به دستگاه، تأخیر را کاهش داده و حریم خصوصی کاربر را تقویت می‌کند که سنگ بنای فلسفه محصول Apple است.

ریسک‌ها و سوالات بی‌پاسخ

نتایج PrismML امیدوارکننده است اما هنوز در مراحل اولیه قرار دارد.

آنچه باید در آینده زیر نظر داشت

  • تأیید رسمی: Apple هنوز مشارکت خود را اعلام نکرده است، بنابراین هر بیانیه مطبوعاتی یا یادداشت نسخه بتای iOS 18 در مورد LLMهای روی دستگاه، یک سیگنال کلیدی خواهد بود.

خلاصه کلام: فشرده‌سازی PrismML می‌تواند به iPhoneها اجازه دهد تا مدل‌های زبانی واقعاً بزرگ را بدون اشغال بیش از حد حافظه یا تخلیه باتری میزبانی کنند و تجربه‌های هوش مصنوعی سریع‌تر و خصوصی‌تر را ارائه دهند.