Apple befindet sich Berichten zufolge in vorläufigen Gesprächen mit PrismML, einem von Khosla Ventures unterstützten Startup, um fortschrittliche Modellkompressionstechnologie in sein Ökosystem zu integrieren. Dieser Schritt zielt darauf ab, hochentwickelte künstliche Intelligenz direkt auf das iPhone zu bringen und die Lücke zwischen den Hardware-Beschränkungen mobiler Geräte und den massiven Rechenanforderungen moderner Large Language Models (LLMs) zu schließen.

Die Lösung der On-Device-KI-Beschränkung

Während Apple iOS 18 und ein neu gestaltetes Siri ausrollt, steht das Unternehmen vor einer erheblichen technischen Hürde: Hochleistungs-KI-Modelle benötigen in der Regel enorme Mengen an Speicher und Rechenleistung, die die Kapazitäten herkömmlicher Smartphones übersteigen. Durch die Integration der Technologie von PrismML versucht Apple, die Verarbeitung von der Cloud direkt auf das Gerät zu verlagern.

Dieser Wandel ist entscheidend für die strategische Positionierung von Apple. On-Device-KI reduziert die Latenz, senkt die hohen Kosten für Cloud-Computing und stärkt das Kernversprechen von Apple in Bezug auf den Datenschutz, indem sichergestellt wird, dass sensible Nutzerdaten auf dem Gerät verbleiben. Darüber hinaus ermöglicht es wichtige KI-Funktionen auch ohne aktive Internetverbindung zu nutzen.

Wie PrismML massive KI-Modelle verkleinert

PrismML, das aus der Forschung am California Institute of Technology hervorgegangen ist, nutzt eine hochentwickelte Methode, um die Speicherung der internen Werte eines Modells zu vereinfachen. Während herkömmliche Methoden Werte möglicherweise von 16 Bit auf 4 Bit reduzieren, geht PrismML noch einen Schritt weiter und reduziert jeden Wert auf nur noch ein oder drei mögliche Werte.

Die Effizienzgewinne sind erheblich. PrismML hat dies kürzlich demonstriert, indem das Open-Source-Modell Qwen von Alibaba von massiven 54 GB auf unter 4 GB komprimiert wurde. Diese Kompression ermöglicht es, alle 27 Milliarden Parameter des Modells auf einem iPhone 15 oder neuer zu betreiben. Laut CEO Babak Hassibi bieten diese komprimierten Modelle mehrere Leistungsvorteile:

  • Speichereffizienz: Verbraucht bis zu 15-mal weniger Speicher.
  • Geschwindigkeit: Läuft sechs- bis achtmal schneller.
  • Energieverbrauch: Verbraucht bis zu sechsmal weniger Energie.

Obwohl Hassibi einen moderaten Leistungsabfall anmerkte – insbesondere bei der faktischen Abrufbarkeit –, behalten die Modelle eine hohe Kompetenz in den Bereichen logisches Denken und Codierung bei.

Auswirkungen auf den Halbleiter- und Hardwaremarkt

Die potenzielle Einführung einer solchen Kompressionstechnologie durch einen Giganten wie Apple könnte die Landschaft für Hardwarehersteller verändern. Derzeit prognostizieren Analysten wie Morgan Stanley, dass Apples Speicherkosten bis zum Geschäftsjahr 2027 drastisch ansteigen könnten, um KI zu unterstützen, was zu höheren iPhone-Preisen führen könnte.

Sollte die Technologie von PrismML jedoch zum Standard werden, könnte der Bedarf an massiven Speichermodulen in Smartphones gemildert werden, selbst wenn der Bedarf an schnellerer, effizienterer lokaler Verarbeitung steigt. Während PrismML daran arbeitet, auch andere große Modelle wie Googles Gemma zu komprimieren, bleibt das Ziel klar: Hochgradige Intelligenz lokal, schnell und auf Consumer-Hardware zugänglich zu machen.

Wichtigste Erkenntnisse

  • Massive Kompression: PrismML kann ein 54 GB großes KI-Modell auf unter 4 GB schrumpfen lassen, wodurch es für High-End-Smartphones wie das iPhone 15 nutzbar wird.
  • Effizienzgewinne: Die Technologie verspricht bis zu 15-mal weniger Speichernutzung und 6-mal geringeren Energieverbrauch, was für die Aufrechterhaltung der Akkulaufzeit bei KI-Aufgaben entscheidend ist.
  • Datenschutz und Geschwindigkeit: Die Verlagerung der KI von der Cloud auf das Gerät wird die Latenz verringern und den Datenschutz der Nutzer verbessern – ein Eckpfeiler der Produktphilosophie von Apple.

Risiken und offene Fragen

Die Ergebnisse von PrismML sind vielversprechend, befinden sich aber noch in einem frühen Stadium.

Worauf man als Nächstes achten sollte

  • Offizielle Bestätigung: Apple hat bisher keine Partnerschaft angekündigt. Daher werden jede Pressemitteilung oder jede iOS 18 Beta-Notiz über On-Device-LLMs ein wichtiges Signal sein.

Fazit: Die Kompression von PrismML könnte es iPhones ermöglichen, echte Large Language Models zu hosten, ohne den Speicher zu sprengen oder den Akku zu leeren, und so schnellere, private KI-Erlebnisse zu bieten.