Se informa que Apple mantiene conversaciones preliminares con PrismML, una startup respaldada por Khosla Ventures, para integrar tecnología avanzada de compresión de modelos en su ecosistema. Este movimiento tiene como objetivo llevar inteligencia artificial sofisticada directamente al iPhone, cerrando la brecha entre las limitaciones del hardware móvil y los masivos requisitos computacionales de los modelos de lenguaje extensos (LLM) modernos.

Resolviendo la limitación de la IA en el dispositivo

A medida que Apple lanza iOS 18 y una Siri rediseñada, la empresa se enfrenta a un obstáculo técnico significativo: los modelos de IA de alto rendimiento suelen requerir cantidades masivas de memoria y potencia de procesamiento que superan las capacidades estándar de los smartphones. Al integrar la tecnología de PrismML, Apple busca trasladar el procesamiento de la nube al propio dispositivo.

Este cambio es crucial para el posicionamiento estratégico de Apple. La IA en el dispositivo reduce la latencia, disminuye los costosos costes de la computación en la nube y refuerza la promesa central de privacidad de Apple al garantizar que los datos sensibles del usuario permanezcan en el terminal. Además, permite que las funciones clave de IA funcionen incluso sin una conexión a internet activa.

Cómo reduce PrismML los modelos de IA masivos

PrismML, que se originó de investigaciones en el Instituto de Tecnología de California, utiliza un método sofisticado para simplificar la forma en que se almacenan los valores internos de un modelo. Mientras que los métodos tradicionales podrían reducir las cifras de 16 bits a 4 bits, PrismML va un paso más allá, reduciendo cada cifra a tan solo uno o tres valores posibles.

Las ganancias de eficiencia son sustanciales. PrismML demostró esto recientemente al comprimir el modelo de código abierto Qwen de Alibaba de unos masivos 54 GB a menos de 4 GB. Esta compresión permite que los 27 mil millones de parámetros del modelo funcionen en un iPhone 15 o posterior. Según el CEO Babak Hassibi, estos modelos comprimidos ofrecen varias ventajas de rendimiento:

  • Eficiencia de memoria: Utiliza hasta 15 veces menos memoria.
  • Velocidad: Funciona de seis a ocho veces más rápido.
  • Consumo de energía: Consume hasta seis veces menos energía.

Aunque Hassibi señaló una ligera caída en el rendimiento —específicamente en lo que respecta a la recuperación de hechos—, los modelos mantienen una alta competencia en capacidades de razonamiento y programación.

Implicaciones para los mercados de semiconductores y hardware

La posible adopción de tal tecnología de compresión por parte de un gigante como Apple podría cambiar el panorama para los fabricantes de hardware. Actualmente, analistas como Morgan Stanley predicen que los costes de memoria de Apple podrían aumentar drásticamente para el año fiscal 2027 para dar soporte a la IA, lo que podría derivar en precios más altos para el iPhone.

Sin embargo, si la tecnología de PrismML se convierte en un estándar, la demanda de módulos de memoria masivos en los smartphones podría mitigarse, incluso cuando aumente la necesidad de un procesamiento local eficiente y de alta velocidad. A medida que PrismML avanza hacia la compresión de otros modelos importantes como Gemma de Google, el objetivo sigue siendo claro: hacer que la inteligencia de alto nivel sea local, rápida y accesible en el hardware de consumo.

Conclusiones clave

  • Compresión masiva: PrismML puede reducir un modelo de IA de 54 GB a menos de 4 GB, haciéndolo viable para smartphones de gama alta como el iPhone 15.
  • Ganancias de eficiencia: La tecnología promete hasta 15 veces menos uso de memoria y 6 veces menos consumo de energía, lo cual es vital para mantener la duración de la batería durante las tareas de IA.
  • Privacidad y velocidad: Trasladar la IA de la nube al dispositivo reducirá la latencia y mejorará la privacidad del usuario, un pilar fundamental de la filosofía de productos de Apple.

Riesgos y preguntas abiertas

Los resultados de PrismML son prometedores pero aún se encuentran en una fase inicial.

Qué observar a continuación

  • Confirmación oficial: Apple no ha anunciado ninguna asociación, por lo que cualquier comunicado de prensa o nota de la beta de iOS 18 sobre LLM en el dispositivo será una señal clave.

En resumen: La compresión de PrismML podría permitir que los iPhones alberguen modelos de lenguaje verdaderamente grandes sin disparar el uso de memoria ni agotar la batería, ofreciendo experiencias de IA más rápidas y privadas.