Apple'ın, gelişmiş model sıkıştırma teknolojisini ekosistemine entegre etmek için Khosla Ventures tarafından desteklenen bir girişim olan PrismML ile ön görüşmelerde olduğu bildiriliyor. Bu hamle, gelişmiş yapay zekayı doğrudan iPhone'a getirerek mobil donanım sınırlamaları ile modern Büyük Dil Modellerinin (LLM'ler) devasa hesaplama gereksinimleri arasındaki boşluğu kapatmayı amaçlıyor.
Cihaz Üstü Yapay Zeka Kısıtlamasını Çözmek
Apple, iOS 18'i ve yeniden tasarlanan Siri'yi kullanıma sunarken önemli bir teknik engelle karşı karşıya: yüksek performanslı yapay zeka modelleri genellikle standart akıllı telefon kapasitelerini aşan devasa miktarda bellek ve işlem gücü gerektirir. Apple, PrismML'in teknolojisini entegre ederek işlemeyi buluttan cihazın kendisine taşımayı hedefliyor.
Bu değişim, Apple'ın stratejik konumu için kritik öneme sahip. Cihaz üstü yapay zeka, gecikmeyi azaltır, maliyetli bulut bilişim giderlerini düşürür ve hassas kullanıcı verilerinin cihazda kalmasını sağlayarak Apple'ın temel gizlilik vaadini güçlendirir. Ayrıca, temel yapay zeka özelliklerinin aktif bir internet bağlantısı olmadan bile çalışmasına olanak tanır.
PrismML Devasa Yapay Zeka Modellerini Nasıl Küçültüyor?
Kökeni California Teknoloji Enstitüsü'ndeki araştırmalara dayanan PrismML, bir modelin dahili değerlerinin nasıl saklandığını basitleştiren gelişmiş bir yöntem kullanıyor. Geleneksel yöntemler rakamları 16 bitten 4 bite düşürebilirken, PrismML bunu bir adım öteye taşıyarak her bir rakamı sadece bir veya üç olası değere indirgiyor.
Verimlilik kazanımları oldukça büyük. PrismML, yakın zamanda Alibaba'nın açık kaynaklı Qwen modelini devasa 54 GB'tan 4 GB'ın altına düşürerek bunu kanıtladı. Bu sıkıştırma, modelin 27 milyar parametresinin tamamının bir iPhone 15 veya daha yeni bir cihazda çalışmasına olanak tanıyor. CEO Babak Hassibi'ye göre, bu sıkıştırılmış modeller birkaç performans avantajı sunuyor:
- Bellek Verimliliği: 15 kata kadar daha az bellek kullanır.
- Hız: Altı ila sekiz kat daha hızlı çalışır.
- Güç Tüketimi: Altı kata kadar daha az enerji tüketir.
Hassibi, özellikle gerçeklere dayalı hatırlama (factual recall) konusunda performansta hafif bir düşüş olduğunu belirtse de, modeller akıl yürütme ve kodlama yeteneklerinde yüksek yeterliliğini koruyor.
Yarı İletken ve Donanım Pazarları İçin Doğuracağı Sonuçlar
Apple gibi bir dev tarafından bu tür bir sıkıştırma teknolojisinin benimsenmesi, donanım üreticileri için oyunun kurallarını değiştirebilir. Mevcut durumda Morgan Stanley gibi analistler, Apple'ın yapay zekayı desteklemek için bellek maliyetlerinin 2027 mali yılına kadar keskin bir şekilde artabileceğini ve bunun da iPhone fiyatlarının yükselmesine yol açabileceğini öngörüyor.
Ancak, PrismML'in teknolojisi bir standart haline gelirse, yüksek hızlı ve verimli yerel işlem ihtiyacı artsa bile akıllı telefonlardaki devasa bellek modüllerine olan talep hafifleyebilir. PrismML, Google'ın Gemma'sı gibi diğer büyük modelleri sıkıştırmaya doğru ilerlerken hedef net: üst düzey zekayı tüketici donanımlarında yerel, hızlı ve erişilebilir kılmak.
Önemli Çıkarımlar
- Devasa Sıkıştırma: PrismML, 54 GB'lık bir yapay zeka modelini 4 GB'ın altına düşürerek iPhone 15 gibi üst düzey akıllı telefonlar için uygulanabilir hale getirebilir.
- Verimlilik Kazanımları: Teknoloji, yapay zeka görevleri sırasında pil ömrünü korumak için hayati önem taşıyan 15 kata kadar daha az bellek kullanımı ve 6 kata kadar daha az enerji tüketimi vaat ediyor.
- Gizlilik ve Hız: Yapay zekayı buluttan cihaza taşımak, gecikmeyi azaltacak ve Apple'ın ürün felsefesinin temel taşı olan kullanıcı gizliliğini artıracaktır.
Riskler ve açık sorular
PrismML'in sonuçları umut verici ancak henüz yolun başında.
Sırada neyi takip etmeli?
- Resmi onay: Apple henüz bir ortaklık duyurmadı, bu nedenle cihaz üstü LLM'ler hakkında yapılacak herhangi bir basın açıklaması veya iOS 18 beta notu önemli bir sinyal olacaktır.
Özetle: PrismML'in sıkıştırma teknolojisi, iPhone'ların belleği şişirmeden veya pili tüketmeden gerçekten büyük dil modellerini barındırmasına olanak tanıyarak daha hızlı ve özel yapay zeka deneyimleri sunabilir.