Apple dilaporkan sedang dalam perbincangan awal dengan PrismML, sebuah syarikat pemula yang disokong oleh Khosla Ventures, untuk menyepadukan teknologi pemampatan model termaju ke dalam ekosistemnya. Langkah ini bertujuan untuk membawa kecerdasan buatan (AI) yang canggih terus ke iPhone, merapatkan jurang antara had perkakasan mudah alih dan keperluan pengkomputeran besar bagi Model Bahasa Besar (LLM) moden.

Menyelesaikan Kekangan AI Pada Peranti

Sedang Apple melancarkan iOS 18 dan Siri yang telah direka semula, syarikat itu menghadapi rintangan teknikal yang ketara: model AI berprestasi tinggi biasanya memerlukan jumlah memori dan kuasa pemprosesan yang besar yang melebihi kapasiti telefon pintar standard. Dengan menyepadukan teknologi PrismML, Apple berusaha untuk memindahkan pemprosesan daripada awan ke peranti itu sendiri.

Peralihan ini sangat penting bagi kedudukan strategik Apple. AI pada peranti mengurangkan kependaman (latency), merendahkan kos pengkomputeran awan yang mahal, dan memperkukuh janji privasi teras Apple dengan memastikan data sensitif pengguna kekal pada peranti tersebut. Selain itu, ia membolehkan ciri-ciri AI utama berfungsi walaupun tanpa sambungan internet yang aktif.

Bagaimana PrismML Mengecilkan Model AI yang Besar

PrismML, yang berasal daripada penyelidikan di California Institute of Technology, menggunakan kaedah canggih untuk memudahkan cara nilai dalaman sesuatu model disimpan. Walaupun kaedah tradisional mungkin mengurangkan angka daripada 16 bit kepada 4 bit, PrismML melangkah lebih jauh dengan mengurangkan setiap angka kepada hanya satu atau tiga nilai yang mungkin.

Peningkatan kecekapan adalah sangat besar. PrismML baru-baru ini menunjukkan perkara ini dengan memampatkan model sumber terbuka Qwen milik Alibaba daripada saiz besar 54 GB kepada kurang daripada 4 GB. Pemampatan ini membolehkan kesemua 27 bilion parameter model tersebut beroperasi pada iPhone 15 atau yang lebih baharu. Menurut CEO Babak Hassibi, model yang dimampatkan ini menawarkan beberapa kelebihan prestasi:

  • Kecekapan Memori: Menggunakan memori sehingga 15 kali ganda lebih sedikit.
  • Kelajuan: Berjalan enam hingga lapan kali lebih pantas.
  • Penggunaan Kuasa: Menggunakan tenaga sehingga enam kali ganda lebih sedikit.

Walaupun Hassibi menyatakan terdapat sedikit penurunan dalam prestasi—khususnya berkaitan ingatan fakta (factual recall)—model tersebut tetap mengekalkan kecekapan tinggi dalam keupayaan penaakulan dan pengekodan.

Implikasi terhadap Pasaran Semikonduktor dan Perkakasan

Potensi penggunaan teknologi pemampatan sedemikian oleh gergasi seperti Apple boleh mengubah landskap bagi pengeluar perkakasan. Pada masa ini, penganalisis seperti Morgan Stanley meramalkan bahawa kos memori Apple boleh meningkat secara mendadak menjelang tahun fiskal 2027 untuk menyokong AI, yang mungkin membawa kepada harga iPhone yang lebih tinggi.

Walau bagaimanapun, jika teknologi PrismML menjadi piawaian, permintaan untuk modul memori yang besar dalam telefon pintar mungkin dapat dikurangkan, walaupun keperluan untuk pemprosesan tempatan yang pantas dan cekap semakin meningkat. Memandangkan PrismML sedang menuju ke arah memampatkan model utama lain seperti Gemma milik Google, matlamatnya tetap jelas: menjadikan kecerdasan tahap tinggi bersifat tempatan, pantas, dan boleh diakses pada perkakasan pengguna.

Ringkasan Utama

  • Pemampatan Besar-besaran: PrismML boleh mengecilkan model AI 54 GB kepada kurang daripada 4 GB, menjadikannya praktikal untuk telefon pintar kelas atasan seperti iPhone 15.
  • Peningkatan Kecekapan: Teknologi ini menjanjikan penggunaan memori sehingga 15 kali ganda lebih sedikit dan penggunaan tenaga 6 kali ganda lebih sedikit, yang sangat penting untuk mengekalkan jangka hayat bateri semasa tugasan AI.
  • Privasi dan Kelajuan: Memindahkan AI daripada awan ke peranti akan mengurangkan kependaman dan meningkatkan privasi pengguna, yang merupakan teras falsafah produk Apple.

Risiko dan persoalan terbuka

Keputusan PrismML adalah memberangsangkan tetapi masih di peringkat awal.

Apa yang perlu diperhatikan seterusnya

  • Pengesahan rasmi: Apple belum mengumumkan sebarang kerjasama, jadi sebarang kenyataan media atau nota beta iOS 18 mengenai LLM pada peranti akan menjadi isyarat utama.

Kesimpulan: Pemampatan PrismML boleh membolehkan iPhone menjalankan model bahasa yang benar-benar besar tanpa membebankan memori atau menghabiskan bateri, sekali gus memberikan pengalaman AI yang lebih pantas dan peribadi.