Daripada CoT Eksplisit kepada CoT Implisit
Model AI menyelesaikan masalah sukar dengan berfikir langkah demi langkah. Proses ini dipanggil Chain of Thought atau CoT.
Kebanyakan model menggunakan CoT Eksplisit. Ia menulis setiap pemikiran sebelum memberikan jawapan. Ini menjadikan model tersebut perlahan. Ia juga menggunakan banyak token.
Penyelidikan baharu menunjukkan cara yang lebih baik. Model boleh beralih kepada CoT Implisit. Ini bermakna model tersebut menginternalisasikan langkah-langkah penaakulan. Ia memikirkan logik tanpa perlu menulis setiap perkataan.
Peralihan ini mengubah cara AI berfungsi. Ia menjadikan model lebih pantas. Ia menjadikannya lebih cekap.
Cara ia berfungsi:
- Model belajar untuk mengikut corak logik.
- Ia memindahkan penaakulan daripada output kepada lapisan tersembunyi (hidden layers).
- Model menyelesaikan masalah kompleks dengan teks yang lebih sedikit.
Melatih model untuk menginternalisasikan langkah-langkah ini memerlukan data dan kaedah yang khusus. Ini membantu model mengekalkan ketepatan sambil mengurangkan kos penjanaan.
Anda harus memerhatikan bidang ini dengan teliti. Penaakulan yang cekap adalah langkah seterusnya bagi model bahasa besar (large language models).
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi