Dari CoT Eksplisit ke CoT Implisit
Model AI memecahkan masalah sulit dengan berpikir selangkah demi selangkah. Proses ini disebut Chain of Thought atau CoT.
Sebagian besar model menggunakan CoT Eksplisit. Mereka menuliskan setiap pemikiran sebelum memberikan jawaban. Hal ini membuat model menjadi lambat. Ini juga menggunakan banyak token.
Penelitian baru menunjukkan cara yang lebih baik. Model dapat beralih ke CoT Implisit. Ini berarti model menginternalisasi langkah-langkah penalaran. Model memikirkan logikanya tanpa menuliskan setiap kata.
Pergeseran ini mengubah cara kerja AI. Ini membuat model menjadi lebih cepat. Ini membuat mereka lebih efisien.
Cara kerjanya:
- Model belajar mengikuti pola logika.
- Mereka memindahkan penalaran dari output ke lapisan tersembunyi.
- Model memecahkan masalah kompleks dengan teks yang lebih sedikit.
Melatih model untuk menginternalisasi langkah-langkah ini memerlukan data dan metode khusus. Hal ini membantu model menjaga akurasi sambil mengurangi biaya generasi.
Anda harus mengamati bidang ini dengan saksama. Penalaran yang efisien adalah langkah selanjutnya bagi model bahasa besar.
Komunitas belajar opsional: https://t.me/GyaanSetuAi