GLM-5.3 menghapuskan flag “thinking: disabled”, jadi sebarang integrasi yang menghantar {"thinking":{"type":"disabled"}} kini akan mengembalikan ralat dan bukannya respons. Perubahan ini telah merosakkan berpuluh-puluh suite ujian dalam semalam dan memaksa pembangun menulis semula satu baris kod untuk memastikan aplikasi mereka terus berjalan.

Mengapa peralihan ini penting

Dalam GLM-5.2, API membenarkan pemanggil mematikan mod pemikiran untuk prom yang remeh. Pilihan tersebut merupakan corak biasa dalam skrip automasi, saluran pemprosesan berkelompok (batch-processing pipelines) dan bot kependaman rendah (low-latency bots). GLM-5.3 telah menghapuskan flag tersebut sepenuhnya dan memperkenalkan tiga tahap usaha—rendah (low), tinggi (high) dan maksimum (max)—dengan max sebagai tetapan lalai. Model baharu ini sentiasa menjana jejak penaakulan; ia tidak lagi boleh dipadamkan sepenuhnya.

Apa yang rosak dan bagaimana ia merebak

Apabila badan permintaan mengandungi "type":"disabled", pelayan akan menolak muatan (payload) tersebut dan mengembalikan respons kegagalan generik. Tiada ralat pengesahan atau sintaks yang muncul, jadi masalah ini sukar dikesan sehingga larian regresi penuh gagal. Oleh kerana flag tersebut berada dalam satu fungsi pembantu (helper function) yang boleh digunakan semula dalam banyak pangkalan kod, impaknya merebak ke seluruh suite ujian yang besar dan titik akhir (endpoint) pengeluaran.

Perubahan kod yang tepat

Gantikan muatan lama:

extra_body = {"thinking": {"type": "disabled"}}

dengan versi yang serasi dengan GLM-5.3:

extra_body = {"thinking": {"type": "enabled", "effort": "low"}}

Kunci "type":"enabled" mengaktifkan semula enjin penaakulan, manakala "effort":"low" meniru kelajuan mod "disabled" sebelum ini sekerap yang dibenarkan oleh model baharu.

Implikasi prestasi

Menjalankan prom semakan kod yang sama dengan tetapan usaha rendah (low-effort) menghasilkan keputusan yang “hampir dengan kelajuan lama” tetapi tidak serupa. Model tersebut masih mengeluarkan jejak penaakulan, yang menambah beberapa token tambahan dan sedikit peningkatan kependaman (latency). Dalam beban kerja berkapasiti tinggi atau kritikal kependaman, anda harus melakukan penandaarasan (benchmark) pada data anda sendiri untuk mengesahkan bahawa beban tambahan (overhead) tersebut boleh diterima.

Mengapa perlu migrasi walaupun melibatkan kos

GLM-5.3 mengekalkan seni bina 744 bilion parameter pendahulunya tetapi memfokuskan semula kepada tugas pengkodan dan tugas ejen (agentic tasks). Penandaarasan bebas (Terminal-Bench 3.0) menunjukkan lonjakan skor yang ketara, dan ujian dalaman melaporkan pengesanan ralat logik yang lebih baik merentasi pelbagai fail. Bagi pasukan yang bergantung pada model ini untuk analisis kod yang kompleks, peningkatan prestasi boleh mengatasi sedikit peningkatan dalam penggunaan token.

Imbangan yang tidak boleh anda abaikan

Jika sesuatu aplikasi benar-benar memerlukan respons tanpa pemikiran—contohnya, perkhidmatan pelengkapan token tulen—ia kini tidak mempunyai pilihan asli dalam GLM-5.3. Pembangun mesti sama ada menerima output penaakulan tambahan atau beralih ke model berbeza yang masih menawarkan mod "disabled".

Apa yang perlu diperhatikan seterusnya

  • Pemantauan kependaman: Selepas perubahan muatan, pantau masa respons dan jumlah token untuk mengesan regresi lebih awal.
  • Penalaan usaha: Sesetengah beban kerja mungkin mendapat manfaat daripada usaha “high” tanpa penalti penuh, jadi bereksperimenlah melampaui tetapan "low".
  • Penghentian fungsi (deprecation) masa hadapan: Pembuangan satu flag menunjukkan API mungkin akan mengalami lebih banyak penyatuan; perhatikan nota keluaran yang akan datang.

Kesimpulannya: Mengemas kini muatan thinking kepada {"type":"enabled","effort":"low"} memulihkan keserasian dengan GLM-5.3. Sahkan kependaman dan penggunaan token dalam saluran (pipeline) anda, dan putuskan sama ada keupayaan pengkodan yang dipertingkatkan mewajarkan jejak penaakulan yang tidak dapat dielakkan itu.

Perbincangan dan sokongan komuniti tersedia di saluran Telegram GyaanSetu AI.