GLM-5.3 “thinking: disabled” എന്ന ഫ്ലാഗ് ഒഴിവാക്കി, അതിനാൽ {"thinking":{"type":"disabled"}} ഉപയോഗിച്ചിരുന്ന ഏതൊരു ഇന്റഗ്രേഷനും ഇപ്പോൾ മറുപടിക്ക് പകരം ഒരു എറർ (error) നൽകുന്നു. ഈ മാറ്റം രാത്രിയോടെ ഡസൻ കണക്കിന് ടെസ്റ്റ് സ്യൂട്ടുകളെ തകരാറിലാക്കുകയും, ആപ്ലിക്കേഷനുകൾ പ്രവർത്തിപ്പിക്കാൻ ഡെവലപ്പർമാരെ ഒരു വരി കോഡ് മാറ്റാൻ നിർബന്ധിതരാക്കുകയും ചെയ്തു.

എന്തുകൊണ്ടാണ് ഈ മാറ്റം പ്രധാനമാകുന്നത്

GLM-5.2-ൽ, ലളിതമായ പ്രോംപ്റ്റുകൾക്കായി തിങ്കിംഗ് മോഡ് (thinking mode) ഓഫ് ചെയ്യാൻ API അനുവദിച്ചിരുന്നു. ഓട്ടോമേഷൻ സ്ക്രിപ്റ്റുകൾ, ബാച്ച്-പ്രോസസ്സിംഗ് പൈപ്പ്‌ലൈനുകൾ, ലോ-ലേറ്റൻസി ബോട്ടുകൾ എന്നിവയിൽ ഈ ഓപ്ഷൻ ഒരു സാധാരണ രീതിയായിരുന്നു. GLM-5.3 ഈ ഫ്ലാഗ് പൂർണ്ണമായും നീക്കം ചെയ്യുകയും low, high, max എന്നിങ്ങനെ മൂന്ന് എഫർട്ട് ലെവലുകൾ (effort levels) അവതരിപ്പിക്കുകയും ചെയ്തു—ഇതിൽ max ആണ് ഡിഫോൾട്ട്. പുതിയ മോഡൽ എപ്പോഴും ഒരു റീസണിംഗ് ട്രാസ് (reasoning trace) നിർമ്മിക്കുന്നു; ഇത് ഇനി പൂർണ്ണമായും ഒഴിവാക്കാൻ കഴിയില്ല.

എന്താണ് തകരാറിലായത്, അത് എങ്ങനെ വ്യാപിക്കുന്നു

റിക്വസ്റ്റ് ബോഡിയിൽ "type":"disabled" അടങ്ങിയിരിക്കുമ്പോൾ, സെർവർ പേലോഡ് (payload) നിരസിക്കുകയും ഒരു ജനറിക് ഫെയിലർ റെസ്പോൺസ് (generic failure response) നൽകുകയും ചെയ്യുന്നു. ഓതന്റിക്കേഷൻ (authentication) അല്ലെങ്കിൽ സിന്റാക്സ് (syntax) എററുകൾ ഒന്നും കാണിക്കാത്തതിനാൽ, ഒരു ഫുൾ റഗ്രഷൻ റൺ (full regression run) പരാജയപ്പെടുന്നത് വരെ പ്രശ്നം കണ്ടെത്താൻ പ്രയാസമായിരിക്കും. പല കോഡ്ബേസുകളിലും ഈ ഫ്ലാഗ് ഒരു സിംഗിൾ റീയൂസബിൾ ഹെൽപ്പർ ഫംഗ്ഷനിൽ (reusable helper function) ആയതിനാൽ, ഇതിന്റെ ആഘാതം വലിയ ടെസ്റ്റ് സ്യൂട്ടുകളിലും പ്രൊഡക്ഷൻ എൻഡ്‌പോയിന്റുകളിലും ഒരുപോലെ പടർന്നു.

കൃത്യമായ കോഡ് മാറ്റം

പഴയ പേലോഡ് മാറ്റുക:

extra_body = {"thinking": {"type": "disabled"}}

GLM-5.3-ന് അനുയോജ്യമായ പതിപ്പായി:

extra_body = {"thinking": {"type": "enabled", "effort": "low"}}

"type":"enabled" എന്ന കീ റീസണിംഗ് എഞ്ചിനെ വീണ്ടും സജീവമാക്കുന്നു, അതേസമയം "effort":"low" എന്നതിലൂടെ പുതിയ മോഡലിന് സാധ്യമാകുന്നത്ര വേഗത്തിൽ പഴയ ഡിസേബിൾഡ് മോഡിന്റെ വേഗത ലഭിക്കുന്നു.

പ്രകടനപരമായ പ്രത്യാഘാതങ്ങൾ

ലോ-എഫർട്ട് (low-effort) സെറ്റിംഗിൽ ഒരേ കോഡ്-റിവ്യൂ പ്രോംപ്റ്റുകൾ പ്രവർത്തിപ്പിക്കുമ്പോൾ ലഭിക്കുന്ന ഫലങ്ങൾ “പഴയ വേഗതയോട് അടുത്താണ്”, എന്നാൽ അവ ഒരേപോലെയല്ല. മോഡൽ ഇപ്പോഴും ഒരു റീസണിംഗ് ട്രാസ് പുറപ്പെടുവിക്കുന്നു, ഇത് കുറച്ച് അധിക ടോക്കണുകളും (tokens) ചെറിയൊരു ലേറ്റൻസി വർദ്ധനവും (latency bump) ഉണ്ടാക്കുന്നു. ഹൈ-ത്രൂപുട്ട് (high-throughput) അല്ലെങ്കിൽ ലേറ്റൻസി നിർണ്ണായകമായ വർക്ക്ലോഡുകളിൽ, ഈ അധികഭാരം (overhead) സ്വീകാര്യമാണോ എന്ന് ഉറപ്പാക്കാൻ നിങ്ങളുടെ സ്വന്തം ഡാറ്റ ഉപയോഗിച്ച് ബെഞ്ച്മാർക്ക് ചെയ്യേണ്ടതാണ്.

ചെലവ് കൂടിയാലും എന്തുകൊണ്ട് മൈഗ്രേറ്റ് ചെയ്യണം

GLM-5.3 അതിന്റെ മുൻഗാമിയുടെ 744-ബില്യൺ പാരാമീറ്റർ ആർക്കിടെക്ചർ നിലനിർത്തുന്നുണ്ടെങ്കിലും കോഡിംഗിലും ഏജന്റിക് ടാസ്ക്കുകളിലും (agentic tasks) കൂടുതൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. സ്വതന്ത്ര ബെഞ്ച്മാർക്കുകൾ (Terminal-Bench 3.0) സ്കോറുകളിൽ ശ്രദ്ധേയമായ വർദ്ധനവ് കാണിക്കുന്നുണ്ട്, കൂടാതെ ഒന്നിലധികം ഫയലുകളിലെ ലോജിക് എററുകൾ കൂടുതൽ കൃത്യമായി കണ്ടെത്താൻ കഴിയുന്നതായി ആഭ്യന്തര പരിശോധനകളിൽ റിപ്പോർട്ട് ചെയ്തിട്ടുണ്ട്. സങ്കീർണ്ണമായ കോഡ് വിശകലനത്തിനായി ഈ മോഡലിനെ ആശ്രയിക്കുന്ന ടീമുകളെ സംബന്ധിച്ചിടത്തോളം, ടോക്കൺ ഉപയോഗത്തിലുണ്ടാകുന്ന ചെറിയ വർദ്ധനവിനേക്കാൾ പ്രകടനത്തിലുള്ള നേട്ടങ്ങൾ വലുതായിരിക്കും.

നിങ്ങൾക്ക് അവഗണിക്കാനാവാത്ത വിട്ടുവീഴ്ചകൾ

ഒരു ആപ്ലിക്കേഷന് യഥാർത്ഥത്തിൽ 'സീറോ-തിങ്കിംഗ്' (zero-thinking) മറുപടികൾ ആവശ്യമാണെങ്കിൽ—ഉദാഹരണത്തിന്, ഒരു പ്യുവർ ടോക്കൺ-കംപ്ലീഷൻ സർവീസ്—GLM-5.3-ൽ അതിനായി ഇപ്പോൾ നേരിട്ടുള്ള ഓപ്ഷനില്ല. ഡെവലപ്പർമാർക്ക് ഒന്നുകിൽ അധികമായ റീസണിംഗ് ഔട്ട്‌പുട്ട് സ്വീകരിക്കുകയോ അല്ലെങ്കിൽ ഇപ്പോഴും ഡിസേബിൾഡ് മോഡ് നൽകുന്ന മറ്റൊരു മോഡലിലേക്ക് മാറുകയോ ചെയ്യേണ്ടി വരും.

അടുത്തതായി ശ്രദ്ധിക്കേണ്ടവ

  • ലേറ്റൻസി മോണിറ്ററിംഗ് (Latency monitoring): പേലോഡ് മാറ്റത്തിന് ശേഷം, റഗ്രഷനുകൾ നേരത്തെ കണ്ടെത്താൻ റെസ്പോൺസ് സമയവും ടോക്കൺ എണ്ണവും നിരീക്ഷിക്കുക.
  • എഫർട്ട് ട്യൂണിംഗ് (Effort tuning): ചില വർക്ക്ലോഡുകൾക്ക് വലിയ നഷ്ടമില്ലാതെ “high” എഫർട്ട് ഉപയോഗിക്കുന്നത് ഗുണകരമായേക്കാം, അതിനാൽ “low” സെറ്റിംഗിന് അപ്പുറവും പരീക്ഷിച്ചു നോക്കുക.
  • ഭാവിയിലെ മാറ്റങ്ങൾ (Future deprecations): ഒരു ഫ്ലാഗ് നീക്കം ചെയ്തത് API-യിൽ കൂടുതൽ മാറ്റങ്ങൾ വരാൻ സാധ്യതയുണ്ടെന്ന് സൂചിപ്പിക്കുന്നു; വരാനിരിക്കുന്ന റിലീസ് നോട്ടുകൾ ശ്രദ്ധിക്കുക.

ചുരുക്കത്തിൽ: thinking പേലോഡ് {"type":"enabled","effort":"low"} എന്ന് അപ്‌ഡേറ്റ് ചെയ്യുന്നത് GLM-5.3-മായുള്ള പൊരുത്തം വീണ്ടെടുക്കാൻ സഹായിക്കും. നിങ്ങളുടെ പൈപ്പ്‌ലൈനുകളിലെ ലേറ്റൻസിയും ടോക്കൺ ഉപയോഗവും പരിശോധിക്കുക, കൂടാതെ മെച്ചപ്പെട്ട കോഡിംഗ് കഴിവുകൾ ഒഴിവാക്കാനാവാത്ത റീസണിംഗ് ട്രാസിനെ ന്യായീകരിക്കുന്നുണ്ടോ എന്ന് തീരുമാനിക്കുക.

ചർച്ചകൾക്കും കമ്മ്യൂണിറ്റി പിന്തുണയ്ക്കുമായി GyaanSetu AI ടെലിഗ്രാം ചാനൽ സന്ദർശിക്കുക.