GLM-5.3, “thinking: disabled” bayrağını kaldırıyor, bu nedenle {"thinking":{"type":"disabled"}} parametresini kullanan tüm entegrasyonlar artık bir yanıt yerine hata döndürüyor. Bu değişiklik bir gecede düzinelerce test paketini bozdu ve geliştiricileri uygulamalarının çalışmaya devam etmesi için tek bir satır kodu yeniden yazmaya zorluyor.

Bu değişimin önemi

GLM-5.2'de API, basit istemler (prompts) için kullanıcıların düşünme modunu kapatmasına izin veriyordu. Bu seçenek; otomasyon betiklerinde, toplu işleme (batch-processing) hatlarında ve düşük gecikmeli botlarda yaygın bir kalıptı. GLM-5.3 bu bayrağı tamamen kaldırdı ve varsayılan olarak max olmak üzere üç çaba seviyesi—low, high ve max—getirdi. Yeni model her zaman bir akıl yürütme izi (reasoning trace) oluşturur; artık tamamen susturulamaz.

Neler bozuldu ve bu durum nasıl yayılıyor

İstek gövdesi "type":"disabled" içerdiğinde, sunucu payload'ı reddeder ve genel bir hata yanıtı döndürür. Herhangi bir kimlik doğrulama veya sözdizimi hatası görünmez, bu nedenle sorun, tam bir regresyon testi başarısız olana kadar fark edilmesi zor olabilir. Bayrak birçok kod tabanında tek bir yeniden kullanılabilir yardımcı fonksiyonda yer aldığı için, etkisi hem büyük test paketlerine hem de üretim uç noktalarına (production endpoints) aynı şekilde yayıldı.

Tam kod değişikliği

Eski payload'ı şununla değiştirin:

extra_body = {"thinking": {"type": "disabled"}}

GLM-5.3 uyumlu sürümüyle:

extra_body = {"thinking": {"type": "enabled", "effort": "low"}}

"type":"enabled" anahtarı akıl yürütme motorunu yeniden etkinleştirirken, "effort":"low" yeni modelin izin verdiği ölçüde eski devre dışı modun hızını taklit eder.

Performans etkileri

Aynı kod inceleme istemlerini düşük çaba (low-effort) ayarıyla çalıştırmak, "eski hıza yakın" ancak özdeş olmayan sonuçlar verir. Model hala bir akıl yürütme izi üretir; bu da birkaç ekstra token ve mütevazı bir gecikme artışına neden olur. Yüksek iş hacimli veya gecikmeye duyarlı iş yüklerinde, ek yükün kabul edilebilir olduğunu doğrulamak için kendi verilerinizle kıyaslama (benchmark) yapmalısınız.

Maliyetine rağmen neden geçiş yapmalı

GLM-5.3, selefinin 744 milyar parametreli mimarisini koruyor ancak kodlama ve agent tabanlı görevlere yeniden odaklanıyor. Bağımsız kıyaslamalar (Terminal-Bench 3.0) puanlarda belirgin bir artış gösteriyor ve dahili testler, birden fazla dosya genelinde mantık hatalarının daha iyi tespit edildiğini bildiriyor. Karmaşık kod analizi için modele güvenen ekipler için performans kazanımları, token tüketimindeki küçük artıştan daha ağır basabilir.

Göz ardı edemeyeceğiniz ödünleşim

Eğer bir uygulamanın gerçekten "sıfır düşünme" yanıtlarına ihtiyacı varsa (örneğin, saf bir token tamamlama servisi), GLM-5.3'te artık yerleşik bir seçenek bulunmuyor. Geliştiriciler ya ekstra akıl yürütme çıktısını kabul etmeli ya da hala devre dışı mod sunan farklı bir modele geçmelidir.

Bundan sonra nelere dikkat edilmeli

  • Gecikme izleme: Payload değişikliğinden sonra, regresyonları erkenden tespit etmek için yanıt sürelerini ve token sayılarını takip edin.
  • Çaba ayarı (Effort tuning): Bazı iş yükleri, tam bir ceza almadan "high" çaba seviyesinden yararlanabilir, bu nedenle "low" ayarının ötesini deneyin.
  • Gelecekteki kullanımdan kaldırmalar: Tek bir bayrağın kaldırılması, API'nin daha fazla konsolidasyon görebileceğini gösteriyor; gelecek sürüm notalarını takipte kalın.

Özetle: thinking payload'ını {"type":"enabled","effort":"low"} olarak güncellemek, GLM-5.3 ile uyumluluğu geri kazandırır. İş akışlarınızdaki (pipelines) gecikmeyi ve token kullanımını doğrulayın ve geliştirilmiş kodlama yeteneklerinin kaçınılmaz akıl yürütme izini hak edip etmediğine karar verin.

Tartışmalar ve topluluk desteği GyaanSetu AI Telegram kanalında mevcuttur.