Açık ağırlıklı (open-weight) yapay zeka modelleri, OpenRouter üzerindeki token trafiğinin %63'ünü üstleniyor; bu oran sadece iki yıl önce %5'in altındaydı. Bu artış, token başına maliyetteki 50 katlık düşüşün ve geliştiricileri kapalı kaynaklı API'lere olan bağımlılıklarını yeniden düşünmeye zorlayan daralan performans farkının bir sonucudur.

Değişimin ardındaki rakamlar

Mozilla'nın trafik analizi, açık ağırlıklı modellerin OpenRouter platformundaki baskın hesaplama kaynağı haline geldiğini gösteriyor. Token trafiği, bir model tarafından işlenen her metin parçasını sayarak gerçek dünya kullanımı için güvenilir bir gösterge sağlar. Bu kadar kısa bir sürede %5'in altından %63'e çıkış, geçici bir trendden ziyade yapısal bir değişime işaret ediyor.

Ekonomik dengeler neden değişti?

2023 yılında, yüksek performanslı bir modeli çalıştırmanın maliyeti işlenen her bir milyon token için yaklaşık 20 dolardı. Bugün ise bu fiyat 0,40 dolar; yani son 36 ayda 50 katlık bir azalma sağlandı.

Performans farkı daralıyor

Açık modeller, standart kıyaslamalarda (benchmarks) tescilli muadillerinin yaklaşık %8 gerisindeydi. Son ölçümler bu farkı %3,3 olarak gösteriyor; bu, daha iyi veri kürasyonu ve mimari iyileştirmeler sayesinde sadece birkaç ay içinde elde edilen bir düşüştür. Fark artık o kadar küçük ki, özellikle maliyetin belirleyici olduğu durumlarda birçok geliştirici, kapalı bir modeli açık bir modelle değiştirmenin çok az dezavantajı olduğunu düşünüyor.

Geliştiriciler kitleler halinde geçiş yapıyor

Mozilla verileri, yapay zeka özellikleri ekleyen geliştiricilerin %79'unun artık açık ağırlıklı bir modelle başladığını gösteriyor. Bu seçim sadece fiyatla ilgili değil; açık modeller ekiplere ağırlıklar, lisanslama ve dağıtım seçenekleri üzerinde tam görünürlük sağlayarak daha hızlı yineleme (iteration) döngülerine olanak tanıyor.

Egemenlik konuyu acilleştiriyor

Kırk yedi ülke son zamanlarda kritik iş yüklerinin yabancı yapay zeka servisleriyle işlenmesini kısıtladı. Açık modeller yerel altyapılarda barındırılabildiği için bu ülkelerin veri kontrolünü ellerinde tutmalarına ve yeni ortaya çıkan düzenlemelere uymalarına olanak tanıyor. Politika baskısı; finans, sağlık ve kamu yönetimi alanlarında benimsenmeyi hızlandırıyor.

Gerçek koruma kalkanı "harness" yapısıdır

Mozilla'nın analizi ayrıca, çevredeki araçların —prompt mühendisliği çerçeveleri, güvenlik filtreleri, orkestrasyon boru hatları (pipelines)— genellikle modeli biraz daha iyi bir modelle değiştirmekten daha büyük performans kazanımları sağladığını vurguluyor.

Kapalı API'lere bağlı kalmanın riskleri

  • Tedarikçi riski – Politika değişiklikleri, fiyat revizyonları veya hükümet emirleri erişimi anında kesebilir ve yeni bir sözleşme müzakere edilene kadar hizmetlerin çevrimdışı kalmasına neden olabilir.

Günümüz geliştiricileri için pragmatik bir teknoloji yığını (stack)

  • Üretim iş yüklerinin büyük kısmı için varsayılan olarak açık ağırlıklı modelleri kullanın.
  • Ekosisteme (harness) yatırım yapın: değerlendirme setleri oluşturun, yeniden kullanılabilir prompt kütüphaneleri geliştirin ve güvenlik katmanlarını entegre edin.
  • Taşınabilirlik için tasarlayın: model çağrılarını, kod değişikliği yapmadan birden fazla sağlayıcıya yönlendirebilen bir arayüzün arkasına soyutlayın.
  • Kapalı modelleri, açık modellerin henüz eşleşemediği en ileri düzey muhakeme veya tescilli veri gerektiren yaklaşık %10'luk görevler için ayırın.

Sırada ne var?

Açık ağırlıklı modeller, kapalı alternatifler kadar yetenekli ve çok daha ucuz oldukları için artık yapay zeka token pazarını domine ediyor. Güçlü bir ekosistem (harness) kuran ve teknoloji yığınlarını taşınabilir tutan ekipler, maliyet tasarrufu sağlarken kendilerini tedarikçi ve politika şoklarından koruyacaklardır. Kapalı modeller özel araçlar olarak varlığını sürdürse de, yapay zeka işlerinin büyük bir kısmı şimdiden açık dünyaya kayıyor.