Hafif Açık Kaynaklı LLM'ler için Komut Odaklı Araç Çağırma
GPT-4 gibi büyük modeller iyi çalışır. Yüksek hesaplama ihtiyaçları vardır.
Küçük açık kaynaklı modeller genellikle karmaşık akıl yürütme konusunda zorlanır. Büyük modelleri çalıştırmak için devasa GPU'lara ihtiyaç duyarsınız.
Küçük modellerin yapılandırılmış komutlar (prompts) aracılığıyla araç kullanmalarına yardımcı olacak bir yöntem araştırdım. Bu araştırma "Prompt-Driven Tool-Calling for Lightweight Open Source LLMs" başlığını taşımaktadır.
Sorun:
- Küçük modeller akıl yürütme becerilerinden yoksundur.
- Büyük modelleri çalıştırmak maliyetlidir.
- Daha az donanım üzerinde çalışan verimli ajanlara ihtiyacımız var.
Çözüm: Modelleri her şeyi ezberlemeye zorlamayı bırakın. Modeli bir kontrolcüye dönüştürmek için komutları kullanın.
Nasıl çalışır: Komut, modeli şunlara yönlendirir:
- Niyetinizi anlamak.
- Problemleri adımlara bölmek.
- Tahmin yürütmek yerine bir araç seçmek.
İş akışı şu adımları izler: Kullanıcı Sorusu $\rightarrow$ LLM $\rightarrow$ Araç Seçimi $\rightarrow$ Araç Çalıştırma $\rightarrow$ Nihai Cevap.
Model, gerçekleri doğru bir şekilde elde etmek için hesap makinesi gibi araçlar kullanır.
Temel Avantajlar:
- Küçük modeller akıllı ajanlar gibi davranır.
- Yapay zeka daha erişilebilir hale gelir.
- Zeka, model boyutundan ziyade sistem tasarımına bağlıdır.
Sadece parametreleri ölçeklendirmek yerine araç entegrasyonunu ölçeklendirmeliyiz.
Bu çalışma AIS2C2 2025'te yayınlanmıştır.
Kaynak: https://www.aiscindia.co.in/wp-content/uploads/2026/06/ilovepdf_merged-4.pdf
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi