Deep Interaction, geliştiricilerin bir dil modelinin akıl yürütme zincirini anlık olarak düzenlemesine olanak tanıyarak, STEM problemlerinde düzeltme başarısını %25'ten fazla artırıyor ve token kullanımını yaklaşık %40 oranında azaltıyor.
Mevcut düzeltmeler neden yetersiz kalıyor
Düşünce zinciri (chain-of-thought) istemlerini kullanan büyük dil modelleri (LLM'ler), karmaşık soruları bir dizi mantıksal adıma böler. Bir adım yanlış gittiğinde, geliştiriciler genellikle konuşmayı yeniden başlatır veya başına düzeltici bir istem ekler. Her iki yöntem de zaman kaybına yol açar: model genellikle hatayı tekrarlar veya öğrenmeden genel bir özür iletir. Geliştiriciler, modeli tekrar doğru yola sokmak için onlarca istem göndermek zorunda kalır; bu da token sayılarını ve hesaplama maliyetlerini artırır.
Deep Interaction neyi farklı yapıyor
Yeni teknik, modelin çıktısını kapalı bir kutu (black-box) cevap yerine düzenlenebilir bir metin olarak ele alır. İş akışı şu şekildedir:
- Hatayı tespit et – geliştirici, akıl yürütme zincirindeki yanlış olan tam adımı belirler.
- Yerinde düzenle – geliştirici, çevredeki doğru adımları koruyarak o satırı yeniden yazar.
- Düzenlemeyi damıt – sistem, insan tarafından yapılan düzeltmeyi, amaçlanan mantığı yakalayan özlü bir isteme dönüştürür.
- Modele rehberlik et – LLM bu damıtılmış istemi alır ve düzeltilen noktadan itibaren akıl yürütmeye devam eder.
Modele tam bir yeniden istem yerine odaklanmış bir düzeltme sunmak, cevabın daha önceki ve zaten doğru olan kısımlarının yeniden oluşturulmasını engeller.
Ölçülebilir kazanımlar
Bir dizi STEM görevi üzerindeki kıyaslamalar (benchmarks), etkiyi açıkça göstermektedir. Geliştiriciler Deep Interaction kullandığında, başarıyla düzeltilen cevapların oranı, standart yeniden istemleme yöntemine kıyasla dörtte birden fazla arttı. Aynı zamanda, token tüketimi yaklaşık %40 oranında düştü; bu da bulut hesaplama faturalarını düşürürken etkileşimli uygulamaları hızlandırdı.
Kimler fayda sağlar
- Geliştiriciler – Artık sonsuz istem ayarlama (prompt-tuning) döngüleri yazmalarına gerek kalmaz. Tek bir düzenleme mantıksal bir hatayı çözebilir ve daha üst düzey işler için zaman kazandırır.
- Bilimsel veya mühendislik araçları geliştiren işletmeler – Daha güvenilir akıl yürütme, simülasyonlarda, hesaplamalarda veya veri analizi süreçlerinde daha az sonraki hata anlamına gelir.
- Son kullanıcılar – Daha hızlı yanıtlar ve daha düşük hizmet ücretleri, yapay zeka destekli asistanların genel deneyimini iyileştirir.
Sınırlar ve karşı görüşler
Deep Interaction, geliştiricinin tam mantıksal kusuru tanımlayabileceğini ve ifade edebileceğini varsayar. Hatanın ince olduğu veya akıl yürütmenin belirsiz olduğu alanlarda, manuel düzenleme pratik olmayabilir. Bildirilen kazanımlar ayrıca kontrollü STEM kıyaslamalarından elde edilmiştir.
Özetle
Deep Interaction, bir geliştiriciyi pasif bir kullanıcıdan aktif bir öğretmene dönüştürerek LLM akıl yürütmelerinin hassas ve düşük maliyetli bir şekilde düzeltilmesine olanak tanır.