Yapay Zeka Bağlam Mühendisliği: Promptlar Neden Yeterli Değil?
İki yıl önce, herkes prompt mühendisliğinden bahsediyordu.
İnsanlar kod yazmak veya uzman gibi davranmak için promptlar paylaşıyordu. Fikir basitti: daha iyi bir prompt, daha iyi bir sonuç demektir.
Ancak gerçek yapay zeka ürünleri inşa eden mühendisler bir gerçeği keşfetti. Bir prompt, yapbozun sadece bir parçasıdır.
Claude, Cursor veya GitHub Copilot gibi modern yapay zeka araçları tek bir prompt'a dayanmaz. Onlar Bağlam Mühendisliği (Context Engineering) kullanır.
Prompt mühendisliği şunu sorar: "Modele ne sormalıyım?"
Bağlam mühendisliği şunu sorar: "Modelin iyi bir cevap verebilmesi için hangi bilgilere ihtiyacı var?"
Bir yazılımcıyı düşünün. Eğer "uygulama bozuldu" derseniz, size yardımcı olamazlar. Birçok soru soracaklardır.
Eğer hata günlüklerini (error logs), yığın izlerini (stack traces) ve son dağıtımları (deployments) sağlarsanız, sorunu hızla çözerler. Daha zeki hale gelmediler; onlara daha iyi bir bağlam sağladınız.
Yapay zeka da aynı şekilde çalışır.
Bir yapay zekadan bir SQL sorgusu isterseniz, tahmin yürütebilir. Eğer ona tablo isimlerini, sütun türlerini ve belirli kuralları verirseniz, cevap doğru hale gelir. Prompt basit kaldı ama bağlam değişti.
Üretim aşamasındaki (production) yapay zeka sistemlerinde model, metninizden çok daha fazlasını alır. Genellikle şunları alır:
- Sistem talimatları
- Konuşma geçmişi
- Veritabanı kayıtları
- Proje dosyaları
- Araç çıktıları
Bir yapay zeka kodlama asistanı, açık dosyalarınızı ve klasör yapınızı gördüğü için neden bahsettiğinizi bilir. Siz dört kelime yazarsınız ancak model binlerce token'lık veri alır.
Bir prompt'un kelimelerini düzeltmek için saatlerinizi harcamayı bırakın. Bunun yerine kendinize şunu sorun: "Model hangi bilgiden yoksun?"
Daha iyi dokümantasyon, API şemaları veya iş kuralları sağlamak, "sihirli" bir prompt bulmaktan daha iyi sonuç verir.
Bağlam mühendisliği, modele doğru zamanda doğru veriyi vermekle ilgilidir.
- Bölümde şunları ele alacağım:
- Bağlam pencereleri (context windows) ve tokenlar
- Neden daha fazla bağlam her zaman daha iyi değildir
- Yapay zekada bellek nasıl çalışır
Harika yapay zeka sistemleri, sadece yazdığınız kelimelere değil, perde arkasındaki verilere dayanır.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi