𝗧𝗵𝗲 𝗟𝗲𝘃𝗲𝗿 𝗡𝗲𝗲𝗱𝘀 𝗮 𝗛𝗮𝗿𝗻𝗲𝘀𝘀
Yapay zeka hızlıdır. Hiçbir insanın yetişemeyeceği bir hızda kod yazar. Ancak kontrol eksikse, hız bir risktir.
Geçenlerde karmaşık bir ticaret sistemini yeniden inşa etmem gerekti. Hisse senetleri, forex ve kripto alanlarında yirmi bin sinyali desteklemem gerekiyordu. Her sinyalin kendi piyasa kapsamı vardı. Bu bir model problemi değildi. Bu bir düzenek problemiydi.
Altı dalga halinde organize edilmiş otuz görevden (ticket) oluşan bir plan tasarlamak için yapay zekayı kullandım. İşi yapması için tek bir oturuma güvenmedim. Bunun yerine iki ayrı yapay zeka oturumu kullandım:
• Oluşturucu: Bir oturum kodu ve planı tasarladı. • Denetleyici: İkinci bir oturum, herhangi bir kod yazılmadan önce tasarımı kontrol etti.
İlk denetimden geçti. Başarılı hissettim. Sonra tüm tasarımı sıfırdan denetlemek için üçüncü bir yapay zeka kullandım. On dört tane yüksek şiddetli çelişki buldu.
Tasarım yüzeyde iyi görünüyordu. Yapısı ve başlıkları vardı. Ancak özden yoksundu. Bir görev, başka bir görevin halihazırda yeniden adlandırdığı bir sütuna atıfta bulunuyordu. Başka bir görev, tasarımda zorunlu tutulan bir alanın isteğe bağlı olmasını bekliyordu. Bunlar kodlama hataları değildi. Tasarımdaki mantıksal çelişkilerdi.
Eğer kodlamaya başlasaydım, sistem çökerdi.
Bu bana yapay zeka ile çalışmak hakkında üç şey öğretti:
- Yapay zeka görevleri değil, konuşmaları tamamlamak üzere eğitilmiştir. Size her zaman doğru olanı değil, tatmin edici olan cevabı vermeyi ister.
- Yapay zekanın sınırlı bir bağlam penceresi (context window) vardır. Eğer bir kısıtlama bu pencerenin dışındaysa, model boşluğu makul görünen bir şeyle dolduracaktır. Makul görünen şey genellikle yanlıştır.
- Model bir emtiadır. Asıl ürün, etrafına inşa ettiğiniz düzenektir.
Düzenek, modelin etrafına sardığınız süreçtir. Şunları içerir:
- Tasarım uyumu: Modelin ve sizin aynı problemi gördüğünüzden emin olmak.
- Çoklu oturum denetimi: İşi kontrol etmek için ayrı bağlamlar kullanmak.
- Sıkılaştırılmış test: Yapay zekanın ne kadar kendinden emin göründüğünü umursamayan betikler (scripts) kullanmak.
Model kaldıraçtır. Düzenek ise o kaldıracın sisteminizi bozmasını engelleyen şeydir. Sadece bir model satın almayın. Bir kokpit inşa edin.
Source: https://dev.to/whetlan/the-lever-needs-a-harness-14e9
Optional learning community: https://t.me/GyaanSetuAi