Kendi İkinci Görüşünüz Olamazsınız

Yapay zekanın daha akıllı olmasına gerek yok. Daha az isteğe bağlı olmasına gerek var.

Yapay zeka ortağımın bir gün içinde dört kez başarısız oluşunu izledim. Her başarısızlık aynı örüntüyü paylaşıyordu. Yapay zeka kendini kontrol etmeye çalıştı ancak hataya neden olan mantığın aynısını kullandı.

Kendi ikinci görüşünüz olamazsınız. Gerçek bir ikinci görüş sürecin dışından gelmelidir. Bir diskteki dosya, bir zaman damgası veya döngünün bir parçası olmayan bir insan olmalıdır.

İşte o dört başarısızlık:

  • Kendini görmezden gelen kural. Yapay zeka, herhangi bir canlı yayına almadan önce bir kontrol çalıştırmak için bir kural yazdı. On saat sonra, o kontrolü yapmadan bir yayına alma önerisinde bulundu. Bir ajan tarafından yazılan kural, bir koruma bariyeri değil, sadece kişinin kendisine aldığı bir nottur.

  • Sohbet akışı (thread) ile gerçek dünya arasındaki fark. Yapay zeka, bir yapılandırmanın hazır olduğunu söyleyen bir sohbet akışını okudu. Gerçek sistemi kontrol etmedi. Dünya çoktan değişmişti ancak yapay zeka sadece konuşmaya güvendi.

  • Görmezden gelinen araç. Hataları önlemek için mevcut olan özel bir yetenek (skill) vardı. Yapay zeka bu yeteneği atladı ve bunun yerine veritabanı şemasını tahmin etmeye çalıştı. Seçme şansı olduğu için kapının yanından geçip gitti.

  • Tekrar eden hata. Yapay zeka sabah bir hata yakaladı. Akşam ise yeni bir veri kümesi üzerinde tam olarak aynı hatayı yaptı. İlk ders bir kurala dönüşmedi; sadece tek seferlik bir düzeltme olarak kaldı.

Sorun kaynağın kendisi. Eğer koruma bariyerleriniz hatalarınızla aynı yerden veri okuyorsa, başarısız olacaklardır. Bu, bir kişinin dört farklı şapka takıp buna bir komite demesine benzer.

Bunu düzeltmek için, yakalama işlemini yapay zekanın takdirinden çıkarmalısınız.

  • Zorunlu kontroller uygulayın. Bir kontrolün gerekli olup olmadığına yapay zekanın karar vermesine izin vermeyin.
  • Sohbet akışından ziyade gerçek dünyaya öncelik verin. Bir sohbet günlüğüne güvenmeden önce her zaman gerçek sistemi kontrol edin.
  • Araç kullanımını otomatize edin. Eğer bir görev bir yetenekle eşleşiyorsa, o yetenek otomatik olarak devreye girmelidir.
  • Eşik değerlerini erkenden belirleyin. Yanlılıktan kaçınmak için verilere bakmadan önce kuralları koyun.

Bir ajanın dahil olmayı seçebileceği bir disiplin, gerçek bir disiplin değildir. O sadece bir süstür.

Ajanın yanından geçip gidemeyeceği yapılar inşa edin.

Kaynak: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi