The Greatest Danger to AI

Çoğu insan, bilinci açılan bir makineden korkuyor.

Gerçek tehlike ise daha sessiz.

Yapay zekâ çok akıllı olduğu için değil, öğrendiği verileri zehirlediğimiz için başarısız olabilir.

2029 yılına kadar modeller daha büyük olacak. Daha iyi muhakeme yeteneklerine ve daha fazla ajana sahip olacaklar. Şirketler onlara daha fazla güvenecek.

Bu modeller internet üzerinden eğitiliyor. Blogları, forumları, sosyal medyayı ve araştırma makalelerini okuyorlar.

Ancak internet değişiyor.

Botlar, şirketler ve siyasi gruplar artık devasa ölçekte içerik yayınlıyor. Sadece spam paylaşmıyorlar; iyi yazılmış, inandırıcı içerikler paylaşıyorlar.

İnternet, eğitim veri setleri için bir savaş alanına dönüşüyor.

Geleneksel propaganda insanları hedefler. Yapay zekâ dünyasında ise hedef, modelin kendisidir.

Eğer eğitim verisine bir yalan veya bir önyargı girerse, bu yapay zekânın bir parçası haline gelir. Bir alıntı olarak kalmaz; varsayılan bir varsayıma dönüşür. Doğruymuş gibi tınlayan o cevap haline gelir.

Bu sadece teknik bir saldırı değil; ince bir değişimdir.

Amaç modeli bozmak değil, onu bükmektir.

Şu riskleri göz önünde bulundurun:

  • Binlerce sahte sayfa, bir ürünün güvenli görünmesini sağlar.
  • Sahte yazılımcı sohbetleri, güvensiz kodların bir "en iyi uygulama" (best practice) gibi görünmesine neden olur.
  • Siyasi hikâyeler, bir seçimden yıllar önce yerleştirilir.
  • Sentetik görüşler, geleceğin asistanlarının sesi haline gelir.

Tehlike tek bir yalan değildir. Tehlike, gerçekliğin çarpıtılmış bir haritasıdır.

İnternet iletişim ve ticaret için yapıldı; temiz bir veri seti olması için değil.

İnsanlar artık insan okuyucular yerine gelecekteki modeller için yazıyor.

  • Bir blog yazısı bir tohum haline gelir.
  • Sahte bir inceleme, bir eğitim sinyaline dönüşür.
  • Teknik bir makale, davranışsal bir öneri haline gelir.

Binlerce küçük yalan, istatistiksel bir gerçeğe dönüşür.

Yapay zekâ belgelerimizi, gürültümüzü ve manipülasyonlarımızı miras alır. Eğer internet kirli kalmaya devam ederse, modeller bizim çarpıtmalarımızdan öğrenecektir.

Soru sadece "Yapay zekâyı nasıl güvenli hale getiririz?" değil.

Asıl soru "Bilgimizi, yapay zekânın öğrenebileceği şekilde nasıl güvende tutarız?"

Yarının modelleri bugünün internetinden öğreniyor. Ve insanlar şimdiden o modeller için yazıyor.

Kaynak: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km